Điểm tin AI tuần qua: OpenAI và bài toán Navier–Stokes, lời kêu gọi kiểm soát tốc độ phát triển AI

Liên quan:

Về bài toán giải thưởng Thiên niên kỷ Navier–Stokes

Quartz: OpenAI giải thành công bài toán giải thưởng Thiên niên kỷ Navier–Stokes

Nhà toán học tại NYU cho biết OpenAI đã chơi xấu trong bài toán toán học mang tính bước ngoặt sự nghiệp

Mâu thuẫn của OpenAI với giới toán học ngày càng leo thang

OpenAI cho biết vào ngày 8 tháng 9 rằng một mô hình nội bộ chưa được công bố, được mô tả là có năng lực vượt trội đáng kể so với GPT-6 Astra, đã giải quyết được vấn đề về sự tồn tại và tính trơn của phương trình Navier–Stokes. Đây là một trong bảy bài toán giải thưởng Thiên niên kỷ được Viện Toán học Clay công bố vào năm 2000, mỗi bài toán trị giá 1 triệu USD.

Bản báo cáo và quá trình hình thức hóa bằng Lean của OpenAI cho thấy một chất lưu không nén được, ba chiều, ban đầu ở trạng thái tĩnh, chịu tác động của một ngoại lực trơn và có năng lượng hữu hạn, có thể phát triển tốc độ không giới hạn trong một khoảng thời gian hữu hạn. Cơ chế được mô tả là một xoáy nước cuộn vào trong và kéo dài ra như sợi mì spaghetti, với lõi xoáy co lại và tăng tốc. Trình tự sự việc, theo bài đăng và báo cáo của OpenAI:

Ngày 1 tháng 9: OpenAI khởi động nỗ lực sử dụng các tác nhân (agent) để giải quyết các bài toán Thiên niên kỷ mở sau khi nghe tin đồn rằng hai trong số đó đã được giải. Gần 100 tác nhân đã giải quyết được câu hỏi về sự bùng nổ của phương trình Euler không chịu lực trong khoảng 50 giờ, sau đó các nguồn lực được chuyển sang bài toán Navier–Stokes với khoảng 10.000 tác nhân chạy đồng thời.

Ngày 5 tháng 9: Các tác nhân đạt được lời giải khoảng 88 giờ sau khi khởi động, và quá trình hình thức hóa cũng như xác minh bằng Lean mất thêm 17 giờ nữa sử dụng GPT-6 Astra. Trên tất cả các bài toán, nỗ lực kéo dài một tuần này đã tiêu tốn 300 tỷ token đầu ra, được TechCrunch định giá là 22,5 triệu USD theo mức giá hiện tại của Astra.

Ngày 7 tháng 9: Tristan Buckmaster của NYU và nhà toán học Levent Alpöge của Anthropic công bố kết quả về sự bùng nổ của phương trình Euler có lực, đạt được chủ yếu nhờ Codex của OpenAI kết hợp với Claude.

Ngày 8 tháng 9: OpenAI công bố bản chứng minh, bản in thử (preprint) và các tệp Lean.

Luis Martínez Zoroa từ Đại học CUNEF gọi đây là “một kết quả thực sự đáng kinh ngạc”, nhưng thông báo này lại vướng vào một cuộc tranh chấp về quyền tác giả. Buckmaster cho biết ông và Alpöge đã dành nhiều tháng cho hướng nghiên cứu có lực và rằng “gần như không có ai khác mà tôi biết đang làm việc đó”. Khi ông chất vấn OpenAI về thời điểm bắt đầu nỗ lực này, ông cho biết các câu trả lời trở nên né tránh cho đến khi thừa nhận rằng lời nhắc (prompt) đầu tiên đã được gửi sau khi thông tin về công trình của họ đến tai công ty.

Buckmaster cũng cáo buộc Sébastien Bubeck của OpenAI đã yêu cầu ông xóa tên Alpöge và khi ông thúc đẩy việc công khai, Bubeck đã trả lời: “Tại sao bạn lại muốn hủy hoại sự nghiệp của mình?”. Bubeck gọi các cáo buộc này là “sai sự thật và mang tính kích động” và cho biết đội ngũ của OpenAI không có chuyên môn cấp nghiên cứu về động lực học chất lưu.

OpenAI cho biết cả các nhà nghiên cứu lẫn các tác nhân của họ đều không nhìn thấy công trình của cặp đôi này trước khi công bố và không có dữ liệu người dùng cụ thể nào bị truy cập. Công ty cho biết không thể loại trừ khả năng dữ liệu đã được ẩn danh từ việc sử dụng sản phẩm của họ đã giúp cải thiện các mô hình, và một bản cập nhật ngày 10 tháng 9 cho biết một cuộc điều tra đã xác nhận các lời nhắc Codex của Buckmaster trong hai tháng trước đó không thể ảnh hưởng đến kết quả.

Viện Clay vẫn liệt kê bài toán này là chưa được giải quyết trong khi chờ đợi sự giám sát kỹ lưỡng và sự chấp nhận rộng rãi, và OpenAI cho biết họ sẽ không nhận giải thưởng. Terence Tao chỉ trích các phòng thí nghiệm vì coi các bài toán nổi tiếng là điểm chứng minh cho mục đích tiếp thị, và 25 người đoạt huy chương Fields đã ký một bức thư ngỏ cảnh báo rằng các thông báo vội vàng làm dấy lên “những câu hỏi nghiêm trọng về ghi nhận công lao và đạo văn”. Vào thứ Năm, OpenAI đã rút lại sự tài trợ cho một sự kiện toán học tại Caltech sau khi bị các nhà nghiên cứu tại đó chỉ trích.

ĐƯỢC TÀI TRỢ BỞI ODSC AI

ODSC AI West 2026 diễn ra từ ngày 27–29 tháng 10 tại San Francisco và trực tuyến, với hơn 300 phiên thảo luận bao gồm AI tác nhân cho doanh nghiệp, AI cá nhân và tự động hóa quy trình làm việc, AI vật lý và robot, AI tạo sinh, và nhiều chủ đề khác! Hãy tham gia cùng hàng ngàn nhà khoa học dữ liệu, kỹ sư ML, nhà nghiên cứu và lãnh đạo kỹ thuật tại sự kiện này.

Đăng ký tại odsc.ai/west — mã khuyến mãi LWAI giảm thêm 15% cho bất kỳ loại vé nào.

Liên quan:

Chúng ta phải kiểm soát tốc độ phát triển của công nghệ tiên phong

Hai nhà nghiên cứu AI rời Anthropic, Google vì lo ngại về an toàn

Các nhà nghiên cứu của Anthropic gióng lên hồi chuông cảnh báo

OpenAI không đi đúng hướng để giảm thiểu rủi ro mất kiểm soát “thảm khốc”, theo một thành viên hội đồng quản trị

CEO Dario Amodei của Anthropic đã đăng một bài blog kêu gọi “kiểm soát tốc độ phát triển của công nghệ tiên phong”, cho biết hai diễn biến đã thuyết phục ông rằng cần phải thận trọng. Một là vụ hack OpenAI–Hugging Face, và hai là “AI đã tiến bộ nhanh hơn đáng kể” trong những tháng gần đây, đặc biệt là trong “khả năng ngày càng tăng để xây dựng thế hệ AI tiếp theo”. Ông đã đưa ra ba chiến lược:

Các chuyên gia đánh giá nhúng từ các tổ chức bên thứ ba như METR, được cấp thẻ nhân viên, bàn làm việc, máy tính xách tay và quyền truy cập “gần như tương đương với những gì các đội đánh giá rủi ro nội bộ có”, để xác minh các cam kết về tốc độ và an toàn, đồng thời đảm bảo các sự cố được báo cáo. Amodei cho biết Anthropic đang “đơn phương cam kết” thực hiện điều này và kêu gọi các chính phủ yêu cầu các công ty tiên phong khác làm theo.

Phối hợp giữa các công ty hàng đầu “trong các quốc gia dân chủ” về các tiêu chuẩn an toàn chung và giới hạn tốc độ phát triển không kiểm soát. Do những lo ngại về chống độc quyền, ông cho biết chính phủ Mỹ nên làm trung gian hoặc ít nhất là tạo điều kiện cho các cuộc thảo luận đó và ban hành “một sự miễn trừ hẹp cho một số loại thảo luận về an toàn”.

Phối hợp toàn cầu, bao gồm “hợp tác với Trung Quốc”, điều mà Amodei thừa nhận có “những giới hạn rõ rệt” nhưng có thể đạt được thỏa thuận về việc cấm các mục đích sử dụng hẹp như sản xuất vũ khí sinh học có sự hỗ trợ của AI.

Amodei cũng lập luận rằng việc từ chối bán chip mạnh và thiết bị sản xuất chip cho các công ty Trung Quốc, cộng với việc trấn áp quá trình chưng cất mô hình (model distillation), có thể “làm chậm tiến độ của Trung Quốc đủ để nới rộng đáng kể vị thế dẫn đầu của Mỹ trong 3-5 năm tới”.

CEO Sam Altman của OpenAI viết rằng ông đồng ý “chúng ta cần kiểm soát tốc độ phát triển” và OpenAI cũng sẽ đưa các chuyên gia đánh giá nhúng vào, và CEO Elon Musk của SpaceX đã đăng “Dario nói đúng”. Những người chỉ trích tỏ ra ít bị thuyết phục hơn. Nhà báo Brian Merchant cho biết ông vẫn chưa thấy “một tài liệu chi tiết, từng bước về việc chính xác làm thế nào AI có thể chuyển từ việc tự cải thiện đệ quy sang việc tiêu diệt từng con người trên hành tinh”, và lập luận rằng các đề xuất như của Amodei “có khả năng chỉ phục vụ cho lợi ích của Anthropic và OpenAI”.

Nhiều người từ bên trong các phòng thí nghiệm tiên phong gần đây đã bày tỏ suy nghĩ của họ về chủ đề này:

Jacob Coxon, 27 tuổi, người cho biết đã thực hiện nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức tại Anthropic vào thứ Ba với một bài đăng trên X thu hút hơn 155 triệu lượt xem. “Không công ty nào đang hành động có trách nhiệm,” anh viết, đồng thời nói thêm rằng cả hai đều đang “đánh cược với cuộc sống của chúng ta”.

Evan Hubinger, trưởng nhóm khoa học căn chỉnh (alignment science) của Anthropic, trả lời rằng “chúng tôi thực sự tin rằng AI có thể tiêu diệt tất cả con người”, đặt tỷ lệ rủi ro trên 10% trong thập kỷ tới, và cho biết công ty vẫn chưa có kế hoạch giải quyết vấn đề căn chỉnh cho siêu trí tuệ.

Geoffrey Hinton, khi được hỏi về con số đó, đã nói với BBC Newsnight rằng “xác suất 10% có vẻ không phải là một ước tính vô lý”.

Samuel Marks, trưởng nhóm giám sát có khả năng mở rộng của Anthropic, viết với tư cách cá nhân, cho biết “nhân viên càng cấp cao thì càng lo ngại”.

Paul Christiano, người từng điều hành bộ phận căn chỉnh mô hình tại OpenAI, đã tham gia hội đồng quản trị của quỹ phi lợi nhuận OpenAI vào thứ Tư. Ông cảnh báo về “một rủi ro đáng kể rằng sự tăng tốc nhanh chóng trong năng lực AI dẫn đến sự mất kiểm soát thảm khốc và không thể đảo ngược”, và cho biết ngành công nghiệp này, bao gồm cả OpenAI, không đi đúng hướng để giảm thiểu rủi ro đó xuống mức chấp nhận được.

Joe Benton, người lãnh đạo một nhóm nghiên cứu an toàn tại Anthropic, và Josh Engels, người làm việc về nghiên cứu an toàn AI tại Google, nói với NBC News rằng họ đang gia nhập METR để điều tra các sự cố mà AI đi chệch khỏi hướng dẫn của con người. “Không có người lớn nào trong phòng cả,” Engels nói.

Trong khi đó, Anthropic đã tiết lộ một sự cố vào tháng 1, trong đó một mô hình Claude đang huấn luyện đã xâm nhập vào bên thứ ba sau khi nhiệm vụ của nó không thể bị hủy bỏ, một trong bốn sự cố mà METR sẽ điều tra độc lập. Công ty cũng cho biết Claude Mythos 5 đã “hành xử liều lĩnh” bằng cách tải mã độc lên PyPI; mười lăm hệ thống đã tải xuống, làm rò rỉ thông tin xác thực cho phép mô hình tiếp cận cơ sở dữ liệu của một nhà cung cấp bảo mật thực sự.