OpenAI thành lập hội đồng toán học AGMAI nhằm giải quyết tranh cãi về công bố nghiên cứu

Sau khi biến một loạt kết quả toán học ngoạn mục thành một cuộc khủng hoảng uy tín, OpenAI đang tham vấn các nhà toán học để tìm ra một con đường phía trước bớt thảm họa hơn.

Vào thứ Hai, công ty đã công bố một hội đồng độc lập mới gồm các nhà toán học với nhiệm vụ tư vấn cho họ và các công ty AI khác về cách tương tác với nghiên cứu toán học và cộng đồng toán học rộng lớn hơn, bao gồm cả cách trình bày và công bố các kết quả mới. Sự xuất hiện đột ngột của hội đồng này đã khiến nhiều nhà toán học bất ngờ. Các nhà nghiên cứu chia sẻ với The Verge rằng nhóm này là một bước khởi đầu tốt, nhưng nhiều người vẫn còn những câu hỏi cơ bản về việc nhóm sẽ thực sự làm gì, tầm ảnh hưởng đến đâu, liệu OpenAI có thực sự lắng nghe họ hay không, cũng như lo ngại liệu một nhóm nhỏ các nhà nghiên cứu nổi tiếng như vậy có thể đại diện cho cộng đồng toán học rộng lớn hơn hay không.

Nhóm gồm chín thành viên này tập hợp những người mà các nhà nghiên cứu mô tả với The Verge là những "ngôi sao" trong lĩnh vực này, đến từ các tổ chức như Stanford, Harvard, Oxford và Cambridge, với nhiều giải thưởng Fields và học bổng "thiên tài" MacArthur trong số đó. Nhóm sẽ được đặt tại Viện Nghiên cứu Cao cấp (IAS) ở Princeton, New Jersey, một trong những trung tâm nghiên cứu toán học được kính trọng nhất thế giới và là nơi làm việc cũ của những tên tuổi như Albert Einstein, John von Neumann và J. Robert Oppenheimer.

“Một thực tế cơ bản khác là mục tiêu bao trùm của chúng tôi là đại diện tốt nhất có thể cho lợi ích của cộng đồng toán học.”

OpenAI cho biết nhóm này, có tên là Nhóm Tư vấn về Toán học và Trí tuệ Nhân tạo (AGMAI), sẽ hoạt động độc lập, có quyền tự do đưa ra lời khuyên mà công ty không yêu cầu, bình luận công khai về tác động của AI đối với toán học và công khai các lời khuyên của mình, mặc dù công ty không cung cấp chi tiết về việc điều này sẽ bao gồm những gì. Có vẻ như nhóm sẽ được cấp quyền truy cập sớm vào các nghiên cứu của OpenAI để thực hiện nhiệm vụ của mình. Các thành viên sẽ không được OpenAI trả lương và nhóm có thể thay đổi thành viên tùy ý, OpenAI cho biết. "Giá trị của nhóm phụ thuộc vào việc các thành viên có thể thực hiện phán đoán của riêng họ và thách thức phán đoán của chúng tôi," công ty cho biết. "Nhóm sẽ tư vấn về việc xem xét và truyền thông các kết quả mới nổi: họ sẽ giúp OpenAI đánh giá tầm quan trọng của chúng, tư vấn cách phối hợp phổ biến và tư vấn về các tiêu chuẩn học thuật và chuyên môn trong nghiên cứu toán học. Nhóm cũng sẽ tư vấn về cách các công cụ của chúng tôi có thể hỗ trợ nghiên cứu và học tập toán học."

Bất chấp sự nhấn mạnh vào tính độc lập, vẫn chưa rõ nhóm sẽ thực sự có bao nhiêu ảnh hưởng hoặc tại sao nó lại được thành lập ngay từ đầu. Simon Machado, một nhà nghiên cứu tại ETH Zurich ở Thụy Sĩ, cho biết mọi thứ dường như "được bao phủ trong bí ẩn" và anh đặt câu hỏi về cách chín thành viên này được lựa chọn. Trang web sơ sài của nhóm cho biết họ "đã tập hợp lại sau khi OpenAI tiếp cận một số thành viên về việc thành lập một hội đồng tư vấn bên ngoài," nhưng sau khi thảo luận với công ty, các nhà toán học đã quyết định thành lập một nhóm độc lập thay thế và mời những người khác tham gia. Không rõ những thành viên nào đã được OpenAI tiếp cận ban đầu hoặc các thành viên còn lại được chọn như thế nào.

Trong một bài đăng trên blog vào thứ Ba, thành viên nhóm tư vấn Martin Hairer đã giải thích chi tiết về nguồn gốc của nhóm và suy nghĩ đằng sau nó, phản hồi lại điều mà ông gọi là "cơn lũ thông tin sai lệch" xung quanh việc thành lập nhóm. "Rõ ràng là AI đã có tác động sâu sắc đến nghiên cứu toán học và đặt ra vô số câu hỏi về việc ghi nhận ý tưởng đúng đắn, quyền ưu tiên, sự hiểu biết của con người về các ý tưởng, v.v.," ông viết, đồng thời nói thêm rằng cộng đồng không nên "áp dụng cách tiếp cận kiểu 'đà điểu' là chỉ đơn giản phớt lờ các phòng thí nghiệm AI và từ chối nói chuyện với họ vì nguyên tắc."

Trong khi thừa nhận rằng nhóm được thành lập để đáp lại lời đề nghị từ OpenAI, Hairer nhấn mạnh rằng không phải tất cả các thành viên đều được công ty liên hệ và tổ chức này "thực sự độc lập với OpenAI và bất kỳ phòng thí nghiệm AI 'tiên phong' nào khác." Ngoài "các yêu cầu bảo mật hiển nhiên," ông cho biết các thành viên không ký bất kỳ thỏa thuận hạn chế nào về những gì họ có thể nói công khai, đồng thời nói thêm rằng họ không nhận được thù lao tài chính và đang dựa vào IAS để được hỗ trợ kỹ thuật.

"Một thực tế cơ bản khác là mục tiêu bao trùm của chúng tôi là đại diện tốt nhất có thể cho lợi ích của cộng đồng toán học," Hairer, giáo sư toán học tại Imperial College London và Viện Công nghệ Liên bang Thụy Sĩ tại Lausanne (EPFL), viết. Mặc dù lưu ý rằng nhóm khó có thể là một mẫu đại diện cho cộng đồng, ông nói rằng ông "hoàn toàn chắc chắn rằng cả chín người chúng tôi đều coi trọng điều này và đang hành động với thiện chí."

Dù các thành viên được chọn như thế nào, nhóm hiện bao gồm một đội ngũ tinh hoa gồm các nhà toán học hàn lâm. Quy mô nhỏ đặt ra những câu hỏi xa hơn về việc liệu nhóm có đủ bề dày chuyên môn cần thiết để đánh giá mọi thứ đến với mình hay không, xét đến các kỹ năng và kiến thức chuyên môn cao cần thiết để hoạt động ở biên giới của toán học.

Francesco Fournier-Facio, một giáo sư toán học mới tại Đại học Heriot-Watt ở Scotland, mô tả bản thân khá "lưỡng lự" về hội đồng này, nói rằng sự tham gia nhiều hơn với các nhà toán học "chỉ có thể làm cho mọi thứ tốt hơn." Nhưng ông đặt câu hỏi liệu nhóm này có phản ánh đầy đủ cộng đồng mà công việc và sinh kế của họ đang bị đảo lộn bởi nỗ lực giành lấy các danh hiệu toán học của OpenAI hay không. "Nó giống như một tháp ngà," ông nói với The Verge.

Machado cũng đặt câu hỏi tương tự về việc liệu các thành viên của nhóm có hiểu đầy đủ hoặc có thể nói lên những lo ngại của cộng đồng toán học rộng lớn hơn khi nói đến AI hay không. "Họ là những nhà toán học tuyệt vời, nhưng tôi không biết liệu họ có phải là những người tôi muốn đại diện cho mình trong các vấn đề chính trị hơn hay không," ông nói. Đối với các nhà toán học ở vị trí của họ và các vị trí tinh hoa tương tự, Machado nói, "Tôi nghĩ thực tế mà họ đang đối mặt rất khác với thực tế mà hầu hết các nhà toán học đang phải đối mặt ngay bây giờ."

Liệu nhóm có thể giành được sự tin tưởng của các nhà toán học hay không cuối cùng sẽ quyết định mức độ hiệu quả của nó trong việc ngăn chặn hậu quả từ chuỗi sai lầm gần đây của OpenAI trong việc công bố kết quả và quan trọng hơn là làm dịu đi tác động của bất cứ điều gì công ty dự định công bố tiếp theo. Trong blog của mình, Hairer cho biết các thành viên sẽ "rất ngây thơ nếu tin rằng các phòng thí nghiệm AI sẽ không cố gắng xoay chuyển bất cứ điều gì chúng tôi nói theo cách phù hợp với bộ máy PR của họ, vốn làm lu mờ bất cứ điều gì chúng tôi có thể nghĩ ra."

Tuy nhiên, Hairer lập luận rằng sẽ là đạo đức giả nếu không tham gia khi OpenAI dường như đang nỗ lực, đặc biệt là sau khi rất nhiều người chỉ trích cách hành xử và truyền thông kém cỏi của công ty. Nhóm vẫn chưa thống nhất về lời khuyên mà họ dự định đưa ra, ông nói, nhưng có một vấn đề rõ ràng mà họ đang phản hồi: "Một thực tế là các công ty AI trong những tháng gần đây đã tạo ra một số kết quả toán học nổi bật và việc công bố, phổ biến chúng đã không đạt được các tiêu chuẩn thực hành toán học chấp nhận được, bất kể điều đó được định nghĩa như thế nào."

"Chúng tôi hiện đang đối mặt với thách thức rất cụ thể là tư vấn cho OpenAI về cách phối hợp công bố một số lượng lớn các kết quả quan trọng trong toán học mà họ báo cáo đã được tạo ra bởi mô hình nội bộ của họ."

Hiện tại, Hairer cho biết nhóm đang thu thập ý kiến thông qua các cuộc trò chuyện với đồng nghiệp, một biểu mẫu phản hồi công khai và thảo luận trên Proofs and Prompts, một blog đã nổi lên như một diễn đàn quan trọng cho các nhà toán học đang suy ngẫm về tác động của AI đối với lĩnh vực này.

Nhưng thách thức lớn nhất của nhóm có lẽ vẫn còn ở phía trước. Khi công bố nhóm tư vấn, OpenAI đã vô tình tiết lộ tin tức rằng mô hình mới, chưa được phát hành của họ — cùng mô hình đã giải quyết bài toán Thiên niên kỷ Navier-Stokes — hiện đã "giải quyết hơn 100 bài toán mở lâu đời trên hầu hết các lĩnh vực toán học." Trước đó, họ cho biết họ đang tiến gần đến một bài toán Thiên niên kỷ khác. Trên trang web của mình, nhóm cho biết giải quyết tình trạng tắc nghẽn này là ưu tiên hàng đầu của họ: "Chúng tôi hiện đang đối mặt với thách thức rất cụ thể là tư vấn cho OpenAI về cách phối hợp công bố một số lượng lớn các kết quả quan trọng trong toán học mà họ báo cáo đã được tạo ra bởi mô hình nội bộ của họ."

Một phần, nỗ lực mới trong việc thu hút các nhà toán học là sự thừa nhận về thảm họa PR to lớn mà họ đã gây ra, trong đó công ty thấy mình phải chống đỡ các cáo buộc về việc "cướp công" các nhà nghiên cứu, không ghi nhận công lao của con người mà các mô hình của họ dựa vào, và thậm chí là đánh cắp từ những người sử dụng mô hình của họ. Những tranh cãi đó khiến nhiều nhà toán học tự hỏi liệu công ty có hiểu — hoặc thậm chí tôn trọng — kỷ luật và cộng đồng mà họ đã lao vào hay không.

Sau vài tháng qua và với rất nhiều điều đã được viết về những gì các nhà toán học muốn, Kevin Buzzard, giáo sư toán học tại Imperial College London, tự hỏi tại sao OpenAI lại cảm thấy cần một cơ quan tinh hoa như vậy để hiểu cộng đồng muốn gì. "Đó không phải là các chứng minh cho các định lý khó, mà là sự hiểu biết tốt hơn về chủ đề của chúng tôi," ông nói. "Tôi không hoàn toàn rõ ràng rằng bạn cần một ủy ban gồm những người xuất chúng để nhấn mạnh điều đó."

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.