Import AI 469: AI trong khoa học, mô phỏng RSI và góc nhìn bi quan về công nghệ của Zuckerberg

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. Import AI vận hành nhờ arXiv, những tách cappuccino và phản hồi từ độc giả. Nếu bạn muốn ủng hộ bản tin này, vui lòng đăng ký theo dõi.

Đăng ký ngay

DiG-bench cho thấy Fable thể hiện một số trực giác sáng tạo:… Biên giới mới trong việc phân tích các hệ thống AI chính là hiểu được mức độ thành thạo của chúng trong việc suy luận ra các quy tắc bất thành văn của môi trường xung quanh… Các hệ thống AI có thể tìm ra quy tắc của môi trường thông qua khám phá và sự tò mò tốt đến mức nào so với việc được cung cấp sẵn các quy tắc đó? Đây là một câu hỏi quan trọng để hiểu rõ hơn về khả năng sáng tạo và trực giác của các hệ thống AI, và cũng là câu hỏi mà DiG-bench (Discovery in Games) đặt ra. Đây là một bộ benchmark mới gồm 70 trò chơi “được thiết kế để vạch ra bề mặt của sự khám phá trong các hệ thống tương tác được kiểm soát tốt”. Tương tự như trò chơi thị giác ‘ARC’, trong DiG-bench “mỗi trò chơi là một thế giới thu nhỏ khép kín với các quy luật riêng, nhưng cả quy tắc và mục tiêu đều bị ẩn đi đối với người chơi và phải được khám phá thông qua tương tác”. Bạn có thể tự mình chơi thử một số trò chơi trực tuyến để trải nghiệm tại trang web chính thức của dự án (digbench.ai). Điều quan trọng mà bộ benchmark này đo lường là khả năng của người chơi trong việc phát hiện ra các cơ chế quan trọng quyết định sự thành công – về cơ bản, bằng cách chơi thử, bạn sẽ cảm nhận được cách hành động của mình làm thay đổi môi trường và qua đó khám phá ra các cơ chế cần thiết để giành chiến thắng. Ý tưởng ở đây là nếu bạn có thể giải được các trò chơi này, bạn có khả năng tốt trong việc phát hiện thông tin quan trọng ở những môi trường mới lạ và cập nhật các giả định ban đầu của mình.

Ai đã thực hiện nghiên cứu này: Các tác giả đến từ Thinking About Thinking, Đại học Oxford, Đại học Princeton, Đại học Khoa học và Công nghệ King Abdullah, Swiss AI Lab, Inria và MIT. Một trong những tác giả là Juergen Schmidhuber, một nhà nghiên cứu AI kỳ cựu vô cùng sáng tạo.

Các sự kiện chính:

Hoàn toàn dựa trên văn bản: Các trò chơi về cơ bản là bản địa đối với các mô hình ngôn ngữ. Chúng cũng hầu hết “đủ ngắn để hầu hết các dấu vết (traces) nằm gọn trong cửa sổ ngữ cảnh của các mô hình tiên tiến hiện nay”.

Thủ công, mới lạ và riêng tư: Tất cả các trò chơi này đều được xây dựng bởi các chuyên gia con người. Phần lớn các trò chơi được giữ kín để các hệ thống AI không được huấn luyện trên đó.

Có thể vượt qua nhưng khó: Mọi trò chơi đều đã được ít nhất một người chơi vượt qua “nhưng người chơi báo cáo rằng họ thấy nhiều trò chơi rất khó”.

Kỹ năng đa dạng: Giải được tất cả các trò chơi này đòi hỏi những kỹ năng và chiến lược khác nhau.

Thử nghiệm: Các trò chơi đi kèm với chế độ thử nghiệm tùy chọn, cho phép mọi người chơi mà không bị giới hạn quá khắt khe về số bước thực hiện hành động.

Khó một cách đáng tin cậy: Các trò chơi đủ khó để các mô hình tiên tiến hiện nay không thể vượt qua.

Các hệ thống AI thực hiện tốt đến mức nào? Bộ benchmark được chia thành bảy cấp độ, với cấp độ 1 là dễ nhất và cấp độ 7 là khó nhất. 21 trò chơi đã được công bố công khai, số còn lại được giữ lại. Hầu hết các trò chơi có nhiều cấp độ và số lượng hành động khả dụng cho người chơi ở mỗi bước dao động từ 2 đến 34.

Opus 5 và Fable 5 kết hợp với Claude Code là những mô hình tổng thể tốt nhất, theo sau là GPT-5.5.

Chỉ có Opus 5 và Fable 5 mới có thể vượt qua bất kỳ nhiệm vụ nào (0.2) ở (Cấp độ 7). Opus 5, GPT-5.5 và Kimi K3 có thể vượt qua một số nhiệm vụ ở Cấp độ 6 khi được cấp quyền truy cập vào một bộ công cụ hỗ trợ (ví dụ: Claude Code).

GLM-5.2 và Gemini 3.1 Pro có thể vượt qua một số cấp độ ở Cấp độ 4.

Nhìn chung, điều này thực sự rất khó!

Tại sao điều này quan trọng – các đại diện cho sự sáng tạo và khám phá: Những bài kiểm tra như thế này là nỗ lực nhằm cô lập một điều kiện tiên quyết cho sự sáng tạo, đó là khả năng tự chủ khám phá những điều hữu ích chưa được ghi chép về các tình huống mới lạ mà bạn gặp phải. Như bài kiểm tra này cho thấy, một số mô hình tiên tiến đã có khả năng thực hiện những kỳ tích khám phá khá ấn tượng, nhưng vẫn còn chật vật so với con người (ví dụ, tỷ lệ thành công 20% ở Cấp độ 7 là khá thấp so với việc con người có thể đạt 100% trong các bài kiểm tra). Tôi đoán rằng chúng ta sẽ đạt đến sự ngang bằng với con người trên DiG-bench vào giữa năm 2027, thời điểm mà chúng ta có thể kỳ vọng những thứ như tự cải thiện đệ quy (recursive self-improvement) sẽ thực sự bắt đầu. Đọc thêm: DiG-bench: Discovery in Games (GitHub, PDF). Chơi các trò chơi và xem bảng xếp hạng tại trang web chính thức (digbench.ai).

***

Cảm nhận về sự tự cải thiện đệ quy bằng cách chơi trò chơi trên trình duyệt này:… Cookie Clicker, nhưng dành cho điểm kỳ dị (singularity)… Đây là một trò chơi thú vị từ nhóm Paradigm Research, nhằm mô phỏng cảm giác điều hành một công ty xây dựng các hệ thống AI có khả năng tự cải thiện đệ quy. Nếu chơi trò chơi này, bạn có thể hiểu rõ cách các thành phần khác nhau của nghiên cứu AI tương tác với nhau, từ việc cân bằng đầu tư giữa các nhà nghiên cứu và năng lực tính toán, cho đến cách thức và thời điểm cấp phép dữ liệu, v.v. Hãy cẩn thận, trò chơi này rất khó – nhưng suy cho cùng, phát triển AI tiên tiến cũng vậy.

Tại sao điều này quan trọng: Phát triển trực giác tốt hơn về sự tự cải thiện đệ quy có tầm quan trọng sống còn đối với tất cả chúng ta; những trò chơi như thế này giúp chúng ta dễ dàng suy luận hơn về công nghệ này và các phòng thí nghiệm đang xây dựng nó. Chơi trò chơi tại đây: RSI Simulator (Paradigm Research).

***

Các hệ thống AI đang cho thấy những dấu hiệu ban đầu về gu thẩm mỹ trong nghiên cứu khoa học:… Inherent thực hiện hậu huấn luyện (post-train) một mô hình mở thành một nhà khoa học AI giám sát một mô hình tiên tiến… Gu thẩm mỹ là một thứ khó định lượng nhưng lại là thứ dễ cảm nhận bằng trực giác, như bất kỳ ai trong chúng ta từng ngồi trong một căn phòng được thiết kế đẹp, nhìn thấy ai đó mặc một bộ đồ rất hợp, hoặc đọc một bài báo nghiên cứu đặt ra đúng những câu hỏi cần thiết đều biết. Giờ đây, các nhà nghiên cứu tại startup AI Inherent đã công bố một bài báo cho thấy cách họ xây dựng Faraday, một mô hình nhà khoa học AI mà họ hy vọng có thể phát triển gu thẩm mỹ trong nghiên cứu.

Họ đã làm gì: Công ty đã xây dựng một bộ công cụ giám sát và một LLM tương đối nhỏ nằm trên các mô hình tiên tiến, độc quyền lớn, và kiểm soát chúng theo cách cải thiện hiệu quả của chúng trong khoa học. (Theo một cách nào đó, đây là phiên bản tập trung vào năng lực của bài toán giám sát có thể mở rộng). Để giúp huấn luyện và đánh giá hệ thống, họ tập hợp một tập dữ liệu (”Replica”) bao gồm các bài báo nghiên cứu bị thiếu các biểu đồ hoặc kết quả quan trọng, sau đó họ xem các hệ thống AI có thể tự chủ thực hiện các thí nghiệm để lấp đầy những chỗ trống đó tốt đến mức nào, và họ liên tục huấn luyện một mô hình giám sát nhỏ (”Faraday”) thông qua GRPO trên các phần bổ sung được thiết kế tốt để đạt được kết quả ngày càng tốt hơn. Faraday là một mô hình 27B sử dụng một tác nhân lập trình (OpenAI Codex) làm công cụ nền tảng và được hậu huấn luyện trên nền tảng Qwen-3.6-27B.

Replica bao gồm những gì: Replica là tập hợp 100 bài báo về ML và AI-cho-khoa học được xuất bản từ năm 1990 đến 2026. Các tác giả chuyển đổi tập dữ liệu này thành 310 nhiệm vụ tái lập bằng cách loại bỏ các kết quả riêng lẻ. “Đối với mỗi nhiệm vụ, chúng tôi sử dụng Claude Opus 4.7 với lời nhắc (prompt) theo một bộ tiêu chí meta để tạo ra bộ tiêu chí chấm điểm cụ thể cho nhiệm vụ đó,” họ viết. Sau đó, họ sử dụng một mô hình Giám khảo dựa trên Codex để cung cấp “phần thưởng tổng thể và trọng số phân bổ tín dụng cho mỗi lượt, được sử dụng để huấn luyện tác nhân Faraday bằng phiên bản sửa đổi của GRPO.”

Kết quả: Faraday sử dụng Codex có thể đánh bại Opus 4.8 và GPT-5.5 tiêu chuẩn trong một số nhiệm vụ tái lập, vượt qua hiệu suất của chúng “trên 73% các nhiệm vụ ML phân phối trong (in-distribution) và trên 60% các nhiệm vụ AI-cho-khoa học chưa từng thấy (held-out), theo giám khảo dựa trên tiêu chí của chúng tôi.” “Chúng tôi đạt được sự cải thiện toàn diện về hiệu suất so với mô hình Qwen cơ sở, trên cả các nhiệm vụ huấn luyện và kiểm tra,” họ viết.

Tại sao điều này quan trọng – các hệ thống như Faraday càng tốt, khả năng các hệ thống AI có thể tự cải thiện đệ quy càng cao: Ngày nay, hầu hết các đánh giá AI có tín hiệu cao đều cố gắng nắm bắt một số đặc tính về sự sáng tạo và trực giác, và Faraday/Replica cũng vậy. Các hệ thống AI càng giỏi về điều này, chúng ta càng có thể gán xác suất cao hơn cho ý tưởng rằng các hệ thống AI sẽ sớm có khả năng tự xây dựng chính mình. “Các kỹ năng cho phép Faraday lấp đầy những chi tiết được chỉ định mơ hồ có thể chính là những kỹ năng cho phép nó thúc đẩy trạng thái nghệ thuật (state of the art) bằng cách tự thiết kế thí nghiệm của riêng mình,” công ty viết. “Các kỹ năng mà Faraday có được – quyết định điều gì cần điều tra, xác định phạm vi thí nghiệm theo ngân sách và đánh giá việc tái lập – sẽ cộng hưởng với những tiến bộ trong các mô hình lập trình tiên tiến. Người ta có thể hy vọng rằng một tác nhân bên ngoài đã qua hậu huấn luyện có thể theo kịp biên giới công nghệ khi các mô hình tốt hơn được phát hành, ít nhất là trong một khoảng thời gian nào đó.” Đọc thêm: Training AI Scientists to Replicate Research (arXiv).

***

Mark Zuckerberg dường như là một người bi quan về công nghệ:… Bài luận lớn của Zuck về AI dường như phớt lờ, né tránh hoặc không đối mặt với ý nghĩa của các hệ thống AI có khả năng phát minh… Mark Zuckerberg đã viết một bài luận có tiêu đề “Tương lai dành cho tất cả mọi người” (The Future is for Everyone), đóng vai trò như một bản tuyên ngôn về cách ông và Meta tiếp cận việc phát triển các hệ thống AI. Ý tưởng cốt lõi trong chiến lược của Zuck là phổ biến rộng rãi các năng lực AI cho mọi người trên hành tinh nhằm tránh tập trung quyền lực và tạo ra sự chuyên chế trong một số ít người chơi. Đó là một ý tưởng hợp lý về mặt rộng rãi, ngoại trừ thực tế là các siêu trí tuệ có khả năng phát minh ra những ý tưởng mới có thể muốn làm những điều khác với những gì Mark Zuckerberg đề xuất, và trong lĩnh vực quan trọng này, bài luận của ông lại im lặng.

Quan điểm của Mark: “Những câu hỏi xác định thời đại của chúng ta là ai sẽ có quyền truy cập vào siêu trí tuệ và chúng ta sẽ hướng nó vào việc gì,” Zuckerberg viết. “Chúng tôi đề xuất một triết lý dựa trên sự trao quyền cho cá nhân như là nguồn gốc của sự thịnh vượng, phát minh là mục đích chính của siêu trí tuệ, và sự cân bằng quyền lực là nền tảng của sự an toàn.”

Mục tiêu và niềm tin của Meta:

“Mọi người sẽ có một tác nhân cá nhân cực kỳ có năng lực, hiểu bạn, mục tiêu của bạn và mọi thứ bạn quan tâm.”

“Mọi người sẽ có những công cụ sáng tạo đáng kinh ngạc để thể hiện ý tưởng của mình.”

“Mọi người sẽ có những công cụ mạnh mẽ để tạo ra các doanh nghiệp mới và nền kinh tế sẽ trở nên khởi nghiệp hơn.”

“Mọi người sẽ có một gia sư và huấn luyện viên cá nhân với bằng tiến sĩ trong mọi môn học và sự kiên nhẫn vô hạn để giúp bạn học bất cứ điều gì bạn muốn.”

“Mọi người sẽ được hưởng lợi từ những tiến bộ khoa học và có thể đóng góp vào sự tiến bộ khoa học.”

“Mọi người sẽ có quyền truy cập miễn phí hoặc giá cả phải chăng vào các công cụ này.”

Câu hỏi còn thiếu: Phần bài luận này mà tôi hiểu ít nhất là việc Zuckerberg kết hợp các hệ thống AI có khả năng phát minh với sự trao quyền cho cá nhân. Bài luận đầy rẫy những điều dường như giả định rằng những thứ này đi kèm như một gói, ví dụ:

“Trong khi số lượng câu hỏi một người có thể đặt ra trong một ngày là có hạn, thì số lượng những điều có giá trị mà siêu trí tuệ có thể phát minh để giúp đạt được mục tiêu của bạn là vô hạn”.

“Siêu trí tuệ càng đóng vai trò là công cụ phát minh, thì khả năng năng lực cá nhân vượt xa tự động hóa càng cao và tương lai sẽ tốt đẹp hơn cho con người.”