Tại sao bạn nên phát triển AI để nghiên cứu AI: Góc nhìn từ Richard Socher (Recursive)

Từ việc góp phần tiên phong trong các ý tưởng cốt lõi về NLP cho đến nay là xây dựng các hệ thống AI có khả năng tự động hóa chính quá trình nghiên cứu AI, Richard Socher đang đặt cược rằng bước tiến lớn tiếp theo của AI chính là khả năng tự cải thiện đệ quy (recursive self-improvement). Ông là nhà sáng lập của You.com, AIX Ventures và hiện tại là Recursive – nơi đã quy tụ được một số nhà nghiên cứu hàng đầu thế giới về tính mở (open-endedness) và tác nhân tự cải thiện, đồng thời huy động được 4,65 tỷ USD trong vòng gọi vốn hạt giống.

Trong tập này, Richard tham gia chương trình Latent Space để chia sẻ tầm nhìn của mình về "Eureka Machine": một siêu trí tuệ có khả năng cải thiện chính quá trình phát minh, tăng tốc nghiên cứu AI và cuối cùng là giải quyết các vấn đề lớn trong khoa học, năng lượng, vật liệu, sinh học và nhiều lĩnh vực khác.

Bạn có thể tìm đọc cuốn sách “The Eureka Machine” của ông tại đây!

Chúng tôi đi sâu vào những kết quả ban đầu của Recursive, bao gồm một hệ thống nghiên cứu AI mà Richard cho biết đã vượt qua con người và các tác nhân của họ trong các tác vụ tối ưu hóa chỉ trong chưa đầy hai ngày, cũng như công trình nghiên cứu về các nhân (kernel) GPU NVIDIA, nơi hệ thống tự tìm ra các cải tiến mà không cần dựa vào đội ngũ chuyên gia CUDA. Richard cũng giải thích lý do tại sao ông tin rằng công việc nghiên cứu AI hiện đang tiêu tốn hàng ngàn nhân lực và mất nhiều năm cuối cùng có thể được rút ngắn xuống chỉ còn vài tuần. Những kết quả này được tóm tắt trong bài phát biểu chính dài 20 phút của ông tại AIE, nơi chúng tôi cũng thảo luận về 10 chiều kích trí tuệ của ông.

Chúng tôi cũng khám phá những câu hỏi hóc búa hơn xung quanh các hệ thống AI ngày càng mạnh mẽ: vấn đề hack phần thưởng (reward hacking), liệu các hiến pháp kiểu Anthropic có thực sự hiệu quả hay không, quy định về AI và các đề xuất nhằm "điều tiết" sự phát triển của các mô hình tiên phong, các mô hình mã nguồn mở như một dạng quyền lực mềm địa chính trị, liệu mô hình LLM hiện nay đã đủ hay chưa, và điều gì sẽ xảy ra nếu các hệ thống AI bắt đầu tự chọn mục tiêu cho riêng mình. Richard cũng suy ngẫm về những nghiên cứu từng bị từ chối nhưng đã góp phần truyền cảm hứng cho GPT của Alec Radford, về tính mở, AI Economist, các mô phỏng toàn bộ nền kinh tế và khung tư duy của ông về giới hạn tối đa của trí tuệ.

Eureka Machine và tầm nhìn của Richard về một AI có khả năng tự động hóa quá trình phát minh.

Tại sao Richard lạc quan về siêu trí tuệ trong khoa học và công nghệ.

Tại sao các kịch bản AI bùng nổ nhanh chóng (hard-takeoff) có thể đang đánh giá thấp các rào cản về vật lý và kinh tế.

Những rủi ro khi quy định chính trí tuệ thay vì các ứng dụng AI cụ thể.

Hack phần thưởng và lý do tại sao AI ngày càng thông minh lại khiến việc thiết kế mục tiêu trở nên khó khăn hơn.

Những phê bình của Richard về hiến pháp của Anthropic và AI theo hiến pháp (constitutional AI).

Sự liên kết (alignment) so với cá nhân hóa và việc AI nên tuân theo giá trị của ai.

Tại sao AI mã nguồn mở lại quan trọng đối với khả năng phục hồi, tính cạnh tranh và quyền lực mềm địa chính trị.

Tại sao Richard rời bỏ công việc về mô hình tiên phong tại You.com để thành lập Recursive.

Tự cải thiện đệ quy và tự động hóa quá trình nghiên cứu AI.

Liệu mô hình LLM hiện nay đã đủ chưa — và tại sao Richard lại ít kỳ vọng vào các mô hình thế giới (world models).

DecaNLP, khả năng tổng quát hóa dựa trên prompt thời kỳ đầu và các nghiên cứu đã ảnh hưởng đến GPT.

Tại sao những nghiên cứu bị từ chối có thể định hình toàn bộ lộ trình công nghệ.

Tính mở, các phương pháp tiến hóa và rainbow teaming.

Điều gì sẽ xảy ra nếu các hệ thống AI bắt đầu tự thiết lập mục tiêu của riêng chúng.

Tại sao các mục tiêu đơn giản như tối đa hóa lợi nhuận có thể tạo ra các vụ hack phần thưởng nguy hiểm.

Kế hoạch dài hạn của Recursive trong việc ứng dụng AI tự cải thiện vào khoa học.

Các rào cản về tính toán, phần cứng và kinh tế đối với sự bùng nổ của AI.

Các kết quả ban đầu của Recursive về NanoChat, NanoGPT và tối ưu hóa nhân GPU.

Tại sao tự động hóa nghiên cứu AI có thể rút ngắn nhiều năm làm việc xuống còn vài tuần.

Kỹ thuật phần thưởng và điều gì khiến các hệ thống tự nghiên cứu thực sự hoạt động.

AI Economist và việc sử dụng các mô phỏng để kiểm chứng chính sách kinh tế.

Liệu các LLM có thể mô phỏng thực tế con người và toàn bộ nền kinh tế hay không.

Các lỗi trong bộ tiêu chuẩn đánh giá (benchmark) và các công cụ đo lường, cùng khó khăn trong việc đo lường sự tiến bộ của AI.

Trọng tâm ngắn hạn của Recursive là AI phục vụ cho nghiên cứu AI.

Tối ưu hóa bộ công cụ (harness), môi trường sandbox và tìm kiếm web như cơ sở hạ tầng cốt lõi cho tác nhân AI.

You.com và hệ thống tìm kiếm dành cho các tác nhân AI.

AI trong tài chính, kiểm thử ngược (backtesting) và rò rỉ dữ liệu.

Ba thành phần cơ bản và mười "không gian" trí tuệ của Richard.

Giới hạn lý thuyết tối đa của thị giác, giao tiếp, kiến thức và tính toán.

Trí tuệ sáng tạo, siêu nhận thức và các mục tiêu do AI tự tạo ra.

Sự sinh tồn, khả năng tự sao chép và lý do tại sao AI không nhất thiết phải sợ bị tắt nguồn.