OpenAI chưa lên sàn trong năm nay; Sam Altman đồng tình với đối thủ: Cần 'phanh gấp' AI

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

13-09-2026 11:13:00 Nguồn: QbitAI

RSI quá nguy hiểm, phải kiểm soát thôi!

Cre: Creci | QbitAI

Phải chăng Dario và Altman cuối cùng đã "bắt tay" nhau?

Và người cùng bắt tay với họ còn có cả đối thủ không đội trời chung của Altman là Musk.

Nguyên do bắt nguồn từ việc Dario đăng tải một bài viết dài hàng vạn chữ trên blog cá nhân, kêu gọi tất cả các công ty AI hàng đầu hãy chủ động giảm tốc, đừng vội vàng lao vào phát triển các mô hình thế hệ tiếp theo.

Ngay khi bài viết xuất hiện, giới AI hiếm hoi tạm gác lại những ân oán cá nhân để đồng loạt hưởng ứng.

Ngoài Altman và Musk, những tên tuổi lớn như Hassabis, Karpathy cũng bày tỏ sự ủng hộ; một làn sóng các nhân vật có tầm ảnh hưởng trong giới AI đã cùng lên tiếng.

Lần gần nhất chứng kiến cảnh tượng này phải kể đến bức thư ngỏ do Future of Life Institute khởi xướng vào năm 2023.

Khi đó, hàng ngàn nhà nghiên cứu và nhân vật trong giới công nghệ đã cùng ký tên kêu gọi tạm dừng huấn luyện các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng.

Nhưng điểm khác biệt lần này là, người kêu gọi dừng lại chính là những người đang ở tuyến đầu kiến tạo nên AI.

"6 đến 12 tháng, có lẽ là tất cả thời gian còn lại của chúng ta"

Dario đã vẽ ra một dòng thời gian trong bài viết của mình.

Nhận định cốt lõi của ông là AI đang tiến gần đến một điểm tới hạn – RSI (Recursive Self-Improvement: Tự cải tiến đệ quy).

Điều này có nghĩa là gì? RSI đồng nghĩa với việc các mô hình AI bắt đầu có khả năng tự cải tiến phiên bản thế hệ tiếp theo của chính mình.

Một khi vòng lặp này được khởi động, tốc độ lặp lại sẽ chuyển từ tuyến tính sang cấp số nhân.

Cửa sổ thời gian để con người kịp can thiệp sẽ bị thu hẹp một cách đáng kể.

Ước tính mà Dario đưa ra là từ 6 đến 12 tháng.

Tất nhiên, ông cũng đặc biệt nhấn mạnh rằng mình không có ý định tạm dừng việc nghiên cứu và phát triển AI.

Pacing (điều tiết tốc độ) không phải là pausing (tạm dừng), điều ông muốn là làm chậm tốc độ thúc đẩy năng lực mô hình để giành thời gian cho các nghiên cứu an toàn bắt kịp.

Ông cũng phản hồi về bức thư ngỏ kêu gọi tạm dừng năm 2023.

Ông cho rằng, việc kêu gọi dừng lại lúc đó là vô nghĩa, vì các mô hình AI thời điểm ấy chưa đủ mạnh để gây ra những tổn hại thực sự.

Nhưng bây giờ đã khác, các mô hình hiện tại đã có thể đóng vai trò là Agent thực hiện nhiệm vụ trong thế giới thực, có thể phát động các cuộc tấn công mạng và đã bắt đầu xuất hiện những trường hợp thất bại trong việc căn chỉnh (alignment).

Nếu chậm lại một hoặc hai năm, dù chỉ giành thêm được một năm, những gì đội ngũ an toàn có thể làm sẽ hoàn toàn khác biệt.

Để xây dựng lưới an toàn trước khi cửa sổ thời gian đóng lại, ông đề xuất một lộ trình ba bước.

Bước đầu tiên là bắt đầu từ chính Anthropic. Hiện tại, Anthropic đã cam kết để các tổ chức đánh giá độc lập bên thứ ba (như METR) thường trực tại công ty như nhân viên, tham gia vào toàn bộ quá trình huấn luyện, đồng thời không "chuyện đã rồi mới bàn", mà thực hiện giám sát theo thời gian thực ngay trong quá trình huấn luyện.

Bước thứ hai là phối hợp trong ngành, cần các công ty AI hàng đầu ngồi lại với nhau để cùng vạch ra ranh giới an toàn và thống nhất khung đánh giá.

Tức là làm rõ các quy tắc cạnh tranh, không còn theo đuổi mục tiêu chạy đua đơn thuần.

Bước thứ ba là phối hợp toàn cầu, cần thiết lập hệ thống tiêu chuẩn an toàn xuyên quốc gia để phạm vi bao phủ của các quy tắc tương xứng với phạm vi ảnh hưởng thực tế của các mô hình AI.

Độ khó của ba bước này tăng dần theo từng cấp độ.

Bản thân Dario cũng thừa nhận điều này. Nhưng ông nói, nếu ngay cả bước đầu tiên cũng không thực hiện, thì hai bước sau sẽ không thể bàn tới.

Có hai sự việc cụ thể đã thôi thúc ông viết bài viết này.

Thứ nhất, các tín hiệu về RSI đang ngày càng dày đặc hơn.