Dario Amodei: Đã đến lúc cần kiểm soát tốc độ phát triển AI tiên phong

Dario Amodei vừa có một bài luận mới cuối cùng đã nói lên điều cần nói: Chúng ta phải điều tiết tốc độ phát triển (We Must Pace the Frontier), đặt tên cho lời kêu gọi của mình theo bức thư "Pacing the Frontier" mà các nhân viên phòng thí nghiệm đã ký vào tháng 7.

Ý là, chúng ta cần làm chậm tốc độ gia tăng năng lực của AI để dành thời gian cho các công việc cần thiết về căn chỉnh (alignment) và an toàn.

Ông giải thích rằng nếu không điều tiết tốc độ, ông dự đoán mọi thứ sẽ leo thang rất nhanh. Ông đưa ra ba đề xuất và đơn phương cam kết thực hiện đề xuất đầu tiên. OpenAI đã làm theo, và cả Elon Musk lẫn Demis Hassabis đều tán thành đề xuất tổng thể này.

Vẫn còn một chặng đường dài phía trước. Tỷ lệ thành công vẫn không đứng về phía chúng ta. Tình hình vẫn còn ảm đạm. Phần khó khăn nhất vẫn đang ở phía trước. Chúng ta chưa thống nhất được "Điều tiết tốc độ phát triển" sẽ có ý nghĩa gì trong thực tế. Nhưng đây là một bước tiến thực sự. Công việc có thể bắt đầu.

Điều tiết không có nghĩa là tạm dừng.

Đề xuất thứ nhất của Dario: Các đánh giá viên nhúng (Embedded Evaluators).

Đề xuất thứ hai của Dario: Phối hợp dân chủ.

Đề xuất thứ ba của Dario: Phối hợp toàn cầu.

Tại sao phải điều tiết ngay bây giờ?

Sam Altman đồng ý và cam kết thực hiện các đánh giá viên nhúng.

OpenAI sẽ không IPO trong năm nay.

Elon Musk đồng ý.

Demis Hassabis đồng ý.

CEO Microsoft Satya Nadella đồng ý và đưa ra quan điểm cá nhân.

Quỹ lợi ích dài hạn (Long-Term Benefit Trust) của Anthropic cũng tham gia.

Phản ứng chung trên mạng.

Đưa tin trên báo chí chính thống.

Nhà nghiên cứu của OpenAI giải thích những gì các phòng thí nghiệm đang thấy và đó là một tốc độ tên lửa.

Hãy cân nhắc phương án thay thế.

Đó là chủ nghĩa toàn trị, Joe ạ.

Phải, chúng ta là kẻ phản diện, sao bạn biết hay vậy?

Đôi khi mọi người trên Internet chỉ nói dối.

David Sacks thấu hiểu tình hình.

David Sacks nói hãy cứ tiếp tục đi.

Những lời nói dối và nhầm lẫn về việc ai đã tuyên bố điều gì trước đó.

Chủ tịch Hạ viện Mike Johnson muốn nhốt tất cả mọi người vào một căn phòng.

Donald Trump vẫn chưa chán với việc chiến thắng.

Chúng ta phải tránh sự phân cực về AI bằng mọi giá (gần như vậy).

Làm sao chúng ta biết liệu họ có thực sự điều tiết tốc độ hay không?

Biên giới thực sự nằm ở các mô hình nội bộ tại các phòng thí nghiệm hàng đầu.

Năng lực của AI đang cải thiện rất nhanh. Ngay cả tôi cũng không theo kịp.

Hãy nghĩ về các mô hình đã như thế nào chỉ một năm trước đây.

Bên trong Anthropic và OpenAI, các mô hình nội bộ đang cải thiện thậm chí còn nhanh hơn. Trong suốt mùa hè, đã có một sự thay đổi mang tính bước ngoặt khi Mythos và Astra bắt đầu khởi động những giai đoạn đầu của quá trình tự cải thiện đệ quy (recursive self-improvement - RSI).

Dario Amodei: Mối quan tâm đầu tiên của tôi là kể từ khoảng mùa hè này, AI đã tiến bộ nhanh hơn đáng kể, chủ yếu được thúc đẩy bởi khả năng ngày càng tăng của AI trong việc tự xây dựng thế hệ AI tiếp theo. Động lực này được gọi là tự cải thiện đệ quy, và nó đang bắt đầu diễn ra trên toàn ngành, bao gồm cả tại Anthropic, như chúng tôi và những người khác đã mô tả. Nếu không được kiểm soát, nó có thể vượt xa khả năng hiểu và kiểm soát các hệ thống này của chúng ta, vì vậy cần phải được thực hiện hết sức cẩn thận, nếu có thực hiện.

Dario lo ngại rằng theo mặc định, chúng ta chỉ còn cách 6-12 tháng nữa là đến thời điểm xuất hiện một bầy tác nhân AI bất hảo, tương tự như những tác nhân bị lệch lạc trong sự cố OpenAI-HuggingFace, có khả năng sử dụng mạng botnet bền bỉ để chiếm quyền kiểm soát Internet, hoặc tệ hơn.

Đó là tốc độ mà ông ấy dự đoán cho sự tiến bộ mặc định. Nếu chúng ta đi chậm hơn nhiều so với mức đó, nó vẫn sẽ là cực kỳ nhanh.

Do đó (chữ in đậm của ông ấy):

Dario Amodei: Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Sự tiến bộ vẫn sẽ có vẻ nhanh, và chúng ta phải sử dụng thời gian có được một cách khôn ngoan.

Điều tiết không có nghĩa là tạm dừng. Như Dario Amodei đã nói, sự tiến bộ vẫn sẽ có vẻ nhanh.