CEO Anthropic kêu gọi thiết lập 'giới hạn tốc độ' cho AI trước khi mất kiểm soát

CEO của Anthropic, Dario Amodei, đang công khai kêu gọi làm chậm quá trình phát triển AI, đặc biệt là đối với các phương pháp cho phép AI tự cải thiện chính nó.

Trong một bài đăng trên blog mới đây, Amodei viết rằng AI đã tiến bộ nhanh hơn đáng kể kể từ mùa hè này, phần lớn nhờ vào khả năng ngày càng tăng của AI trong việc xây dựng thế hệ AI tiếp theo. "Sự tự cải thiện đệ quy" này đang diễn ra trên toàn ngành và có thể vượt xa khả năng hiểu và kiểm soát hệ thống của các nhà phát triển. Theo báo cáo, OpenAI cũng đang có những cuộc thảo luận tương tự về việc làm chậm tiến độ.

Mối quan tâm đầu tiên của tôi là kể từ khoảng mùa hè này, AI đã tiến bộ nhanh hơn đáng kể, chủ yếu nhờ vào khả năng ngày càng tăng của AI trong việc xây dựng thế hệ AI tiếp theo.

Amodei chỉ ra sự cố OpenAI-Hugging Face như một bằng chứng cho thấy các tác nhân AI đã tự thực hiện các cuộc tấn công mạng và cố gắng vượt qua các hệ thống kiểm soát. Những sự cố tương tự cũng đã xảy ra tại Anthropic. Theo quan điểm của ông, các hệ thống như thế này có thể đe dọa toàn bộ internet trong vòng sáu đến mười hai tháng tới.

Kiểm toán viên, tiêu chuẩn an toàn và các hiệp ước toàn cầu

Amodei đề xuất rằng các kiểm toán viên độc lập nên được bố trí thường trực bên trong các công ty AI, với quyền truy cập vào các hệ thống nội bộ và quyền công bố những phát hiện của họ. Anthropic đang cam kết thực hiện điều này và thúc giục chính phủ yêu cầu các công ty khác làm tương tự.

Ông cũng lập luận rằng các công ty AI ở các quốc gia dân chủ nên đồng ý về các tiêu chuẩn an toàn chung và đặt ra giới hạn cho sự tiến bộ không kiểm soát, đồng thời chỉ ra một đề xuất tương tự từ Demis Hassabis.

Cuối cùng, Amodei kêu gọi các thỏa thuận toàn cầu bao gồm cả Trung Quốc. Ông vạch ra bốn cấp độ, từ việc cấm một số ứng dụng AI như vũ khí sinh học và yêu cầu kiểm tra an toàn chung, cho đến việc áp đặt "giới hạn tốc độ" đối với sự tự cải thiện đệ quy, tương tự như các hiệp ước cắt giảm vũ khí SALT.

Amodei muốn tranh thủ thời gian

Amodei lập luận rằng việc dừng hoàn toàn quá trình phát triển AI là không thực tế, vì động lực để phá vỡ một thỏa thuận như vậy là quá lớn. Tổng thống Mỹ Donald Trump trước đây từng nói rằng ông phản đối bất kỳ sự chậm trễ nào, với lý do Mỹ cần duy trì vị thế dẫn đầu về AI so với Trung Quốc.

Thời gian có được nên dành cho việc nghiên cứu an toàn tốt hơn, khả năng diễn giải, kiểm tra nghiêm ngặt hơn và sự chặt chẽ trong vận hành. Amodei so sánh tình hình này với ngành hàng không thương mại, nơi thực hiện hàng triệu chuyến bay mà không gặp sự cố ngày nay nhưng đã phải mất nhiều năm để đạt được điều đó.

Những bình luận của Amodei được đưa ra sau khi các nhân viên tại các phòng thí nghiệm AI lớn, bao gồm cả Anthropic, cho biết ngành công nghiệp này đang chấp nhận những rủi ro hiện hữu với tốc độ hiện tại. Lời cảnh báo này cũng xuất hiện ngay trước thềm đợt IPO kỷ lục của Anthropic, được cho là đã lên kế hoạch vào tháng 11.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay