Hơn 1.100 nhân sự AI kêu gọi Mỹ kiểm soát tốc độ phát triển, CEO OpenAI lên tiếng ủng hộ

Theo giờ Bắc Kinh ngày 29 tháng 7, tờ Business Insider đưa tin, các giám đốc điều hành tại một số công ty AI hàng đầu của Mỹ cho biết đã đến lúc chính phủ liên bang cần tìm cách "đạp phanh" quá trình phát triển AI khi cần thiết.

Hơn 1.100 nhân viên AI từ các công ty như OpenAI, Anthropic, Google và Meta đã cùng ký tên vào một bức thư ngỏ, kêu gọi chính phủ Mỹ kiểm soát tốc độ phát triển của AI. Hiện nay, các công ty AI đang chạy đua phát triển những hệ thống AI ngày càng mạnh mẽ, khiến dư luận lo ngại rằng tốc độ phát triển của AI có thể vượt xa khả năng bắt kịp của các biện pháp bảo đảm an toàn, hệ thống quản trị và cơ chế giám sát hiện có.

"Chúng tôi kêu gọi chính phủ Mỹ hỗ trợ hợp tác quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết, để có thể kiểm soát một cách có ý thức quá trình phát triển AI tự động ở cấp độ tiên phong", bức thư ngỏ nêu rõ.

Sáng kiến này có tên là "Pacing the Frontier" (tạm dịch: Kiểm soát tốc độ tiên phong). Các giám đốc điều hành ký vào bức thư này bao gồm CEO của Anthropic - Dario Amodei cùng hai đồng sáng lập công ty là Jack Clark và Jared Kaplan; Giám đốc khoa học của OpenAI - Jakub Pachocki; Giám đốc khoa học của Meta - Shengjia Zhao; và Anca Dragan, người phụ trách công tác an toàn và căn chỉnh AI tại Google DeepMind.

Bức thư tập trung vào "phát triển AI tự động", đề cập đến khả năng AI trong tương lai có thể tự phát triển và cải tiến các hệ thống AI. Ngành công nghiệp gọi quá trình này là "tự cải tiến đệ quy" (recursive self-improvement). Anthropic từng cho biết dòng mô hình Claude của họ đang tiến rất nhanh đến ngưỡng này.

Khi nói về thời điểm tiềm năng đó, bức thư viết: "Rất khó để dự đoán chính xác mức độ tăng tốc của AI, nhưng thực sự tồn tại một rủi ro hiện hữu: tốc độ phát triển năng lực AI có thể tăng nhanh chóng, vượt quá khả năng hiểu hoặc kiểm soát của chúng ta đối với các hệ thống được tạo ra."

Phản hồi về bức thư ngỏ này, OpenAI đã đăng trên nền tảng X rằng: "Chúng tôi tin rằng tại một thời điểm nào đó trong tương lai, sự tăng tốc của AI trong việc phát triển các mô hình tiên phong có thể diễn ra nhanh đến mức thế giới sẽ cần phải kiểm soát tốc độ tiến bộ của AI."

Anthropic cũng chia sẻ trên một bài đăng trên X: "Nghiên cứu về tự cải tiến đệ quy mà chúng tôi công bố tháng trước cho thấy rằng chúng ta cần các công cụ để có thể điều tiết một cách có ý thức tốc độ phát triển tiên phong của AI, nhằm tạo thời gian cho xã hội chuẩn bị sẵn sàng."

Trong khi đó, CEO của OpenAI - Sam Altman cho biết, có lẽ đã đến lúc cần "kiểm soát" nhịp độ phát triển của AI để thế giới có thể chuẩn bị cho điều đó.

"Chúng ta có thể cần kiểm soát tốc độ phát triển của AI, dành cho bản thân đủ thời gian để xã hội thích nghi với các cấp độ năng lực mới này và thiết lập các cơ chế bảo vệ. Đồng thời, chúng ta cũng cần tìm cách thực hiện điều này sao cho không ai cảm thấy đó là sự 'chiếm hữu quản lý' (regulatory capture - đối tượng bị quản lý quay lại gây ảnh hưởng lên người quản lý), cũng như không để người khác cảm thấy đó là sự thông đồng giữa các phòng thí nghiệm AI tiên phong", ông chia sẻ trong một cuộc phỏng vấn với podcast "Invest Like the Best".

Thái độ của Altman đã có sự đảo chiều. Trước đây, ông từng tránh ký vào một số sáng kiến kêu gọi làm chậm sự phát triển của AI. Ông từng cho rằng bức thư ngỏ năm 2023 với nội dung tương tự về việc "làm chậm phát triển AI" là "thiếu các chi tiết kỹ thuật quan trọng về việc chúng ta thực sự cần tạm dừng phát triển ở những khía cạnh nào".

Đọc thêm:

"Nhiều nhân viên OpenAI công khai ủng hộ CEO Altman, xác nhận ông sẵn sàng lắng nghe các ý kiến khác biệt"

"CEO OpenAI Altman: Mọi người không muốn một CEO là AI và coi trọng sự kết nối giữa con người hơn"

"Trong bối cảnh lệnh hạn chế mô hình AI tiên phong có hiệu lực, CEO OpenAI Altman sẽ tới Washington trong tuần này"

"Anthropic chậm trễ trong việc ký thư ngỏ trở thành 'tâm điểm chỉ trích', CEO Dario Amodei giải thích công ty chưa bao giờ ủng hộ việc cấm các mô hình AI mã nguồn mở"

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.