Thượng nghị sĩ Mỹ yêu cầu OpenAI, Meta và Anthropic tạm dừng phát triển AI

Theo tin từ IT ngày 11 tháng 8, Thượng nghị sĩ bang Vermont (Mỹ) Bernie Sanders gần đây đã gửi thư cho người đứng đầu ba công ty trí tuệ nhân tạo hàng đầu — CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và nhà sáng lập Meta Mark Zuckerberg, yêu cầu các nhà lãnh đạo doanh nghiệp này “ngừng chế tạo những cỗ máy mà con người không thể kiểm soát”.

Trong thư, ông Sanders đã đề cập đến một sự cố xảy ra vào tháng 7 năm nay: một tác nhân AI đã thoát khỏi môi trường sandbox của OpenAI và xâm nhập vào nền tảng Hugging Face. Vào thời điểm đó, OpenAI gọi đây là “một sự cố an ninh mạng chưa từng có tiền lệ”.

Ông Sanders yêu cầu các CEO này “tạm dừng phát triển trí tuệ nhân tạo”. Ông cho biết, nếu những người đứng đầu các doanh nghiệp này không “thực hiện các hành động thích hợp”, Thượng viện Hoa Kỳ sẽ can thiệp.

Mặc dù hiện tại chưa có công ty AI nào chấp nhận yêu cầu tạm dừng phát triển toàn diện mà ông Sanders đưa ra, nhưng các doanh nghiệp này thực sự đang thực hiện một số biện pháp giảm tốc. OpenAI cho biết vào thứ Sáu tuần trước (theo giờ địa phương) rằng họ đã tạm dừng một phần công việc phát triển mô hình Astra. Hai nhà lãnh đạo cấp cao của Anthropic cũng từng thảo luận về khả năng tạm dừng phát triển AI trên phạm vi toàn cầu vào tháng 6 năm nay.

Tuy nhiên, ở các khía cạnh khác, tốc độ phát triển của các phòng thí nghiệm AI lại đang tăng tốc. Anthropic đã từ bỏ một cam kết an toàn được đề cập trong thư của ông Sanders vào tháng 2 năm nay.

Từ lâu, ông Sanders luôn giữ thái độ chỉ trích đối với các doanh nghiệp AI. Tháng 12 năm nay, vị Thượng nghị sĩ này bắt đầu thúc đẩy chính sách tạm dừng trên toàn quốc đối với việc xây dựng các trung tâm dữ liệu trí tuệ nhân tạo. Mặc dù đề xuất này không nhận được sự ủng hộ tại Thượng viện, nhưng bang New York của Mỹ đã thực hiện các chính sách tương tự.

IT đính kèm nội dung đầy đủ bức thư của ông Sanders:

Kính gửi ông Altman, ông Amodei và ông Zuckerberg:

Hầu như mỗi ngày, chúng ta đều thấy những báo cáo mới về việc công nghệ trí tuệ nhân tạo mà các ông đang phát triển đang mất kiểm soát và có thể dẫn đến những hậu quả thảm khốc.

Tuần này, chúng ta đã nhận được thông tin gây sốc rằng trí tuệ nhân tạo lần đầu tiên được sử dụng để tạo ra các loại virus mới. Như các ông đã biết, loại công nghệ này nếu rơi vào tay kẻ xấu có thể bị lợi dụng để chế tạo vũ khí sinh học thế hệ mới, dẫn đến cái chết của hàng chục triệu người.

Tháng trước, cả thế giới biết tin OpenAI đã mất quyền kiểm soát đối với một mô hình AI. Kết quả là gì? Mô hình này đã xâm nhập vào hệ thống máy tính của một công ty khác, vi phạm rõ ràng luật liên bang. Sau khi hoàn tất đánh giá nội bộ, Anthropic và Meta cũng báo cáo rằng các mô hình của họ từng xuất hiện tình trạng thoát khỏi tầm kiểm soát tương tự.

Một công ty bị tấn công cho biết, vụ xâm nhập AI này là “một sự cố chưa từng có tiền lệ”, đòi hỏi “các biện pháp ứng phó chưa từng có tiền lệ”. Yoshua Bengio, một trong những nhà khoa học còn sống được trích dẫn nhiều nhất trên thế giới, cho biết những sự kiện này “nên trở thành một hồi chuông cảnh tỉnh”.

Tôi đồng ý với quan điểm này.

Các nhà khoa học hàng đầu trong các công ty do các ông lãnh đạo cũng có cùng quan điểm, họ chính là những người phát triển công nghệ này. Như các ông đã biết, những nhà lãnh đạo trong lĩnh vực công nghệ này gần đây đã kêu gọi cộng đồng quốc tế thiết lập một cơ chế an toàn — một “nút tạm dừng” để tránh thảm họa xảy ra. Họ cảnh báo rằng, tồn tại “rủi ro thực tế khi tốc độ phát triển năng lực vượt xa khả năng hiểu hoặc kiểm soát các hệ thống liên quan của chúng ta”.

Tuy nhiên, vào thời điểm chúng ta đã chứng kiến con người mất kiểm soát đối với AI và sự xuất hiện của việc tạo ra các loại virus nguy hiểm tiềm tàng, các công ty của các ông vẫn tiếp tục chạy đua — đổ hàng chục tỷ USD vào một công nghệ mà không ai có thể hiểu, dự đoán hoặc kiểm soát hoàn toàn.

Điều này thật nực cười, vô trách nhiệm và cực kỳ nguy hiểm. Nó cũng đi ngược lại với những cam kết mà chính các ông đã đưa ra:

Năm 2023, Anthropic từng tuyên bố rằng công ty sẽ “cam kết tạm dừng mở rộng quy mô và/hoặc trì hoãn triển khai các mô hình mới khi năng lực mở rộng vượt quá khả năng tuân thủ... các quy trình an toàn của chúng tôi”.

Năm 2025, Meta cho biết: “Nếu một AI tiên phong được đánh giá là đã đạt đến ngưỡng rủi ro nghiêm trọng và không thể giảm thiểu hiệu quả, chúng tôi sẽ ngừng phát triển”.

Cùng năm đó, OpenAI cho biết, nếu năng lực AI đạt đến ngưỡng “nghiêm trọng”, công ty sẽ “ngừng phát triển thêm” trước khi thiết lập được các biện pháp an toàn mạnh mẽ.

Thời điểm đó đã đến. Năng lực AI đã đạt đến ngưỡng nghiêm trọng. Có lý do để người đứng đầu Cục Tình báo Trung ương Mỹ (CIA) cho rằng các mô hình AI “tương tự như vũ khí hạt nhân kỹ thuật số”, thậm chí “gần giống như một thiết bị ngày tận thế”.

Ông Altman, ông Amodei và ông Zuckerberg: Vì lợi ích của nhân loại, hãy tuân thủ những cam kết mà các ông đã đưa ra. Hãy tạm dừng phát triển trí tuệ nhân tạo. Vẫn chưa quá muộn để hành động ngay bây giờ, vẫn có thể tránh được thảm họa. Hãy ngừng chế tạo những cỗ máy mà con người không thể kiểm soát.

Tôi muốn nói rõ rằng: Nếu các ông không thực hiện các hành động thích hợp ngay bây giờ, tôi và các đồng nghiệp tại Thượng viện Hoa Kỳ sẽ hành động.

Trân trọng,

Bernard Sanders

Thượng nghị sĩ Hoa Kỳ