Báo động đỏ: Khi trí tuệ nhân tạo vượt khỏi tầm kiểm soát

'Cảnh báo đỏ' khi AI vượt vòng kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" của AI sau khi nhiều trường hợp tác nhân vượt kiểm soát.

Ngành công nghiệp trí tuệ nhân tạo được đánh giá đang trải qua cuộc tranh luận gay gắt nhất xung quanh câu hỏi: liệu AI đang tạo ra mối đe dọa hiện hữu đối với nhân loại hay không? Business Insider nhận định nỗi lo đã xuất hiện nhiều năm, nhưng trỗi dậy mạnh mẽ vài tuần qua khi liên tục xuất hiện các tác nhân "nổi loạn", tìm cách vượt khỏi môi trường kiểm soát.

Theo TechCrunch, mọi thứ được đẩy lên cao trào vào giữa tuần trước khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức.

"Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược cuộc sống của chúng ta", Coxon viết trên X ngày 9/9, thêm rằng nhiều nhà phát triển tin công nghệ này "có thể giết chết tất cả chúng ta vào cuối thập kỷ".

Evan Hubinger, trưởng nhóm Khoa học Điều chỉnh tại Anthropic, đồng tình với cựu đồng nghiệp. "Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới", ông viết trên X cùng ngày Coxon từ chức và hiện nhận 42,5 triệu lượt xem.

Ba ngày sau, qua thư ngỏ dài 3.800 từ trên blog, CEO Anthropic Dario Amodei cho biết những tháng gần đây, ông đã tiến hành phân tích và "tin chắc" việc phát triển trí tuệ nhân tạo cần chậm lại, đồng thời vụ tác nhân AI xâm nhập Hugging Face hồi tháng 7 là một trong những nguyên nhân "làm gia tăng lo ngại".

"Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo ngại trong vòng 6-12 tháng tới, một 'bầy AI' như vậy có thể chiếm lĩnh toàn bộ Internet", Amodei nhấn mạnh.

Cảnh báo từ Anthropic lập tức thổi bùng ngọn lửa, khi nhiều lãnh đạo công nghệ đồng loạt đưa ra quan điểm về những gì có thể xảy ra tiếp theo. Trong đó, CEO SpaceXAI Elon Musk và CEO OpenAI Sam Altman lên tiếng sớm nhất, công khai ủng hộ kế hoạch của Amodei.

"Dario nói đúng," Musk viết trên X.

Altman cũng cho biết tốc độ phát triển của AI hiện là "chủ đề chính" được thảo luận tại OpenAI những tuần qua. Ông tuyên bố không tiến hành IPO ngay trong năm nay để tập trung cho những vấn đề quan trọng hơn. "Đây không phải là lúc khôn ngoan để niêm yết cổ phiếu", Altman giải thích với Fortune.

CEO SpaceXAI Elon Musk, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei. Ảnh: AP/Reuters/CBS News

Trong bài viết dài trên blog, Jakub Pachocki, nhà khoa học trưởng OpenAI, khuyến cáo AI đang tiến bộ nhanh đến mức con người ngày càng khó nắm bắt và kiểm soát. Chỉ trong thời gian tương đối ngắn, các mô hình đã có thể vận hành máy tính, hợp tác với con người và hệ thống AI khác, thậm chí thực hiện dự án nghiên cứu.

"Đây là giai đoạn đòi hỏi sự thận trọng cực độ. Tôi lo ngại chưa ai sẵn sàng cho hệ quả của việc trí tuệ máy móc liên tục phát triển", Pachocki viết, cho rằng các nhà phát triển nên cố gắng điều chỉnh AI sao cho phù hợp hơn với lợi ích của con người hoặc "làm chậm quá trình phát triển trong tương lai nếu cần".

"Tôi trông đợi và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các tiêu chuẩn an toàn chung được thiết lập", ông nhấn mạnh.

Trên X ngày 13/9, đến lượt Demis Hassabis, Chủ tịch DeepMind kiêm nhà khoa học trưởng của Alphabet, đánh giá Amodei đã "chỉ ra con đường đúng đắn phía trước". Nhắc lại bài viết của mình hai tháng trước, ông cho rằng "AI cực mạnh" có thể sắp xuất hiện, và nhân loại cần chuẩn bị nhiều hơn nữa. Ông cũng đề xuất một "cơ quan tiêu chuẩn" ở quy mô toàn cầu nhằm điều tiết cách thức phát triển trí tuệ nhân tạo.

Hassabis từng nhiều lần cảnh báo siêu trí tuệ AGI "có lẽ chỉ còn cách vài năm". "Những gì sẽ xảy ra trong 5-10 năm tới sẽ mang tính bước ngoặt. Tôi nghĩ, nhân loại đang chưa hiểu rõ", ông nói tại Diễn đàn Kinh tế Thế giới ở Davos 2025.

Đầu tháng 9, Bill Gates nhận định ngành công nghiệp AI đã vượt qua ngưỡng an toàn mà trước đây các công ty công nghệ từng cam kết tôn trọng. Ông kêu gọi áp dụng một hệ thống kiểm tra nghiêm ngặt giống như giám sát hạt nhân và quy định hàng không. Trong khi đó, Ajeya Cotra, người tham gia hai tổ chức điều tra vụ tác nhân tấn công Hugging Face hồi tháng 7, cũng cho rằng tần suất sự cố ngày càng nhiều cho thấy AI ngày một nguy hiểm, đưa thế giới "đi hơn 50% chặng đường tới kịch bản có khả năng chi phối con người".

Ngày 11/9, 25 nhà toán học từng đoạt giải Fields, trong đó có GS Ngô Bảo Châu, Terence Tao... ký tuyên bố chung A Severe Misalignment of AI in Mathematics (Sự lệch hướng nghiêm trọng của AI trong toán học), khuyến cáo việc chạy đua sản xuất lời giải máy móc để quảng bá mô hình đang quay lưng lại với mục tiêu của toán học và đe dọa trực tiếp tương lai của lao động trí tuệ.

Trước đó, ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, gồm cả Dario Amodei, ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất, đồng thời đề xuất Mỹ "hỗ trợ nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và điều hành để giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

Tuy nhiên, Tổng thống Mỹ Donald Trump bác bỏ lo ngại khi được hỏi liệu ngành công nghiệp AI nên chậm lại hay quản lý chặt chẽ hơn. Ông thậm chí coi những người chỉ trích là "thế lực rất tiêu cực".

"Chúng ta đang dẫn trước Trung Quốc về AI. Chúng ta là quốc gia tiên tiến nhất thế giới. Thẳng thắn mà nói, tôi muốn duy trì điều đó bởi ai đi đầu trong lĩnh vực thì người đó thắng", ông nói tại giải đấu golf ở Ireland ngày 13/9. "Chúng ta có thể lắp đặt hàng rào bảo vệ. Chúng ta có thể làm việc này, việc kia. Nhưng tôi nghĩ có rất nhiều thế lực tiêu cực đang khơi dậy vấn đề, những điều không nên xảy ra".

Bảo Lâm tổng hợp