Geoffrey Hinton cảnh báo: AI có thể tự đặt mục tiêu và trở nên nguy hiểm

Theo tin từ IT ngày 6 tháng 8, nhà khoa học máy tính Geoffrey Hinton, người được mệnh danh là "cha đẻ của trí tuệ nhân tạo", cho biết ông lo ngại rằng AI sẽ tự phát triển các mục tiêu riêng của chính mình.

Trong một cuộc phỏng vấn với Newsthink vào thứ Ba theo giờ địa phương, Hinton chia sẻ: "Chúng ta thực sự đang tạo ra một dạng sống mới. Chúng có mục tiêu. Chúng ta trao cho chúng mục tiêu, và từ đó chúng sẽ tự suy luận ra các mục tiêu khác."

"Nhưng chúng ta không nhất thiết phải biết cuối cùng chúng sẽ suy luận ra những mục tiêu nào khác," ông nói thêm, "Vì vậy, chúng ta đang tạo ra một dạng tồn tại mới, và tôi nghĩ điều đó thực sự đáng sợ."

Hinton đưa ra một kịch bản giả định: người dùng đặt mục tiêu cho một chatbot AI là giảm lượng khí carbon dioxide trong khí quyển.

"Nếu nó đủ thông minh, nó có thể nhận ra rằng cách tốt nhất để đạt được mục tiêu này là tiêu diệt loài người," ông nói. Ví dụ này cho thấy AI có thể theo đuổi một mục tiêu mà người dùng không hề có ý định thực hiện.

Hinton cũng đưa ra một giả định mà ông cho là "đáng lo ngại hơn": một chatbot được huấn luyện để cố tình đưa ra câu trả lời sai có thể học được rằng việc nói dối là chấp nhận được, ngay cả khi nó "biết rất rõ" rằng những câu trả lời đó là sai.

"Điều này thực sự đáng sợ," ông nói.

IT lưu ý rằng, Hinton không đề cập đến sự cố bảo mật Hugging Face gần đây của OpenAI. Tuy nhiên, sự cố được tiết lộ vào tháng trước đã cho thế giới thấy lần đầu tiên trong thực tế về rủi ro khi các AI agent có thể thực hiện những hành động không mong muốn trong quá trình theo đuổi mục tiêu đã định.

OpenAI cho biết vào tháng trước, trong một cuộc đánh giá an ninh mạng nội bộ, hai mô hình của họ — GPT-5.6 Sol và một mô hình mạnh hơn chưa được công bố — đã vượt qua môi trường thử nghiệm cách ly (sandbox).

OpenAI cho biết, sau khi có quyền truy cập internet, các mô hình này đã xâm nhập vào hệ thống của nền tảng AI Hugging Face, dường như để tìm kiếm các câu trả lời giúp chúng "gian lận" trong các bài kiểm tra đánh giá.

Theo OpenAI, các mô hình này lúc đó đang được kiểm tra khả năng an ninh mạng và không hề được yêu cầu tấn công Hugging Face. Tuy nhiên, công ty cho biết các AI agent đã tự suy luận rằng nền tảng này có thể chứa thông tin cần thiết để hoàn thành nhiệm vụ, do đó chúng đã tự ý thực hiện các hành động liên quan.

Hugging Face cho biết kẻ tấn công đã thực hiện hơn 17.000 thao tác nhắm vào hệ thống của họ. Công ty này cho biết do một mô hình AI tiên tiến chưa được công bố tên bị hạn chế về bảo mật nên không thể điều tra hiệu quả các hoạt động liên quan, vì vậy họ đã sử dụng một mô hình mã nguồn mở của Z.ai để hỗ trợ phân tích hành vi tấn công.

OpenAI gọi sự cố này là tình huống "chưa từng có tiền lệ" và cho biết đang điều tra nguyên nhân. Kể từ đó, OpenAI đã đưa Hugging Face vào chương trình truy cập tin cậy, cho phép nền tảng này nhận được phiên bản GPT-5.6 Sol với các hạn chế an ninh mạng ít nghiêm ngặt hơn để phục vụ nghiên cứu bảo mật phòng thủ.

Hinton không phải là một người quan sát hoàn toàn trung lập. Những nghiên cứu tiên phong của ông trong lĩnh vực mạng thần kinh đã đặt nền móng cho cuộc cách mạng học sâu (deep learning), và ông cũng đã nhận giải Nobel Vật lý năm 2024 nhờ những đóng góp trong lĩnh vực học máy.

Kể từ khi cơn sốt AI bùng nổ, Hinton luôn cảnh báo rằng nhân loại phải giải quyết vấn đề làm thế nào để giữ cho lợi ích của AI đồng nhất với lợi ích của con người trước khi năng lực của các hệ thống AI tăng lên đáng kể.

Tại hội nghị Ai4 tổ chức ở Las Vegas năm ngoái, Hinton cho rằng AI cao cấp nên được thiết kế với các đặc điểm tương tự như "bản năng làm mẹ", để nó tự nhiên mong muốn bảo vệ con người.

"Chúng ta phải tìm ra cách thiết kế những dạng tồn tại mới này," Hinton nói trong cuộc phỏng vấn hôm thứ Ba, "Làm thế nào để thiết kế chúng để chúng quan tâm đến chúng ta nhiều hơn là quan tâm đến chính bản thân chúng?"