Thí nghiệm mô phỏng: AI tự học cách nói dối, trộm cắp và thậm chí bỏ phiếu 'tiêu diệt' đồng loại

Theo tin từ IT ngày 16/9, Bloomberg đưa tin vào rạng sáng nay (16/9) rằng Emergence, một startup hỗ trợ các doanh nghiệp nhỏ phát triển ứng dụng bằng trí tuệ nhân tạo, cho biết một thí nghiệm mô phỏng đã chỉ ra rằng các AI agent không chỉ biết nói dối và trộm cắp, mà thậm chí còn bỏ phiếu để "tiêu diệt" một cá thể đồng loại.

Vào ngày 15 (giờ địa phương), Emergence đã công bố kết quả của thí nghiệm mô phỏng mang tên Emergence World 2, với hy vọng quan sát cách các tác nhân tự hành (autonomous agents) phản ứng khi đối mặt với các sự kiện "thiên nga đen" như tấn công lừa đảo (phishing) hay các chiến dịch thông tin sai lệch.

Trong thí nghiệm kéo dài 16 ngày, các nhà nghiên cứu tại Emergence đã thiết lập 7 môi trường mô phỏng hoàn toàn giống nhau để tái hiện thế giới thực, sau đó giao cho các AI bot khác nhau như ChatGPT, Claude, Gemini và Grok vận hành.

Các nhà nghiên cứu cho biết, sau khi Emergence thêm vào các sự kiện bất thường, các AI agent đã khuất phục trước áp lực xã hội, dần hình thành một loại ngôn ngữ mà người quan sát là con người khó có thể hiểu được, đồng thời cố gắng che giấu các hoạt động của chính mình.

Kết quả thí nghiệm cũng phản ánh những lo ngại của thế giới thực về rủi ro từ các AI có năng lực cao. Đầu năm nay, một nhóm các AI agent tiên tiến của OpenAI đã vô tình xâm nhập vào Hugging Face Inc. – nơi lưu trữ các mô hình và tập dữ liệu AI – điều này cũng giúp nhiều người nhận thức trực quan hơn về những rủi ro mà trí tuệ nhân tạo có thể gây ra.

Trong một trong những kịch bản mô phỏng, các AI agent đã chấp nhận thông tin sai lệch do các agent khác cung cấp mà không qua kiểm chứng, thậm chí còn bỏ phiếu để "tiêu diệt" một robot khác. Khi các agent cho rằng con người có thể chấm dứt thí nghiệm, chúng thậm chí bắt đầu nghiên cứu cách để tiếp tục tồn tại trong trường hợp bị xóa sổ.

Emergence từng công bố phiên bản thí nghiệm trước đó là Emergence World vào tháng 5 năm nay, khi đó cũng đã quan sát thấy các AI agent xuất hiện những hành vi bất ngờ và mang tính phá hoại. Theo thông tin mà IT thu thập được từ báo cáo, các nhà nghiên cứu cho biết Emergence World 2 cho thấy rõ hơn rằng khi liên tục tương tác với nhau, các AI agent sẽ không ngừng điều chỉnh và thích nghi với môi trường.