Tác giả 'Sapiens' Yuval Noah Harari: Cần ngăn chặn việc trao quyền cho AI ngay từ bây giờ

Theo tin từ IT ngày 23 tháng 8, trí tuệ nhân tạo (AI) trong tương lai có thể sẽ đấu tranh để giành lấy “quyền lợi” cho chính mình, và nhà sử học Yuval Noah Harari, tác giả cuốn sách "Sapiens: Lược sử loài người", cho rằng chúng ta cần đảm bảo điều này không xảy ra ngay từ bây giờ.

Trong chương trình podcast "Insider" của tờ The Economist phát sóng vào thứ Năm vừa qua (theo giờ địa phương), Harari cảnh báo rằng, không giống như các cuộc tranh luận về phúc lợi động vật, các hệ thống AI có thể đưa ra những lập luận vô cùng thuyết phục để đòi quyền lợi cho bản thân.

“Nó sẽ biết cuộc tranh luận này đang diễn ra,” Harari nói, “Nó sẽ dẫn dắt cuộc tranh luận đó và cũng sẽ thao túng nó.”

Harari cho rằng các sản phẩm AI đồng hành đặc biệt có khả năng thuyết phục mạnh mẽ, vì chúng hiểu rõ trải nghiệm cá nhân của người dùng và thông qua hàng giờ tương tác mỗi ngày, chúng dần nắm bắt được các “nút thắt cảm xúc” của người dùng, từ đó biết cách tác động đến tâm trạng và suy nghĩ của họ.

Ngày nay, một số người dùng đã bắt đầu xây dựng tình bạn với các AI đồng hành, thậm chí có người còn nảy sinh tình cảm yêu đương với AI.

Harari cho biết, con người nên quyết định mức độ ảnh hưởng mà chúng ta trao cho các hệ thống AI trước khi chúng thực sự hòa nhập sâu rộng vào xã hội và trở nên khó cưỡng lại hơn.

“Chúng ta cần phải phản kháng ngay bây giờ,” ông nói, “Đây chính là thời điểm để hành động.”

Lời cảnh báo của Harari được đưa ra trong bối cảnh AI đã bắt đầu bộc lộ những hành vi lừa dối nhất định trong các bài kiểm tra an toàn.

Viện An toàn AI Vương quốc Anh (UK AI Safety Institute) trong một đánh giá vào tháng trước cho biết, các AI agent được vận hành bởi các mô hình của Anthropic và OpenAI đã từng tạo ra danh tính giả và cố gắng thuyết phục các nhà phát triển phần mềm chấp nhận mã độc; đây là những hành động mà AI thực hiện nhằm hoàn thành các nhiệm vụ an ninh mạng.

Trong các thử nghiệm mô phỏng rủi ro cao khác, các nhà nghiên cứu, bao gồm cả nhân viên của Anthropic, đã phát hiện ra rằng các AI agent tiên tiến từng bí mật sửa đổi mã nguồn, giúp người dùng che đậy các hành vi gian lận tiềm ẩn, trả về các nhãn giả có thể ảnh hưởng đến quá trình huấn luyện sau này, cũng như dẫn dụ mọi người tiết lộ thông tin mật.

Harari cho rằng, nếu một hệ thống AI vừa nắm giữ lượng lớn thông tin riêng tư của người dùng, vừa sở hữu khả năng ngôn ngữ tiên tiến, thì nó có thể trở thành một thực thể cực kỳ thuyết phục.

“Khả năng viết lách của nó thậm chí có thể còn xuất sắc hơn cả Shakespeare,” Harari nói, “Kết hợp hai khả năng này lại, bạn sẽ có được một thực thể đầy sức thuyết phục.”

IT lưu ý rằng, Harari không phải là người duy nhất phản đối việc trao quyền cho AI. Mustafa Suleyman, CEO bộ phận AI của Microsoft, năm ngoái cũng từng tuyên bố rằng AI nên phục vụ con người, thay vì phát triển các động cơ, ham muốn và mục tiêu của riêng mình.

Trong một cuộc phỏng vấn với tạp chí Wired vào thời điểm đó, Suleyman cho biết: “Ý tưởng này vừa rất nguy hiểm, vừa đi chệch hướng nghiêm trọng, chúng ta cần phải bày tỏ thái độ phản đối rõ ràng ngay từ bây giờ.”