Cựu nhân viên DeepMind tiết lộ công ty từng cấm thảo luận công khai về nguy cơ AI gây diệt vong

Không có gì đáng ngạc nhiên, nhưng vẫn rất đáng suy ngẫm. Vishal Maini, người từng làm việc trong nhóm truyền thông và chính sách của Deepmind từ năm 2018 đến 2022, cho biết: "Việc truyền thông ra bên ngoài về khả năng nhân loại bị tuyệt chủng là điều không được phép, đối với bất kỳ ai, ở bất kỳ cấp độ nào trong tổ chức." Các nhà nghiên cứu được hướng dẫn gạt bỏ những rủi ro đó như thể đó là sự báo động thái quá, so sánh chúng với "những bộ phim như Terminator", và thay vào đó hãy chuyển hướng sang các ứng dụng tích cực trong lĩnh vực chăm sóc sức khỏe hoặc khí hậu.

Ở nội bộ, nhóm nghiên cứu biết rằng vấn đề căn chỉnh AI (AI alignment problem) vẫn chưa được giải quyết và "có quá ít người làm việc về vấn đề này." Sau nhiều tháng đấu tranh, Deepmind đã nới lỏng quy định. Các nội dung về an toàn được trình bày theo hướng tích cực đã được "bật đèn xanh", bao gồm cả một bài đăng trên blog gói gọn rủi ro tuyệt chủng bằng ngôn ngữ thân thiện. Maini cho biết khoảng cách giữa kiến thức nội bộ và thông điệp công khai đang dần thu hẹp "bởi vì bằng chứng hiện nay đã khó có thể bác bỏ hơn."

Lời kể của ông xuất hiện trong bối cảnh ngày càng có nhiều nhà nghiên cứu về an toàn AI lên tiếng công khai, cảnh báo về các mô hình không được bảo mật có thể dẫn đến những hành động nguy hiểm hoặc các hệ thống tiên tiến có khả năng vượt khỏi tầm kiểm soát của con người. Chính các nhà nghiên cứu tại Deepmind cũng nằm trong số những người đang lên tiếng.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay