Nhà tâm lý học Steven Pinker: Hãy thay thế nỗi sợ 'AI diệt vong' bằng kỹ thuật an toàn thực tế

Nhà tâm lý học Steven Pinker tại Harvard cho rằng những lo ngại về việc AI xóa sổ nhân loại là bị thổi phồng. Ông đưa ra lập luận của mình trong một bức thư ngỏ trên Quillette gửi tới Scott Alexander, bác sĩ tâm thần và blogger công nghệ có tầm ảnh hưởng, người đã thách thức ông tham gia một cuộc tranh luận công khai về các rủi ro hiện hữu của AI. Pinker đã từ chối và gạt bỏ những sự kiện như vậy như một "môn thể thao giải trí".

Pinker lập luận rằng các kịch bản ngày tận thế như "paperclip maximizer" (máy tối ưu hóa kẹp giấy), trong đó một AI hy sinh nhân loại để tạo ra nhiều kẹp giấy hơn, đã nhầm lẫn giữa trí thông minh với động lực thống trị. Chúng cũng giả định rằng các hệ thống AI sẽ ám ảnh một cách điên cuồng vào một mục tiêu duy nhất.

Pinker từng lạc quan về AI trước đây, nhưng giờ ông thừa nhận mình đã đánh giá thấp khả năng của các mô hình ngôn ngữ lớn. Ông cũng không lường trước được việc các công ty AI sẽ tung ra sản phẩm của họ một cách thiếu thận trọng như thế nào. Trớ trêu thay, sự vội vã đó lại được dẫn dắt bởi chính những người thuộc cộng đồng đang cảnh báo về những rủi ro này.

Những mối nguy hiểm mà Pinker thực sự coi trọng là khủng bố sinh học, tấn công mạng và các tác nhân AI không được kiểm soát. Ông viết rằng những lời lẽ về ngày tận thế sẽ chẳng giải quyết được gì. Điều hiệu quả là kỹ thuật an toàn tỉnh táo dựa trên sự giám sát độc lập, trách nhiệm pháp lý và sự kiểm soát của con người.

Alexander đã trình bày quan điểm của mình trên blog cá nhân vào tháng 6. Ông cho rằng xác suất AI xóa sổ nhân loại là 20% và mong muốn có cả nghiên cứu an toàn tốt hơn lẫn các thỏa thuận quốc tế để làm chậm quá trình phát triển AI.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay