Nhà tâm lý học Steven Pinker: Đừng thổi phồng 'ngày tận thế AI', hãy tập trung vào kỹ thuật an toàn thực tế

IT ngày 29 tháng 9, theo đưa tin từ trang The Decoder vào ngày 28 theo giờ địa phương, nhà tâm lý học Steven Pinker tại Đại học Harvard cho rằng rủi ro AI hủy diệt nhân loại đã bị thổi phồng. Ông đã đăng tải một bức thư ngỏ gửi tới bác sĩ tâm thần kiêm blogger công nghệ Scott Alexander trên Quillette để trình bày các lý do của mình.

Trước đó, Alexander đã thách thức Pinker tham gia một cuộc tranh luận công khai về rủi ro tồn vong do AI gây ra. Pinker từ chối tham gia, gọi những cuộc tranh luận kiểu này chẳng qua là "hoạt động giải trí cho người xem", đồng thời cho rằng các giả thuyết tận thế như "Paperclip Maximizer" (Máy tối ưu hóa kẹp giấy) đã đánh tráo khái niệm giữa trí thông minh và ham muốn thống trị.

Lưu ý của [IT](#L3): "Paperclip Maximizer" là giả thuyết cho rằng AI sẽ hy sinh toàn bộ nhân loại để sản xuất thêm kẹp giấy, đồng thời mặc định rằng các hệ thống AI sẽ điên cuồng theo đuổi duy nhất một mục tiêu.

Pinker vốn luôn lạc quan về AI, nhưng ông cũng thừa nhận mình đã đánh giá thấp khả năng cuối cùng mà các mô hình ngôn ngữ lớn (LLM) có thể đạt được, cũng như không lường trước được việc các công ty AI lại liều lĩnh đến vậy khi phát hành sản phẩm. Trớ trêu thay, nhiều người thúc đẩy cuộc đua phát hành này lại chính là những người từng cảnh báo về các rủi ro đó.

Những rủi ro mà Pinker thực sự coi trọng là khủng bố sinh học, tấn công mạng và các tác nhân AI thiếu sự kiểm soát. Ông viết rằng việc tô vẽ các kịch bản tận thế không giúp ích gì cho việc đối phó với những mối nguy hiểm này; cách làm thực sự hiệu quả là triển khai kỹ thuật an toàn thận trọng, dựa trên sự giám sát độc lập, cơ chế trách nhiệm và sự kiểm soát của con người.

Vào tháng 6, Alexander cũng đã trình bày quan điểm trên blog cá nhân. Ông cho rằng xác suất AI dẫn đến sự diệt vong của nhân loại là 20%, đồng thời ủng hộ việc cải thiện nghiên cứu an toàn AI và làm chậm tốc độ phát triển AI thông qua các hiệp định quốc tế.