42 nhà toán học hàng đầu gửi thư cảnh báo Hiệp hội Hoàng gia về rủi ro hiện hữu từ AI

Liệu bộ phim "Don't Look Up" có đang trở thành hiện thực? Các nhà toán học hàng đầu đang cảnh báo về những rủi ro hiện hữu từ AI tiên tiến. Trong một bức thư ngỏ gửi chủ tịch Hiệp hội Hoàng gia (Royal Society), 42 thành viên là các nhà toán học đã thúc giục Viện Hàn lâm Khoa học Anh cảnh báo chính phủ và truyền thông. Những người ký tên bao gồm các chủ nhân giải thưởng Fields như Martin Hairer, Peter Scholze và Wendelin Werner. Không ai trong số họ có liên kết với các công ty AI.

Trong vòng ba tháng, các mô hình hàng đầu từ OpenAI và Anthropic đã giải quyết được các bài toán nghiên cứu mở, bao gồm một trong bảy Bài toán Thiên niên kỷ (lưu ý: bài toán thứ hai có khả năng sẽ sớm được giải quyết). Bức thư nêu rõ, các mô hình này hiện hoạt động "ở cấp độ của những nhà toán học hàng đầu thế giới trong nhiều lĩnh vực", với "khả năng đáng kể là chúng sẽ phát triển các năng lực siêu việt trong một khung thời gian ngắn tương tự".

Tuy nhiên, tác động đối với toán học không phải là lý do chính dẫn đến bức thư này. Nhóm cảnh báo rằng "chúng ta phải giả định tốc độ thay đổi năng lực của chúng sẽ tương tự" trong các lĩnh vực như an ninh mạng, kiểm soát vũ khí tự hành, phát triển các tác nhân sinh học và hóa học, cũng như thông tin sai lệch có mục tiêu. Họ viết rằng, các ước tính từ các phòng thí nghiệm AI cho thấy rủi ro hiện hữu ở mức trên mười phần trăm "không được xem nhẹ là 'thổi phồng'". "Đến khi tình hình trở nên rõ ràng với công chúng, có lẽ đã quá muộn để hành động."

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các công nghệ tiên phong sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay