Geoffrey Hinton cảnh báo Mỹ: Chỉ còn một năm để kiểm soát AI trước khi quá muộn

Theo tin từ IT ngày 18 tháng 9, tờ Business Insider đưa tin vào chiều nay (18/9) rằng Geoffrey Hinton, nhà khoa học máy tính đoạt giải Nobel và được mệnh danh là "cha đẻ của AI", đã cảnh báo rằng các nghị sĩ Quốc hội Mỹ có lẽ chỉ còn khoảng một năm để thiết lập các rào cản pháp lý thực sự hiệu quả cho trí tuệ nhân tạo; nếu chậm trễ hơn, sự phát triển của AI có thể bước vào giai đoạn "mất kiểm soát".

Vào ngày 16 theo giờ địa phương, sau khi hoàn tất buổi báo cáo trước các nghị sĩ Quốc hội Mỹ, Hinton chỉ ra rằng tốc độ tiến bộ của AI đang vượt xa dự đoán trước đây của nhiều nhà nghiên cứu, khiến khoảng thời gian để quản lý các hệ thống AI tiên tiến bị thu hẹp nhanh chóng.

Khi được hỏi các nhà hoạch định chính sách còn bao nhiêu thời gian để hành động, Hinton trả lời: khoảng một năm, "và sẽ không còn nhiều hơn thế". Nhận định về thời điểm xuất hiện của siêu trí tuệ cũng đã được đẩy lên sớm hơn đáng kể; trước đây thường được tính bằng hàng thập kỷ, nay chỉ còn vỏn vẹn vài năm. "AI đã phát triển đến giai đoạn có thể tự thiết kế ra các hệ thống AI tiên tiến hơn. Nếu chúng ta không làm gì cả, AI sẽ mất kiểm soát. Chúng ta buộc phải làm chậm tốc độ lại."

Hinton cũng đề cập đến sự kiện Hugging Face gần đây và mô tả đó như "một vụ tai nạn Chernobyl quy mô nhỏ", cho rằng sự kiện này phản ánh việc các hệ thống AI tiên phong đang ngày càng trở nên khó kiểm soát hơn. "Chúng ta không nên phát triển những thứ có khả năng tiêu diệt nhân loại."

Theo quan điểm của ông, trước khi tiếp tục thúc đẩy AI tiên tiến, các nhà nghiên cứu trước hết phải tìm ra cách kiểm soát tốt các hệ thống này.

Thời gian gần đây, Hinton thường xuyên công khai cảnh báo về những rủi ro mà AI tiên tiến có thể mang lại. Tuần trước, trong cuộc phỏng vấn với BBC, ông cho rằng nhận định khả năng AI dẫn đến sự diệt vong của nhân loại trong vòng 10 năm tới là khoảng 10% "không phải là không có cơ sở".