Hơn 20 chuyên gia AI hàng đầu cảnh báo: Tự động hóa nghiên cứu AI có thể gây ra 'bùng nổ trí tuệ'

Nếu bạn vẫn chưa thấy đủ, thì đây là một lời cảnh báo khác về AI: Hơn 20 nhà nghiên cứu AI, bao gồm Geoffrey Hinton, Yoshua Bengio và trưởng nhóm nghiên cứu của OpenAI là Jakub Pachocki, đã cảnh báo về một "sự bùng nổ trí tuệ" có thể xảy ra do AI tự cải tiến trong một bài báo nghiên cứu mới. Họ viết: "Mặc dù vẫn còn nhiều điều không chắc chắn, nhưng việc tự động hóa R&D AI có thể sớm kích hoạt điều đó."

Theo nghiên cứu, các hệ thống AI hiện đã viết phần lớn mã nguồn tại các công ty tạo ra chúng và có thể tự động hóa toàn bộ quy trình R&D AI trong vài năm tới. Những tiến bộ vốn thường mất nhiều năm để đạt được có thể sẽ diễn ra chỉ trong vài tháng. Các tác giả cảnh báo rằng xã hội có thể không theo kịp, quyền kiểm soát đối với AI siêu thông minh có thể bị tuột mất, và cán cân quyền lực giữa các quốc gia, công ty và chính phủ có thể bị xói mòn. Họ kêu gọi các nhà hoạch định chính sách cần có cái nhìn rõ ràng hơn về cách thức nghiên cứu AI đang được tự động hóa.

Bài báo này bổ sung vào danh sách các cảnh báo ngày càng tăng. 42 nhà toán học hàng đầu gần đây đã kêu gọi chú ý hơn đến các rủi ro hiện hữu của AI, một số nhân viên phòng thí nghiệm AI đã bày tỏ lo ngại rằng AI có thể hủy diệt nhân loại, và chính Pachocki cũng nói rằng chưa có phòng thí nghiệm nào giải quyết được vấn đề căn chỉnh đủ tốt "để tiếp tục mở rộng quy mô một cách có trách nhiệm với tốc độ tối đa trong thời gian dài hơn nữa." Một số nhân viên của Anthropic được cho là đang tìm kiếm những nơi trú ẩn an toàn trong trường hợp AI đi chệch hướng.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay