Hơn 20 chuyên gia AI hàng đầu cảnh báo nguy cơ 'bùng nổ trí tuệ' từ khả năng tự cải tiến

IT ngày 29 tháng 9, theo báo cáo của Bloomberg ngày 28, các giám đốc điều hành từ Anthropic, OpenAI, Meta và Microsoft đã cùng thúc giục các nhà hoạch định chính sách cần theo dõi sát sao mức độ tự cải thiện của các hệ thống AI, đồng thời thực hiện các biện pháp để đảm bảo an toàn cho công nghệ AI.

Hơn 20 nhà lãnh đạo và nhà nghiên cứu trong ngành AI đã cảnh báo trong một bài báo mới rằng, xu hướng sử dụng AI để thúc đẩy tự động hóa trong việc nghiên cứu và phát triển các mô hình thế hệ tiếp theo đang gia tăng, điều này có thể dẫn đến sự tăng tốc đột ngột của tiến bộ công nghệ AI trong tương lai.

Các tác giả của bài báo gọi hiện tượng này là "bùng nổ trí tuệ" (intelligence explosion). Một khi tình trạng này xảy ra, tốc độ phát triển năng lực của AI có thể vượt quá khả năng định hướng và thích ứng của xã hội đối với công nghệ AI. Những người tham gia viết bài báo bao gồm đồng sáng lập Anthropic Jack Clark, nhà khoa học trưởng của OpenAI Jakub Pachocki, cùng các nhà tiên phong về AI như Geoffrey Hinton và Yoshua Bengio.

Các nhà nghiên cứu cũng cảnh báo rằng việc tự động hóa nghiên cứu và phát triển AI có thể làm suy yếu sự giám sát của con người.

IT được biết, bài báo kêu gọi các nhà hoạch định chính sách cần hiểu sâu hơn về mức độ mà các phòng thí nghiệm AI hàng đầu đang sử dụng AI để tự động hóa nghiên cứu, đồng thời thiết lập các cơ chế có khả năng "định hướng và kiềm chế sự bùng nổ trí tuệ", bao gồm việc nâng cao các yêu cầu an toàn và tăng cường giám sát các trung tâm dữ liệu đảm nhận nhiệm vụ nghiên cứu và phát triển AI tự động.

Các nhà nghiên cứu cũng ủng hộ việc xây dựng trước các phương án ứng phó khẩn cấp cho các kịch bản AI tăng tốc nhanh chóng khác nhau. "Bằng chứng sơ bộ cho thấy sự bùng nổ trí tuệ do phần mềm thúc đẩy có khả năng xảy ra. Nếu điều đó thực sự xảy ra, nó có thể trở thành bước phát triển công nghệ có ảnh hưởng sâu rộng nhất trong lịch sử.... So với những hậu quả tiềm tàng, sự chuẩn bị của chúng ta vẫn chưa đầy đủ."

Bài báo đã liệt kê các biện pháp mà các nhà hoạch định chính sách nên cân nhắc thực hiện. "Một khi sự bùng nổ trí tuệ bắt đầu, cơ hội để hành động có thể sẽ khép lại."