Elon Musk và CEO Anthropic cùng cảnh báo về nguy cơ mất kiểm soát AI

Công nghệ

Mini Magazine

Elon Musk đồng ý với CEO của Anthropic, một trong những công ty AI hàng đầu, khi kêu gọi giảm tốc độ phát triển công nghệ vì lo ngại về khả năng kiểm soát các hệ thống ngày càng mạnh mẽ.

Động thái trên diễn ra trong bối cảnh ngày càng nhiều nhà nghiên cứu cảnh báo rằng năng lực của AI có thể tiến nhanh hơn khả năng hiểu và kiểm soát của con người.

Ngày 12/9, CEO Dario Amodei của Anthropic công bố bài luận "We Must Pace the Frontier" (Tạm dịch: Chúng ta phải kiềm chế tốc độ của các mô hình hàng đầu). Ông cho rằng việc chỉ tăng đầu tư cho an toàn AI là chưa đủ. Các phòng thí nghiệm cần chủ động giảm tốc độ cải thiện năng lực mô hình để các biện pháp kiểm soát có thời gian bắt kịp.

Chúng

ta

phải

làm

chậm

tốc

độ

cải

thiện

năng

lực

của

các

mô

hình

AI

Dario Amodei, CEO Anthropic

Nỗi lo AI tự cải thiện

Theo CEO Anthropic, việc giảm tốc không đồng nghĩa với việc ngừng nghiên cứu. AI vẫn có thể tiếp tục tiến bộ nhanh chóng. Tuy nhiên, khoảng thời gian có thêm cần được dành cho việc nghiên cứu rủi ro, hoàn thiện hệ thống giám sát và xây dựng các tiêu chuẩn an toàn.

Lời kêu gọi này nhanh chóng nhận được sự ủng hộ từ những đối thủ trực tiếp của Anthropic.

Elon Musk, CEO của xAI, viết ngắn gọn trên X rằng "Dario nói đúng". Trong khi đó, CEO Sam Altman của OpenAI cũng đồng tình với quan điểm cần điều chỉnh tốc độ phát triển AI.

Các mô hình AI đang liên tục tự cải tiến chính mình. Ảnh: Bloomberg.

Dario

nói

đúng.

Elon Musk, CEO xAI — viết trên X

Trước đó, Altman đã nói với nhân viên rằng công ty sẵn sàng làm chậm quá trình phát triển các hệ thống tiên tiến nhất. Sau bài luận của Amodei, ông cho biết chủ đề này đã trở thành một phần quan trọng trong những cuộc thảo luận gần đây tại OpenAI.

Một trong những lý do chính khiến Amodei muốn giảm tốc là khả năng AI ngày càng đóng vai trò lớn trong việc xây dựng thế hệ AI tiếp theo.

Quá trình này thường được gọi là "recursive self-improvement" hay

tự cải thiện liên tục

Vòng lặp trong đó AI tham gia nghiên cứu, viết mã và đánh giá chính thế hệ kế nhiệm của nó — khiến tốc độ phát triển có thể vượt ngoài khả năng theo dõi của con người.

Các hệ thống AI có thể hỗ trợ nghiên cứu, viết mã, đánh giá và cải thiện mô hình kế nhiệm. Khi mỗi thế hệ lại góp phần tạo ra hệ thống mạnh hơn, tốc độ phát triển có thể tăng nhanh hơn dự kiến.