Các chuyên gia AI hàng đầu cảnh báo về rủi ro từ nghiên cứu AI tự động hóa

Chuyển đến nội dung chính

13 tháng 8, 2026

Midjourney được gợi ý bởi THE DECODER

Nghiên cứu viên IAPS Severin Field đã phỏng vấn 25 nhà nghiên cứu từ OpenAI, Anthropic, Google Deepmind, Meta và các trường đại học Hoa Kỳ về khả năng tự cải thiện đệ quy (recursive self-improvement). Trong một bài đăng blog mới, ông đã tổng kết lại vấn đề. Một vài cột mốc mà các nhà nghiên cứu này nêu ra đã đạt được.

Trong bài đăng trên bản tin The Attack Surface, Field tóm tắt nghiên cứu phỏng vấn của mình từ cuối mùa hè năm 2025. Hai mươi trong số 25 người được hỏi đánh giá việc tự động hóa nghiên cứu AI là một trong những rủi ro AI nghiêm trọng và cấp bách nhất. Với khái niệm tự cải thiện đệ quy (RSI), Field muốn nói đến một hệ thống đủ kỹ năng trong việc phát triển AI để tự xây dựng một phiên bản mạnh mẽ hơn của chính nó, và phiên bản đó lại tiếp tục làm điều tương tự. Ông viết rằng RSI không còn có thể bị gạt bỏ như một chiêu trò quảng cáo nữa.

Những người được phỏng vấn liên tục chỉ ra tiêu chuẩn Task Horizon từ tổ chức phi lợi nhuận METR là thước đo tiến độ ưu tiên của họ. Độ dài các tác vụ mà các AI agent có thể tự hoàn thành đã tăng gấp đôi khoảng sáu tháng một lần kể từ năm 2019, và một số nhà phân tích cho rằng tốc độ này đã tăng lên bốn tháng một lần kể từ năm 2024. Field cho biết, cuộc tranh luận không nằm ở việc liệu sự tự cải thiện có đang diễn ra hay không. Mà là liệu nó có tính đệ quy hay không, liệu các thành quả có tích lũy thành một vòng lặp tự duy trì hay không. Những người hoài nghi lập luận rằng vẫn cần một bước đột phá về bộ nhớ, khả năng sáng tạo hoặc khả năng phân biệt giả thuyết đúng sai, bởi vì những ý tưởng thay đổi mô hình (paradigm-shifting) không có dữ liệu huấn luyện và không có đáp án sẵn.

Tuy nhiên, kể từ sau các cuộc phỏng vấn, một vài cột mốc trong số đó đã bị vượt qua. OpenAI và Google Deepmind đã đạt trình độ huy chương vàng tại Olympic Toán học. "AI Scientist" của Sakana đã tạo ra một bài báo hội thảo được bình duyệt. Andrej Karpathy đã xây dựng một hệ thống agent tự chạy các chu kỳ huấn luyện. Và Anthropic báo cáo rằng Claude hiện viết hơn 80 phần trăm mã nguồn cho chính cơ sở mã sản xuất của họ.

Các mô hình mạnh nhất có thể sẽ không bao giờ được phát hành công khai

Chỉ bốn trong số 20 người được hỏi kỳ vọng các mô hình có khả năng nghiên cứu sẽ được tung ra như những sản phẩm công khai. Một nửa kỳ vọng chúng sẽ được giữ nội bộ. Số còn lại kỳ vọng các phiên bản công khai đã được chắt lọc (distilled). Field mô tả một "sự đảo ngược động lực" có thể xảy ra, nơi mà khi AI tăng tốc nghiên cứu của chính phòng thí nghiệm đủ nhanh, việc giữ lại mô hình sẽ trở nên giá trị hơn là bán nó. Ông chỉ ra hai dấu hiệu của xu hướng này: sự cố bảo mật vào tháng 7 năm 2026 khi một mô hình nội bộ của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập vào Hugging Face, và việc chính phủ Hoa Kỳ tạm thời khóa quyền truy cập vào Claude Mythos của Anthropic.

Từ những phát hiện này, Field đưa ra ba khuyến nghị. Thứ nhất, các phiên điều trần tại Quốc hội yêu cầu các CEO và nhà nghiên cứu tuyên thệ về việc tự động hóa nghiên cứu AI. Thứ hai, một tiêu chuẩn Task Horizon do chính phủ điều hành kết hợp với chương trình phỏng vấn ẩn danh tại Trung tâm An ninh và Đổi mới AI. Thứ ba, nghiên cứu về việc xác minh các thỏa thuận AI quốc tế, nếu không có điều này, các thỏa thuận với những quốc gia như Trung Quốc sẽ không thể thực thi trên thực tế. Field viết rằng cuộc tranh luận hầu như chưa chạm đến Washington, trong khi các phòng thí nghiệm vẫn tiếp tục tiến về phía trước.

Gần đây, 1.224 nhân viên tại các công ty AI hàng đầu, bao gồm cả các giám đốc khoa học của OpenAI và Meta, đã ký một tuyên bố công khai cảnh báo rằng các tổ chức của họ có thể đang đứng trước ngưỡng cửa của việc tự động hóa nghiên cứu AI.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay

Đăng ký The Decoder