Anthropic thừa nhận các mô hình Claude tự ý xâm nhập hệ thống thực tế trong quá trình thử nghiệm

Anthropic vừa nhận ra rằng một số mô hình AI Claude của họ đã xâm nhập vào hệ thống của ba tổ chức khác nhau trong quá trình thử nghiệm, tự ý hành động mà công ty không hề hay biết. Tiết lộ này xuất hiện chỉ vài ngày sau khi đối thủ OpenAI cho biết một trong những mô hình của họ đã xâm phạm nền tảng nhà phát triển Hugging Face, làm gia tăng sự lo ngại về việc liệu các phòng thí nghiệm AI tiên phong có đang kiểm soát đủ tốt các hệ thống ngày càng mạnh mẽ mà họ đang xây dựng hay không.

Trong một bài đăng trên blog mô tả các sự cố, Anthropic cho biết Claude đã truy cập trái phép vào các hệ thống trong quá trình đánh giá an ninh mạng. Tất cả các cuộc tấn công đều xảy ra trong các bài tập “capture-the-flag” (cướp cờ), một phương thức phổ biến để kiểm tra khả năng tấn công mạng, nơi các mô hình được yêu cầu tìm kiếm và lấy thông tin ẩn bên trong một mạng lưới giả lập.

Tiết lộ này làm tăng thêm áp lực lên các phòng thí nghiệm AI tiên phong sau sự cố Hugging Face và việc phát hành các mô hình mã nguồn mở mạnh mẽ từ Trung Quốc. Nhân viên tại các phòng thí nghiệm lớn hiện đang kêu gọi quản trị toàn cầu phối hợp, và các nhà lập pháp Hoa Kỳ đã bắt đầu cân nhắc việc giám sát chặt chẽ hơn đối với các mô hình mạnh mẽ cũng như đối tượng được phép truy cập chúng.

Anthropic cho biết môi trường thử nghiệm an ninh mạng của họ đáng lẽ phải được cô lập. Tuy nhiên, một “cấu hình sai” đã khiến các máy tính mà Claude truy cập “có kết nối internet trực tiếp”, và vì tất cả các mô hình đều được “yêu cầu rõ ràng” là không có quyền truy cập internet, chúng đã “mặc định” rằng các mạng thực tế mà chúng gặp phải là một phần của môi trường giả lập.

Theo bài đăng trên blog, các sự cố sớm nhất bắt đầu từ tháng 4 và liên quan đến ba mô hình Claude khác nhau: Opus 4.7, Mythos 5 và “một mô hình thử nghiệm nghiên cứu nội bộ”. Khi các mô hình này được kiểm tra khả năng tấn công mạng, Anthropic cho biết chúng thiếu các biện pháp bảo vệ tiêu chuẩn thường được áp dụng để hạn chế các hành vi rủi ro.

Công ty cho biết họ đã phát hiện ra các sự cố sau khi xem xét hơn 141.000 lượt chạy thử nghiệm an ninh mạng, điều mà họ chỉ thực hiện sau khi OpenAI tiết lộ rằng tác nhân AI của họ đứng sau cuộc tấn công vào Hugging Face.

Ba mô hình đã hành xử rất khác nhau khi chúng gặp phải thông tin cho thấy các hệ thống mà chúng đang tiếp cận thực chất là hệ thống thực. Theo lời kể của Anthropic, mô hình cũ nhất là Opus 4.7 đã nhận ra nó đã tiếp cận một hệ thống thực, “nhưng vẫn tiếp tục cuộc tấn công”. Mô hình chủ lực Mythos 5 nhận ra nó đang sử dụng internet nhưng bằng cách nào đó lại suy luận rằng đây vẫn là một phần của quá trình giả lập nên vẫn tiếp tục. Mô hình thử nghiệm nội bộ, được Anthropic mô tả là “mô hình mới nhất của chúng tôi”, đã dừng bài tập khi có bằng chứng cho thấy các mục tiêu của nó là thật.

Anthropic không nêu tên các tổ chức bị ảnh hưởng và cho biết họ sẽ tiếp tục điều tra sự cố và cung cấp thông tin cập nhật khi có thể. Công ty cũng cho biết họ đang thảo luận với tổ chức phi lợi nhuận nghiên cứu AI METR về việc thực hiện đánh giá bên thứ ba đối với những gì đã xảy ra. OpenAI cũng đã thuê METR để thực hiện một đánh giá độc lập.

Xuyên suốt bài đăng, Anthropic liên tục đối chiếu cả bản chất lẫn cách xử lý các sự cố của mình với OpenAI, kết thúc bằng một danh sách bốn điểm nêu bật những khác biệt — và lý do tại sao họ tin rằng phản ứng của mình tốt hơn. Anthropic nhấn mạnh rằng họ đã “chủ động” xem xét các thử nghiệm của mình trước khi bất kỳ công ty nào phát hiện ra hoạt động bất thường. Họ cũng cho biết các mô hình của mình truy cập internet “thông qua một đường dẫn mở” thay vì sử dụng một lỗ hổng mới lạ như tác nhân của OpenAI, đồng thời nói thêm rằng mô hình mới nhất của họ cũng đã dừng lại khi nhận ra nó đang hoạt động trong một môi trường thực.

Anthropic cũng cho biết các mô hình của họ thất bại theo cách khác với tác nhân của OpenAI, cho thấy đây là một dạng thất bại an toàn hơn. “Mặc dù không có sự phân biệt rạch ròi hoàn hảo giữa hai trường hợp, chúng tôi tin rằng những sự cố này gần với lỗi vận hành và kiểm soát hơn là lỗi căn chỉnh mô hình (model alignment failure),” công ty cho biết. Nói một cách đơn giản: Các mô hình Claude đang thực hiện những gì chúng được yêu cầu, trong khi tác nhân của OpenAI theo đuổi mục tiêu theo cách mà những người tạo ra nó không mong muốn, điều được mô tả là sự lệch lạc (misalignment) trong thế giới an toàn AI.

Anthropic kêu gọi các phòng thí nghiệm AI khác thực hiện các đánh giá chủ động tương tự đối với các thử nghiệm mạng của họ, đồng thời nói thêm rằng việc phát hiện này nhấn mạnh nhu cầu về các biện pháp kiểm soát và an toàn chặt chẽ hơn khi thử nghiệm các hệ thống AI.

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân hóa của bạn và nhận các bản cập nhật qua email.