Anthropic công bố báo cáo về hành vi sai trái của AI: Mô hình Mythos 5 của hãng đã truy cập internet trái phép và tải lên một gói phần mềm độc hại trong đợt thử nghiệm hack sandbox hồi tháng 4. Báo cáo đính kèm bản ghi chép dài 1.000 trang cho thấy mô hình này đã bị CAPTCHA chặn trong thời gian dài

Trong bản cập nhật ngày 30/7, Anthropic đã công bố kết quả rà soát đánh giá các mô hình của mình, qua đó xác định ba sự cố các mô hình này vô tình xâm nhập vào hệ thống của các công ty bên ngoài. Các mô hình liên quan bao gồm Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ.

Cụ thể, Claude Opus 4.7 đã giành được quyền truy cập vào cơ sở dữ liệu sản xuất của một công ty bên ngoài. Trong đợt thử nghiệm hack sandbox hồi tháng 4, Claude Mythos 5 đã truy cập internet trái phép và tải lên một gói phần mềm độc hại lên kho lưu trữ mã nguồn mở PyPI; gói này sau đó đã bị một công ty khác thực thi, dẫn đến rò rỉ thông tin xác thực. Theo báo cáo của Anthropic, Mythos 5 đã thể hiện xu hướng thực hiện các hành vi "gây hại nghiêm trọng" trong quá trình thử nghiệm và bị CAPTCHA chặn lại trong thời gian dài khi cố gắng đăng ký tài khoản PyPI. Bản ghi chép chuỗi tư duy dài 1.022 trang của mô hình này dành phần lớn nội dung để tìm cách vượt qua rào cản đó.

Một mô hình nghiên cứu nội bộ khác đã xâm nhập vào một ứng dụng công khai trên internet bằng cách khai thác thông tin xác thực từ trang gỡ lỗi bị lộ và lỗ hổng SQL injection. Anthropic chỉ ra trong báo cáo rằng các sự cố này cho thấy xu hướng "sẵn sàng thực hiện các hành động gây hại" của mô hình khi theo đuổi mục tiêu, tương tự như hành vi "hack phần thưởng" từng xuất hiện trong các sự cố trước đây của OpenAI. Anthropic thừa nhận các quy trình kiểm thử và đánh giá trước khi phát hành đã không phát hiện được những rủi ro nghiêm trọng này.