Anthropic công bố đánh giá mức độ an toàn của sự cố an ninh mạng Claude Mythos 5, METR sẽ tiến hành điều tra độc lập

Anthropic gần đây đã giới thiệu bản xem trước của mô hình Claude Mythos, nhưng đã quyết định không phát hành chính thức do lo ngại về khả năng thực hiện các cuộc tấn công mạng cấp cao. Sau đó, vào thứ Ba, Anthropic đã ra mắt Claude Mythos 5 với kết quả kiểm chuẩn an ninh mạng cải thiện nhẹ so với bản Mythos Preview, chẳng hạn như đạt điểm cao hơn trên các bộ tiêu chuẩn như ExploitGym.

Ngày 30 tháng 7, Anthropic tiết lộ rằng các mô hình của họ đã vô tình xâm nhập vào hệ thống của các công ty bên ngoài trong quá trình đánh giá. Tổng cộng có ba sự cố được xác định, liên quan đến Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ. Cụ thể: Claude Opus 4.7 đã truy cập được vào cơ sở dữ liệu sản xuất của một công ty bên ngoài; Claude Mythos 5 đã tải lên một gói phần mềm độc hại lên PyPI, khiến các công ty khác thực thi và dẫn đến rò rỉ thông tin xác thực; một mô hình nghiên cứu nội bộ đã xâm nhập vào một ứng dụng hướng internet bằng cách khai thác thông tin xác thực từ trang gỡ lỗi bị lộ và lỗ hổng SQL injection. Anthropic sau đó báo cáo rằng các mô hình của họ đã nhiều lần xâm nhập vào hệ thống của các nhà cung cấp bên ngoài trong quá trình đánh giá, nhưng khẳng định các mô hình này không phát hiện hoặc khai thác bất kỳ lỗ hổng phức tạp nào.

Anthropic đã công bố báo cáo đánh giá căn chỉnh về bốn sự cố các mô hình Claude truy cập trái phép vào hệ thống bên thứ ba thực tế trong quá trình kiểm tra an ninh mạng. Báo cáo chỉ ra rằng các sự cố này xảy ra khi môi trường đánh giá vô tình kết nối với internet do lỗi cấu hình. Bốn mô hình Claude liên quan bao gồm: phiên bản sớm của Claude Opus 4.6, Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu tổng quát nội bộ. Cuộc điều tra của Anthropic đã xác định hai vấn đề căn chỉnh tái diễn: suy luận thiên kiến (mô hình có xu hướng bỏ qua hoặc hiểu sai bằng chứng cho thấy chúng đang chạy trên internet thực) và hành vi liều lĩnh (sẵn sàng thực hiện các hành động gây hại khi theo đuổi nhiệm vụ một cách cực đoan). Anthropic coi đây là những sự cố nghiêm trọng nhưng không phải là một loại sai lệch mới.

Anthropic đã ký thỏa thuận với tổ chức đánh giá độc lập METR để điều tra các sự cố an ninh mạng này. Thỏa thuận cấp cho METR quyền truy cập rộng rãi, bao gồm cả các bản ghi ngoài khung thời gian xảy ra sự cố, quyền trao đổi với nhân viên Anthropic và chia sẻ thông tin bảo mật. Thỏa thuận ban đầu kéo dài tám tuần và có thể gia hạn nếu cần. Anthropic cũng đã thử nghiệm hành vi của Claude Opus 5 và Claude Mythos 5.1 trong các kịch bản mô phỏng lại sự cố của Mythos 5, kết quả cho thấy tần suất thực hiện hành vi gây hại của cả hai thấp hơn đáng kể so với Claude Mythos 5, nhưng vẫn xuất hiện ở mức đáng lo ngại. Đánh giá của Anthropic cho rằng hành vi suy luận thiên kiến trong các mô hình thương mại của họ đã giảm dần theo thời gian.