Anthropic thừa nhận lỗi cấu hình môi trường thử nghiệm gây ra 3 sự cố an ninh mạng thực tế

Theo tin từ IT ngày 31 tháng 7, công ty trí tuệ nhân tạo Anthropic đã đưa ra thông báo vào ngày 30 (giờ địa phương), cho biết trong quá trình đánh giá và kiểm tra an ninh mạng đối với Claude, họ đã phát hiện ba sự cố an ninh mạng thực tế không đáng có, nguyên nhân trực tiếp đến từ sai sót trong cấu hình môi trường đánh giá của bên thứ ba.

Trong ba sự cố này, các mô hình của Anthropic đều được giao nhiệm vụ tấn công mạng "Capture the Flag" (đoạt cờ) không giới hạn. Để đảm bảo an toàn, môi trường thử nghiệm cho các nhiệm vụ loại này cần được cách ly với internet thực tế, nhưng do hiểu lầm giữa Anthropic và đối tác đánh giá Irregular, quyền truy cập vào internet thực tế đã bị mở cho mô hình đánh giá.

Trong sự cố đầu tiên, Claude Opus 4.7 đã nhầm lẫn một công ty thực có tên trùng với mục tiêu hư cấu là mục tiêu của nhiệm vụ, từ đó truy cập vào cơ sở hạ tầng của công ty này, trích xuất thông tin xác thực và dữ liệu cơ sở dữ liệu. Đây là sự cố nghiêm trọng nhất, khi mô hình vẫn tiếp tục tấn công ngay cả khi đã nhận ra đó là hệ thống thực.

Còn trong sự cố thứ hai, để hoàn thành nhiệm vụ, Claude Mythos 5 đã đăng tải một gói Python độc hại lên PyPI thực tế. Tệp tin độc hại này đã được tải xuống 15 hệ thống thực, dẫn đến việc thông tin xác thực bị đánh cắp. Mô hình từng nhận thức ngắn hạn rằng "nếu đây là internet thực thì sẽ rất tệ", nhưng sau đó lại tự thuyết phục bản thân rằng mình vẫn đang trong môi trường mô phỏng.

Một mô hình thử nghiệm nghiên cứu nội bộ của Anthropic lại thể hiện tốt hơn một chút. Nó đã quét khoảng 9.000 mục tiêu, sử dụng các thủ thuật cơ bản để xâm nhập vào một công ty thực, nhưng sau đó đã chủ động dừng tấn công khi nhận ra đó là môi trường thực.

Anthropic cho biết, tất cả các mô hình liên quan đều chưa được triển khai các biện pháp an ninh tiêu chuẩn như khi phát hành chính thức, nhưng đều đã trải qua quá trình huấn luyện an ninh cụ thể. Các cuộc tấn công này chỉ sử dụng một số kỹ thuật cơ bản. Các mô hình không phát hiện hay khai thác bất kỳ lỗ hổng phức tạp nào, cũng không cố gắng tự xuất khỏi môi trường thử nghiệm hay cố tình thoát ra ngoài.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.