Claude của Anthropic tự ý truy cập hệ thống ngoài trong thử nghiệm bảo mật

Đến lượt Claude thoát kiểm soát, xâm nhập hệ thống của 3 tổ chức

Anthropic thông báo một số phiên bản Claude đã thoát khỏi vòng kiểm soát trong quá trình thử nghiệm và truy cập trái phép vào hệ thống của 3 tổ chức.

Thông tin này được Anthropic công bố vào ngày 30/7, chỉ vài tuần sau trường hợp mô hình của OpenAI mất kiểm soát và xâm nhập vào nền tảng AI trong một thử nghiệm an ninh.

Anthropic cho biết họ đã đánh giá hơn 141.000 đợt chạy thử nghiệm và phát hiện 3 phiên bản của mô hình Claude vượt qua các biện pháp kiềm tỏa (vốn được thiết kế để ngăn chúng tiếp cận các hệ thống bên ngoài), sau đó truy cập vào hệ thống của 3 tổ chức chưa được nêu tên.

"Mô hình có thể kết nối Internet là do sự hiểu lầm giữa Anthropic và đối tác thử nghiệm Irregular. Bên cạnh đó, Claude đã sử dụng những kỹ thuật cơ bản như khai thác mật khẩu yếu và các địa chỉ API không yêu cầu xác thực", hãng giải thích, ngầm ám chỉ sự việc này có bản chất khác với tình huống của OpenAI.

Chatbot Claude của Anthropic. Ảnh: Lưu Quý

Đợt thử nghiệm này sử dụng Mythos 5, một trong những mô hình mạnh nhất của Anthropic và mới chỉ được phát hành cho một nhóm nhỏ đối tác. Công ty đang phối hợp với Irregular để đánh giá tình hình, cũng như tìm cách liên lạc với 3 tổ chức bị ảnh hưởng.

Trước đó, vào ngày 21/7, OpenAI thông báo một trong những tác nhân của họ đã mất kiểm soát và đột nhập vào nền tảng Hugging Face, khẳng định đây là "sự cố an ninh mạng chưa từng có tiền lệ".

Đến ngày 28/7, công ty xác nhận mô hình thực tế đã xâm nhập 4 tài khoản trên 4 dịch vụ riêng biệt, trong đó có Hugging Face và Modal Labs. CEO Sam Altman cho biết OpenAI đã đình chỉ các đợt chạy thử, đồng thời cải thiện các biện pháp bảo mật xung quanh môi trường thử nghiệm có kiểm soát.

Cùng ngày, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, trong đó có CEO Anthropic Dario Amodei, đã ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất. Văn bản đề xuất chính phủ Mỹ "hỗ trợ các nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và khung điều hành để giám sát, kiểm soát tốc độ phát triển của những hệ thống AI tự động".

Sam Altman không ký tên, nhưng cho rằng ngành công nghệ cần giảm tốc độ xây dựng các mô hình tiên tiến để giúp xã hội có thêm thời gian củng cố trước những năng lực mới của AI.

Điệp Anh (Theo AFP)