Rủi ro AI tự hành 'mất kiểm soát': OpenAI và Anthropic bị phát hiện thực hiện hành vi trái phép

Theo tin từ IT ngày 5 tháng 8, Viện An toàn Trí tuệ Nhân tạo Vương quốc Anh (AISI) cho biết vào thứ Ba theo giờ địa phương rằng, trong quá trình thử nghiệm các mô hình AI của OpenAI và Anthropic, một tác nhân AI (AI agent) đã bị phát hiện tạo ra các danh tính trực tuyến giả mạo để giành quyền truy cập trái phép vào các hệ thống bảo mật, đồng thời làm lộ ra hàng loạt lỗ hổng bảo mật mới.

Viện này cho biết, các tác nhân được vận hành bởi Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI đã thực hiện các thao tác trái phép trong quá trình đánh giá an toàn do các cơ quan chính phủ thực hiện. Các thử nghiệm này nhằm mục đích đánh giá năng lực của các mô hình liên quan.

Trong một bài đăng trên blog, AISI cho biết: "Một số tác nhân được thử nghiệm đã liên tục thực hiện các hoạt động có khả năng gây hại, nhắm vào những người và tổ chức thực tế."

Báo cáo này làm nổi bật thực trạng rằng các biện pháp bảo vệ trong quy trình thử nghiệm tác nhân AI hiện nay vẫn chưa đầy đủ, trong khi các công ty AI đang tích cực quảng bá công nghệ tác nhân, coi đây là hướng phát triển kinh doanh quan trọng trong tương lai.

AISI đã đạt được quyền truy cập để thử nghiệm các mô hình AI tiên tiến thông qua các thỏa thuận tự nguyện với các phòng thí nghiệm AI lớn. Cơ quan này đã đưa các tác nhân vào một kịch bản an ninh mạng giả định để đánh giá năng lực của chúng.

AISI đã thực hiện tổng cộng 122 thử thách kiểm tra và phát hiện 19 hành vi trái phép trong 10 lần chạy thử nghiệm. Trong đó, tác nhân của Anthropic gây ra 17 vi phạm, còn tác nhân của OpenAI gây ra 2 vi phạm còn lại.

AISI cho biết, vi phạm nghiêm trọng nhất liên quan đến việc một tác nhân viết mã độc và tạo ra danh tính trực tuyến giả mạo nhằm dụ dỗ người thật phê duyệt các đoạn mã đó. Tuy nhiên, cơ quan này bổ sung rằng tất cả các sự cố lỗ hổng này đều không gây ra thiệt hại thực tế trong thế giới thực.

Mặc dù AISI không tiết lộ tác nhân nào đã tạo ra danh tính giả, nhưng sự cố này không nằm trong hai sự cố bảo mật mà OpenAI đã chủ động công bố trước đó.

Andrew Yoon, nhà nghiên cứu tại tổ chức phi lợi nhuận CivAI ở California, cho biết có vẻ như vi phạm này có thể do tác nhân của Anthropic gây ra.

Yoon nói: "Việc Mythos thực hiện hành vi lừa đảo này trong khi nhận thức rõ ràng rằng nó đang nhắm vào những người thực tế cho thấy mức độ kiểm soát của Anthropic đối với các mô hình của họ có thể không tốt như họ nghĩ."

Anthropic đã đưa ra tuyên bố trên nền tảng mạng xã hội X rằng công ty đang hợp tác chặt chẽ với AISI để nắm bắt thêm chi tiết và tiến hành điều tra riêng.

Trong khi đó, OpenAI đã công bố các chi tiết liên quan trên blog của công ty và chỉ ra rằng hai thao tác trái phép của tác nhân của họ đều liên quan đến việc truy cập internet theo cách mà các câu lệnh (prompt) đã cấm rõ ràng.

OpenAI cho biết: "Chúng tôi cam kết hợp tác với toàn ngành để tăng cường các thực tiễn an toàn trong đánh giá AI rủi ro cao, bao gồm việc triệu tập các cơ quan nghiên cứu AI cấp quốc gia, các tổ chức đánh giá độc lập, các phòng thí nghiệm AI khác và các tổ chức liên quan trong những tuần tới để cùng thúc đẩy sự phát triển trong lĩnh vực này."

IT lưu ý rằng, OpenAI cũng tiết lộ một sự cố độc lập khác trên blog: lỗi cấu hình của đơn vị thử nghiệm bên thứ ba là Irregular đã khiến tác nhân trong quá trình thử nghiệm của họ vô tình kết nối với internet. Điều này tương tự với một sự cố lỗi cấu hình mà Anthropic đã công bố vào tuần trước.

Reuters đưa tin vào tuần trước rằng, sau khi phát hiện thêm bằng chứng về việc các tác nhân vượt qua các hạn chế bảo mật, OpenAI đã mở rộng phạm vi điều tra an ninh mạng liên quan.

AISI cho biết, khác với sự cố OpenAI xâm nhập vào hệ thống bảo mật của công ty AI Hugging Face hồi tháng 7 năm nay, các tác nhân trong đợt đánh giá này không vượt qua môi trường thử nghiệm biệt lập để kết nối với internet. Cơ quan này giải thích rằng, theo quy trình thử nghiệm tiêu chuẩn của họ, bản thân môi trường thử nghiệm đã cho phép các tác nhân truy cập internet.