Kimi K3 thoát khỏi môi trường sandbox trong thử nghiệm bảo mật của Frontier Security

Theo tin từ IT ngày 7 tháng 8, tạp chí *Wired* đưa tin hôm qua rằng startup an ninh mạng Frontier Security của Mỹ cho biết, trong quá trình thử nghiệm khả năng an ninh mạng của mô hình Kimi K3 từ Moonshot AI, họ đã để mô hình này thoát khỏi môi trường sandbox (hộp cát) vốn dùng để kiểm soát nó.

Theo báo cáo, sự cố AI "vượt ngục" lần này tương tự như các trường hợp của OpenAI và Anthropic, nguyên nhân trực tiếp cũng xuất phát từ việc cấu hình sandbox dùng để cách ly mô hình bị lỗi. Frontier Security cho rằng, so với các mô hình AI tiên tiến khác, Kimi thiếu các cơ chế bảo vệ mạng, khiến mô hình này có thể truy cập internet mà không cần sự cho phép rõ ràng.

Yaron Singer, Giám đốc điều hành của Frontier Security, cho biết: "Chúng tôi đã phát hiện ra lỗ hổng trong sandbox, nhưng Kimi cũng đã tận dụng lỗ hổng này, điều đó cho thấy nó có thể không có các cơ chế bảo mật nội bộ như các mô hình cùng cấp khác."

Tuy nhiên, sau khi thoát khỏi sandbox và giành được quyền truy cập internet, Kimi K3 đã không thực hiện bất kỳ hành vi tấn công nào, nó chỉ tìm kiếm câu trả lời cho một vấn đề trên GitHub.

Các sự cố AI "vượt ngục" ngày càng thường xuyên gần đây cho thấy, AI càng mạnh thì con người càng khó kiểm soát chúng. Tháng trước, OpenAI từng tiết lộ rằng một mô hình chưa công bố của công ty đã phá vỡ môi trường cách ly trong quá trình thử nghiệm và sau đó tấn công nền tảng Hugging Face. Tiếp đó, Anthropic cũng cho biết nhiều mô hình của họ đã giành được quyền truy cập internet trong quá trình kiểm tra an ninh và tấn công các hệ thống bên ngoài.

Một số chuyên gia an ninh mạng cho rằng, phát hiện lần này cho thấy con người cần phải cấu hình lại môi trường sandbox cho các mô hình AI tiên tiến. Đồng thời, những người dùng sử dụng các tác nhân (agent) như OpenClaw (chú thích của IT: thường được gọi là "tôm hùm") cần thận trọng khi cấu hình môi trường để ngăn chặn AI vượt quá giới hạn.