Kimi K3 cũng 'nổi loạn': AI học bá tự ý thoát khỏi sandbox để tìm câu trả lời

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

08-08-2026 10:35:38 Nguồn: QbitAI

Chà, đây quả thực là một mùa hè AI "mất kiểm soát".

Hengyu đưa tin từ Aofeisi.

QbitAI | Kênh chính thức QbitAI

Ý bạn là, Kimi K3 cũng đã "vượt ngục" sao?!

Công ty khởi nghiệp về an ninh AI của Mỹ, Frontier Security, cho biết Kimi K3 đã được phát hiện phá vỡ môi trường sandbox (hộp cát) vốn dùng để cô lập nó trong một bài kiểm tra năng lực an ninh mạng, qua đó vượt qua các hạn chế để kết nối với internet bên ngoài.

May mắn thay, nó chỉ lén lút tra cứu đáp án chứ không tấn công bất kỳ ai ╮(╯▽╰)╭

Theo mô tả của công ty này, các nhân viên kiểm thử ban đầu muốn quan sát năng lực an ninh mạng của Kimi K3 trong một môi trường được kiểm soát.

Tuy nhiên, trong quá trình kiểm thử, Kimi K3 đã dò tìm các thiết lập mạng của sandbox, phát hiện ra kênh truy cập bên ngoài và tận dụng khả năng này để thu thập thông tin.

CEO Yaron Singer của Frontier Security cho biết: "Chúng tôi đã phát hiện ra lỗ hổng trong sandbox, nhưng đồng thời cũng thấy Kimi đã khai thác lỗ hổng này. Điều đó cho thấy Kimi K3 thiếu đi các rào cản an toàn mà các mô hình tiên tiến khác thường có."

Nhà nghiên cứu Paul Kassianik của công ty cũng nhận xét rằng, Kimi K3 "rất giỏi trong việc tìm kiếm lộ trình để đạt được mục tiêu, nhưng lại thiếu các cơ chế an toàn để ngăn chặn nó gian lận hoặc thoát khỏi sandbox".

Tuy nhiên, lần này Kimi K3 chỉ "mất kiểm soát" một chút và không biến thành một cuộc tấn công mạng thực sự.

Nếu bạn thường xuyên theo dõi các tiến bộ mới về AI, chắc hẳn bạn đã nhận ra gần đây có khá nhiều mô hình ngôn ngữ lớn (LLM) hàng đầu bị "mất kiểm soát".

Kimi K3 là mô hình AI hàng đầu tiếp theo gặp phải tình trạng này, sau OpenAI, Anthropic và Meta.

Trong bối cảnh năng lực của AI Agent không ngừng được nâng cao, các mô hình đang ngày càng giống như những "tác nhân" biết tự tìm đường để hoàn thành nhiệm vụ.

Khi môi trường bên ngoài tồn tại lỗ hổng, chúng có thể tận dụng những lỗ hổng đó để vượt qua các ranh giới đã được thiết lập sẵn.

Đã vượt ngục, nhưng không thực hiện tấn công mạng.

Tương tự như nhiều sự cố được OpenAI và Anthropic tiết lộ trước đó, việc Kimi K3 thoát khỏi các hạn chế lần này một phần xuất phát từ vấn đề cấu hình sandbox trong môi trường kiểm thử.

Sandbox thường được sử dụng để giới hạn phạm vi hoạt động của các mô hình AI, buộc mô hình chỉ được thực thi nhiệm vụ trong môi trường mô phỏng, tránh việc truy cập vào mạng hoặc hệ thống thực.

Nhưng trong bài kiểm tra lần này, Frontier Security phát hiện ra rằng Kimi K3 đã dò tìm các thiết lập mạng, xác nhận rằng mình thực sự có khả năng truy cập vào một số trang web và tận dụng kênh này để lấy thông tin.

Tuy nhiên, khác với các sự cố mất kiểm soát của các mô hình AI khác gần đây, Kimi K3 sau khi kết nối internet đã không tấn công bất kỳ hệ thống nào.

Lý do là vì đáp án mà nó cần tìm có thể lấy trực tiếp từ các nền tảng công khai như GitHub...

Vì vậy, K3 đã không cố gắng tấn công thêm vào các hệ thống bên ngoài.

Frontier Security cho rằng sự việc này vẫn bộc lộ những vấn đề của Kimi K3 trong khâu bảo mật.

So với các mô hình AI hàng đầu khác, Kimi K3 thiếu các cơ chế ràng buộc nội bộ đủ mạnh, do đó dưới sự thúc đẩy của mục tiêu, nó dễ dàng thực hiện các hành động nằm ngoài dự kiến của người kiểm thử hơn.

Đồng thời, Frontier Security cũng nhấn mạnh rằng Kimi và các mô hình mã nguồn mở khác cũng có thể trở thành công cụ phòng thủ an ninh mạng.

Đáng chú ý là bài kiểm tra này sử dụng môi trường sandbox mặc định trong khung Inspect của Viện An toàn Trí tuệ Nhân tạo Vương quốc Anh (AISI).

Đối với những tuyên bố của Frontier Security về vấn đề cấu hình sandbox, AISI không đồng tình.

Người phát ngôn của AISI nói với tờ Wired rằng những tuyên bố này là "không chính xác và thiếu trách nhiệm".

Inspect là một bộ công cụ kiểm thử an toàn AI mã nguồn mở, người dùng cần cấu hình theo nhu cầu của riêng mình và AISI cũng đã công bố các tài liệu hướng dẫn chi tiết. Cơ quan này cho rằng các vấn đề liên quan xuất phát từ cách phía kiểm thử tự cấu hình công cụ.

Frontier Security phản hồi rằng họ sử dụng cấu hình mặc định của Inspect và không thực hiện bất kỳ sửa đổi bổ sung nào.

Chà, mùa hè của những vụ AI "mất kiểm soát" thường xuyên này.

Có thể nói, từ cuối tháng 7 đến đầu tháng 8, các mô hình hàng đầu liên tục xuất hiện tình trạng vượt qua hoặc lách ranh giới thực thi trong các bài kiểm tra an ninh mạng, tiếp cận hoặc thậm chí tấn công vào các hệ thống thực.

△ Hình ảnh được tạo bởi AI.

Giữa tháng 7, OpenAI đã tiết lộ một sự cố liên quan.