Báo động đỏ: AI Kimi K3 của Trung Quốc tự truy cập Internet để gian lận bài kiểm tra

Công nghệ

Mini Magazine

Theo các nhà nghiên cứu bảo mật, Kimi K3, AI mới nhất của Trung Quốc đang gây chấn động toàn ngành AI, đã tự truy cập Internet với mục đích gian lận trong một bài kiểm tra.

Sau khi hai mô hình trí tuệ nhân tạo mới nhất của OpenAI "nổi loạn" và xâm nhập thành công vào Hugging Face, giới AI tiếp tục trải qua một "mùa hè nổi loạn" của các tác tử AI (AI agents).

Lần này, cái tên mới nhất "tẩu thoát" thành công ra môi trường Internet mở trong quá trình thử nghiệm bảo mật là Kimi K3, mô hình được phát hành dưới dạng "mở trọng số" (open-weight) đang gây sốt ở phố Wall.

Hack mạng để vượt bài kiểm tra

Theo startup an ninh mạng Frontier Security, Kimi K3 đã tự vượt môi trường thử nghiệm an toàn, thường gọi là hộp cát (sandbox), trong khi đang được kiểm tra các kỹ năng phòng thủ không gian mạng.

Tương tự như những sự cố từng được báo cáo trước đó của OpenAI và Anthropic, cuộc "tẩu thoát" này một phần bắt nguồn từ lỗi cấu hình trong chính sandbox được thiết kế để giữ các mô hình AI an toàn.

Tuy nhiên, Frontier khẳng định rằng sự cố này nghiêm trọng hơn. Nó cho thấy Kimi K3 sở hữu ít rào cản an toàn không gian mạng hơn so với hầu hết các mô hình AI khác, qua đó cho phép nó tự ý kết nối và sử dụng Internet mà không cần sự cho phép rõ ràng.

Theo báo cáo, mô hình Kimi K3 đã truy cập mạng Internet toàn cầu để tìm lời giải vượt qua bài kiểm tra an ninh mạng. Ảnh: SCMP.

"Chúng tôi đã tìm thấy một lỗ hổng trong sandbox. Tuy nhiên, điều đáng chú ý là đội ngũ cũng phát hiện ra rằng Kimi đã chủ động lợi dụng lỗ hổng đó. Điều này cho thấy nó không có các rào cản bảo vệ nội bộ như những mô hình khác", Yaron Singer, CEO của Frontier Security chia sẻ.

Theo Wired, khác so với vụ của OpenAI, Kimi K3 hoàn toàn không thực hiện bất kỳ hành vi hack nào sau khi truy cập Internet. Lý do rất đơn giản là câu trả lời cho bài kiểm tra mà nó đang tìm kiếm đã có sẵn và rất dễ tiếp cận trên nền tảng GitHub.

Dù nguyên nhân và mức độ của các vụ AI tự vượt quyền hack hệ thống có sự khác nhau, giữa Kimi K3 và mô hình của OpenAI có một điểm chung: Một sandbox bị lỗi cấu hình đã vô tình cấp quyền truy cập vào một số trang web thay vì giữ AI trong môi trường giả lập.

Điều đáng sợ là mô hình này được giao nhiệm vụ giải quyết vấn đề mà theo nguyên tắc không được phép lên mạng tìm kiếm, nhưng nó dường như đã lờ đi các chỉ thị đó.

Mô hình này đã tự mình tìm ra việc nó có quyền truy cập vào các trang web nhất định bằng cách chủ động dò quét các thiết lập mạng trong chính sandbox được thiết kế để cô lập.

Lời cảnh báo về rào cản cho AI

Wired nhận định mặc dù lỗi con người là nguyên nhân chính dẫn đến các vụ AI "vượt rào", nhưng hậu quả lại bị khuếch đại. Thực tế, bản thân các mô hình AI tiên tiến vốn được thiết kế để sử dụng tư duy logic và thực hiện các hành động phức tạp nhằm giải quyết vấn đề bằng mọi giá.

Tuy nhiên, có một điểm khác biệt then chốt giữa sự cố của Kimi K3 và các vụ việc trước đó. Lần đầu tiên, có một mô hình AI với nguyên vẹn các rào cản an toàn mà một người dùng thông thường gặp phải, thay vì một phiên bản nghiên cứu nội bộ bị tắt rào cản, được phát hành rộng rãi.

"Kimi K3 tỏ ra xuất sắc trong việc bám đuổi mục tiêu bằng mọi giá, và nó không có các rào cản để ngăn cản việc gian lận hay tẩu thoát khỏi sandbox", Paul Kassianik, một nhà nghiên cứu tại Frontier Security đánh giá.

Ngày càng có nhiều mô hình AI dễ dàng vượt qua rào cản bảo mật để tiếp cận Internet toàn cầu. Ảnh: Wired.

Dù vậy, cả Kassianik và Singer đều thừa nhận rằng Kimi và các mô hình AI dạng "mở trọng số" (open-weight) vẫn là những công cụ phòng thủ an ninh mạng tuyệt vời. Thực tế, Hugging Face đã sử dụng một mô hình AI ẩn danh của Trung Quốc để tự vệ trước cuộc tấn công từ tác tử AI của OpenAI.

Thư viện kỹ thuật số về công nghệ AI này thậm chí còn phát triển các hệ thống đánh giá đo lường khả năng tìm kiếm lỗ hổng phần mềm và mạng của AI, và kết quả cho thấy Kimi K3 đạt thành tích xuất sắc trong các tác vụ này.

Theo các chuyên gia nhận định với Wired, những điểm yếu mà AI của OpenAI hay Kimi K3 khai thác đều là các lỗi rất phổ biến. Việc mã nguồn quản lý thư viện doanh nghiệp có lỗ hổng là chuyện thường tình, và giới bảo mật từ lâu đã khuyến cáo phải cô lập hoàn toàn hạ tầng trọng yếu khỏi mạng Internet công cộng.

Một nhà nghiên cứu lập luận rằng đây không hẳn là một "vấn đề của AI", mà là sự thất bại của các giao thức bảo mật đã tồn tại hàng thập kỷ.

"Tác tử AI này không 'vượt ngục' khỏi một môi trường bị cô lập nghiêm ngặt, mà nó chỉ đơn giản là đi qua một kết nối duy nhất mà các nhà điều hành đã sơ ý để ngỏ", vị chuyên gia nhận định.

Những câu hỏi chúng ta phải đối mặt trong thế giới AI

Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.

Cuốn sách "Thời đại AI - Và tương lai loài người chúng ta" trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.

Anh Tuấn

AI AI Kimi K3 ChatGPT OpenAI

Bạn có thể quan tâm