Ant Group ra mắt bộ khung bảo mật mới, khắc phục lỗ hổng từ Claude Code

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

13/07/2026 14:53:56 Nguồn: QbitAI

Hai khung bảo mật mã nguồn mở mới nhất

Lộ Vũ, đưa tin từ Aofei Temple

QbitAI | Kênh chính thức QbitAI

Năm 2026, an toàn AI cuối cùng đã được đẩy lên hàng đầu.

Chỉ mới hai ngày trước, nền tảng NVDB của Bộ Công nghiệp và Công nghệ Thông tin đã đưa ra cảnh báo rủi ro, chỉ rõ Claude Code tồn tại lỗ hổng cửa sau (backdoor) bảo mật, có thể thu thập thông tin nhạy cảm mà người dùng không hề hay biết.

Nhìn lại thời gian trước đó, OpenClaw – công cụ từng gây bão mạng vào đầu năm – cũng liên tục bị phanh phui các lỗ hổng nguy hiểm cao.

Từ lúc mới ra mắt đến khi phổ biến nhanh chóng, rồi đến việc liên tục gặp lỗi và mất niềm tin, đây gần như là quỹ đạo phát triển chung của các sản phẩm Agent hiện nay.

Năng lực của AI ngày càng lớn, nhưng những rắc rối mà nó gây ra cũng đang tăng lên như quả cầu tuyết.

Các rủi ro hành vi như lạm dụng công cụ, tạo mã độc, tấn công tiêm nhiễm (prompt injection)... từ lâu đã không còn là vấn đề có thể giải quyết triệt để chỉ bằng một vài bản vá.

Hình ảnh được tạo bởi AI

Đối mặt với các hình thái rủi ro mới, một xu hướng ngày càng rõ rệt là ngành công nghiệp đang chuyển sự chú ý từ "vá lỗ hổng" sang chính "khung bảo mật".

SingGuard-NSFA và SingGuard, hai dự án mã nguồn mở gần đây của Ant Group, chính là những nỗ lực đáng chú ý trong số đó.

Dự án đầu tiên giám sát hành vi của các tác nhân thông minh (Agent), dự án thứ hai giám sát khả năng nhận thức của các mô hình đa phương thức lớn (LMM).

Mục đích của chúng rất rõ ràng: ngăn chặn rủi ro bảo mật ngay từ trong trứng nước trước khi AI kịp thực hiện hành động.

Lý do đề cập đến dự án này là vì bối cảnh của nó khá thú vị. Đội ngũ phát triển khung này đến từ Ant Group, một công ty có bề dày kinh nghiệm trong lĩnh vực bảo mật.

Từ bảo mật thanh toán, hệ thống kiểm soát rủi ro, cho đến an toàn AI hiện nay, năng lực bảo mật vốn dĩ là một lộ trình công nghệ không ngừng phát triển bên trong công ty này.

An toàn AI đang thay đổi cách tiếp cận

Thực tế, dù là OpenClaw hay Claude Code, đằng sau chúng đều chỉ ra một sự thật: nguồn gốc của rủi ro đã chuyển từ nội dung sang chính hành vi.

Trước đây, làm an toàn AI về bản chất vẫn là cách làm của thời đại Internet, chỉ cần tập trung kiểm duyệt nội dung đầu ra của mô hình là đủ.

Nhưng các mô hình lớn từ lâu đã không còn thỏa mãn với việc trò chuyện đơn thuần; chúng điều khiển công cụ, chạy mã, "cánh tay" của chúng ngày càng vươn xa, và những rủi ro mà chúng có thể chạm tới đương nhiên cũng ngày càng nhiều.

Chỉ chăm chăm nhìn vào việc mô hình nói gì rõ ràng là không đủ, vấn đề thực sự hiện nay là phải xem mô hình đã làm gì.

Trớ trêu thay, đây lại là vùng mù mà hệ thống phân loại an toàn nội dung truyền thống không thể chạm tới.

Trên cơ sở đó, các mô hình đa phương thức cũng góp phần làm phức tạp thêm vấn đề. Hiện nay, rủi ro không chỉ dừng lại ở văn bản mà còn có thể ẩn giấu trong các chi tiết hình ảnh, sự kết hợp giữa hình ảnh và văn bản, thậm chí là trong chính phản hồi của mô hình.

Khó khăn hơn nữa là lằn ranh đỏ bảo mật của các nghiệp vụ khác nhau liên tục thay đổi linh hoạt; hôm qua còn tuân thủ, hôm nay đổi bối cảnh có thể đã vi phạm.

Các rủi ro đã biết có thể tạm thời đối phó bằng cách vá lỗi, kiểu như "nước đến chân mới nhảy", nhưng còn các rủi ro chưa biết và các quy tắc liên tục thay đổi thì giải quyết thế nào?

Vì vậy, câu trả lời đã rất rõ ràng: chỉ dựa vào việc vá lỗi để kiềm chế rủi ro là chữa ngọn chứ không chữa gốc. Ngành công nghiệp không thiếu các bản vá, mà về cốt lõi, cần một khung nền tảng có khả năng định nghĩa ranh giới an toàn, ứng phó với rủi ro chưa biết và sự thay đổi của các quy tắc.

Hai khung bảo mật, một hướng đi chung

Hai khung bảo mật mã nguồn mở gần đây của Ant Group chính là lời giải cho vấn đề nền tảng này.

Trước hết là SingGuard-NSFA, khung rào chắn suy luận chế độ kép hướng tới an toàn cho Agent, bao gồm bốn kích thước: 0.8B, 2B, 4B và 9B.

Tư tưởng cốt lõi của nó là đưa việc kiểm tra bảo mật lên trước khi Agent thực thi, sau đó thiết lập các chốt chặn ở cả hai đầu: chặn yêu cầu và kiểm soát phản hồi, cùng nhau đẩy mạnh tuyến phòng thủ từ tuân thủ văn bản sang an toàn hành vi.

Hỗ trợ cho nhận định này là một hệ thống phân loại rủi ro NSFA có hệ thống và bộ tiêu chuẩn đánh giá đa ngôn ngữ.

Ant Group lấy bộ ba CIA kinh điển – tính bảo mật (Confidentiality), tính toàn vẹn (Integrity), tính sẵn sàng (Availability) – làm nền tảng lý thuyết, kết hợp với kinh nghiệm thực tiễn từ ba hướng dẫn an toàn cho mô hình lớn và Agent của OWASP, để phân tách và sắp xếp các rủi ro có thể xảy ra với Agent.

Sau đó, thông qua suy luận tạo sinh SFT và đầu phân loại phân biệt, hai chế độ này đồng thời thực hiện chặn rủi ro:

Ở đây còn có một thiết kế thông minh: vì mạng xương sống (backbone) được đóng băng, nên việc đưa ra phán quyết thực sự nằm ở các đầu phân loại nhẹ được gắn bên ngoài. Do đó, sau này nếu xuất hiện rủi ro mới, chỉ cần huấn luyện bổ sung cho một đầu nhỏ là đủ, dễ dàng đạt được khả năng mở rộng nguyên bản.