Ant Group ra mắt bộ mô hình bảo mật AI cho tác nhân tự hành và hệ thống đa phương thức

Phòng thí nghiệm An toàn AI của Ant Group đã mã nguồn mở SingGuard-NSFA, một mô hình rào chắn an toàn dành cho các tác nhân tự hành (autonomous agents), đồng thời công bố chi tiết về SingGuard, một mô hình an toàn đa phương thức. SingGuard-NSFA được thiết kế để phát hiện các rủi ro như tấn công chèn câu lệnh (prompt injection), đánh cắp dữ liệu nhạy cảm, thực thi mã độc, lạm dụng tài nguyên và sử dụng sai quyền hạn trước khi các tác nhân thực hiện hành động.

Mô hình này bao gồm 7 danh mục rủi ro chính, 28 danh mục phụ, 185 kịch bản và 133 ngôn ngữ, với gần 100.000 mẫu trong hệ thống đánh giá. Ant cho biết mô hình này hiện có sẵn các phiên bản 0.8B, 2B, 4B và 9B, đồng thời có khả năng đưa ra một đánh giá rủi ro chỉ trong khoảng 50 mili giây. [TechWeb, tiếng Trung]