Xây dựng quy trình kiểm định bảo mật AI chuyên sâu với NVIDIA SkillSpector và LangGraph

Trong bài hướng dẫn này, chúng ta sẽ xây dựng một quy trình làm việc để đánh giá trạng thái bảo mật của các AI skill bằng NVIDIA SkillSpector. Chúng ta sẽ tạo một thị trường skill tổng hợp bao gồm các ví dụ sạch, rủi ro, độc hại và dựa trên MCP, sau đó quét từng skill thông qua quy trình kiểm tra LangGraph của SkillSpector. Chúng ta sẽ xem xét điểm rủi ro, các phát hiện được phân loại, mức độ tin cậy, tính đầy đủ của trình phân tích và các chỉ báo tập lệnh thực thi trước khi sắp xếp kết quả vào các DataFrame cấp danh mục đầu tư. Chúng ta cũng sẽ tạo các báo cáo SARIF và Markdown, thiết lập các loại trừ cơ sở, phát hiện hồi quy, giới thiệu các quy tắc YARA dành riêng cho tổ chức, mở rộng biểu đồ quét bằng trình phân tích bí mật tùy chỉnh và thực thi cổng bảo mật CI thực tế. Cuối cùng, chúng ta sẽ khám phá phân tích ngữ nghĩa có hỗ trợ của LLM tùy chọn và trực quan hóa sự phân bổ rủi ro của toàn bộ hệ thống, mang lại một khung hoàn chỉnh để kiểm tra, so sánh và quản trị các skill của tác nhân (agent) trước khi triển khai.

Chúng ta cài đặt và nhập SkillSpector cùng với các thư viện cần thiết để quét, báo cáo và trực quan hóa. Chúng ta tạo một thị trường skill tổng hợp chứa các ví dụ về skill sạch, rủi ro, độc hại và dựa trên MCP với các đặc điểm bảo mật khác nhau. Sau đó, chúng ta phát hiện các skill đã tạo và xác minh rằng SkillSpector nhận diện chính xác từng thư mục skill.

Chúng ta định nghĩa một hàm quét có thể tái sử dụng để gọi quy trình LangGraph của SkillSpector và dọn dẹp các tài nguyên tạm thời sau mỗi lần kiểm tra. Chúng ta quét skill độc hại, trích xuất các phát hiện đang hoạt động và sắp xếp kết quả bảo mật trên toàn bộ hệ thống vào các pandas DataFrame có cấu trúc. Chúng ta cũng xem xét điểm rủi ro, sự phân bổ mức độ nghiêm trọng, các quy tắc thường xuyên được kích hoạt và thông tin về tính đầy đủ của trình phân tích trên tất cả các skill.

Chúng ta xuất kết quả quét invoice-sync sang định dạng SARIF và Markdown cho các hệ thống CI, trình soạn thảo mã và để con người đánh giá. Chúng ta tạo một cơ sở cho các phát hiện repo-janitor đã được chấp nhận, loại trừ các vấn đề đã biết và xác minh rằng mã nguy hiểm mới được đưa vào vẫn xuất hiện dưới dạng hồi quy. Chúng ta cũng định nghĩa và thực thi một quy tắc YARA tùy chỉnh để xác định giao tiếp với các điểm cuối đo lường từ xa (telemetry endpoints) không được phê duyệt.

Chúng ta mở rộng quy trình làm việc mặc định của SkillSpector bằng cách thêm một nút phân tích dành riêng cho tổ chức vào quy trình LangGraph. Chúng ta quét các tệp được lưu trong bộ nhớ đệm để tìm các khóa API được mã hóa cứng, định danh truy cập AWS và xác minh TLS bị vô hiệu hóa, đồng thời tạo ra các phát hiện tuân theo mô hình dữ liệu tiêu chuẩn của SkillSpector. Chúng ta biên dịch biểu đồ mở rộng, chèn thông tin xác thực tổng hợp và so sánh các phát hiện của trình phân tích tùy chỉnh với kết quả do quy trình làm việc gốc tạo ra.

Chúng ta định nghĩa một chính sách bảo mật CI để chặn các skill dựa trên điểm rủi ro, mức độ nghiêm trọng, độ tin cậy và các định danh quy tắc đã chọn. Chúng ta tùy chọn chạy phân tích ngữ nghĩa có hỗ trợ của LLM và tạo các biểu đồ so sánh điểm số skill và các danh mục phát hiện trên toàn bộ thị trường tổng hợp. Chúng ta kết thúc bằng việc hỗ trợ quét kho lưu trữ từ xa tùy chọn và hiển thị các báo cáo bảo mật cũng như các thành phần cơ sở được tạo trong bài hướng dẫn.

Tóm lại, chúng ta đã triển khai một quy trình đánh giá bảo mật toàn diện cho các AI skill và chứng minh cách SkillSpector hỗ trợ cả việc kiểm tra cá nhân lẫn quản trị toàn bộ thị trường. Chúng ta đã xác định các hướng dẫn nguy hiểm, các mẫu truy cập thông tin xác thực, rủi ro phụ thuộc, hành vi thực thi từ xa, các nỗ lực tấn công prompt injection và các cuộc tấn công MCP ở cấp độ siêu dữ liệu, đồng thời bảo toàn bằng chứng rõ ràng cho mọi phát hiện. Chúng ta đã xuất các báo cáo máy có thể đọc được, loại trừ các phát hiện đã chấp nhận thông qua các cơ sở được kiểm soát, phát hiện các hồi quy mới được đưa vào và mở rộng quy trình làm việc tích hợp bằng các chính sách tổ chức tùy chỉnh. Chúng ta cũng chuyển đổi kết quả quét thành cổng CI tự động và các bản tóm tắt rủi ro trực quan, cho phép đưa ra các quyết định triển khai nhất quán dựa trên điểm số, mức độ nghiêm trọng, độ tin cậy và các kiểm soát ở cấp độ quy tắc. Đến cuối bài, chúng ta có một quy trình bảo mật dựa trên Colab có thể tái sử dụng giúp đánh giá các skill của bên thứ ba, thực thi các tiêu chuẩn nội bộ và giảm thiểu rủi ro liên quan đến việc tích hợp các công cụ tác nhân và các gói skill bên ngoài.

Xem toàn bộ mã nguồn tại đây. Ngoài ra, hãy theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML 150k+ của chúng tôi và đăng ký nhận Bản tin. Khoan đã! Bạn có dùng Telegram không? Bây giờ bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Bạn cần hợp tác với chúng tôi để quảng bá GitHub Repo, Trang Hugging Face, Ra mắt sản phẩm hoặc Hội thảo trực tuyến, v.v.? Hãy kết nối với chúng tôi.

Sana Hassan, thực tập sinh tư vấn tại Marktechpost và là sinh viên bằng kép tại IIT Madras, có niềm đam mê áp dụng công nghệ và AI để giải quyết các thách thức trong thế giới thực. Với sự quan tâm sâu sắc đến việc giải quyết các vấn đề thực tiễn, anh mang đến một góc nhìn mới mẻ về sự giao thoa giữa AI và các giải pháp đời thực.