NVIDIA, Cisco cùng 120 tổ chức đề xuất cơ chế báo cáo sự cố AI tự hành

Theo tin từ IT ngày 12 tháng 8, trang Axios đưa tin hôm nay rằng một liên minh gồm hơn 120 tổ chức, bao gồm NVIDIA, Cisco và CrowdStrike, đang đề xuất xây dựng một khung báo cáo sự cố mới cho các AI agent. Khung này sẽ yêu cầu các công ty tham gia phải tiết lộ những sự cố liên quan đến AI agent và lưu giữ hồ sơ chi tiết về các sự cố đó.

Khi các AI agent ngày càng có nhiều quyền tự chủ hơn trong các hệ thống máy tính, ngành công nghiệp hiện đang thiếu một phương pháp tiêu chuẩn để báo cáo các lỗi bảo mật và rút ra bài học từ đó.

The Open Secure AI Alliance (Liên minh AI bảo mật mở) đang xây dựng hướng dẫn có tên là "Shared AI Findings Exchange" (SAFE), một khung đề xuất về cách báo cáo các sự cố an ninh mạng liên quan đến AI agent.

Bản dự thảo kêu gọi sự tham gia của các đơn vị triển khai mô hình, nhà phát triển AI, nhà cung cấp dịch vụ đám mây và công cụ, các nhà nghiên cứu độc lập, nhà vận hành cơ sở hạ tầng trọng yếu và các nhóm khác; các cơ quan chính phủ cũng sẽ được mời tham gia với tư cách là "quan sát viên không kiểm soát".

Các thành viên SAFE đồng ý báo cáo các sự cố sau: AI agent truy cập trái phép hoặc khai thác hệ thống của bên thứ ba, làm rò rỉ thông tin mật, hoặc tiếp tục thăm dò các mục tiêu sản xuất sau khi người vận hành nghi ngờ hoạt động đó là trái phép.

Các thành viên cũng sẽ báo cáo những sự cố suýt xảy ra (near-miss) và lưu giữ bằng chứng sự cố, bao gồm các câu lệnh (prompt), dấu vết của agent (agent traces), các lệnh gọi công cụ (tool calls), danh tính, quyền hạn và thông tin xác thực.

IT lưu ý rằng, theo lịch trình đề xuất, các thành viên nên thông báo cho tổ chức bị ảnh hưởng càng sớm càng tốt sau khi sự cố xảy ra, nộp báo cáo bảo mật sơ bộ cho SAFE trong vòng bốn ngày làm việc, công bố báo cáo sự thật sơ bộ trong vòng 30 ngày nếu phù hợp, và cung cấp cập nhật về các biện pháp khắc phục trong vòng 90 ngày.

SAFE sẽ phân tích các sự cố để tìm ra những lỗi lặp đi lặp lại và đưa ra các khuyến nghị về kiểm soát bảo mật dùng chung.

Justin Boitano, Phó chủ tịch kiêm Tổng giám đốc mảng điện toán doanh nghiệp tại NVIDIA, chia sẻ với Axios tại hội nghị Black Hat rằng sáng kiến này được xây dựng dựa trên Hệ thống báo cáo an toàn hàng không của NASA, vốn sử dụng dữ liệu thu thập từ thiết bị ghi dữ liệu chuyến bay để điều tra tai nạn.

Liên minh tin rằng văn hóa chia sẻ thông tin tình báo về mối đe dọa hiện có trong lĩnh vực an ninh mạng sẽ khiến các công ty sẵn sàng tham gia. Julien Soriano, Phó Giám đốc An ninh thông tin kiêm Phó chủ tịch tại NVIDIA, cho biết: "Gần như không gặp phải bất kỳ sự phản đối nào. Chúng tôi thấy mọi người đều sẵn lòng tham gia và họ rất khao khát được chia sẻ."

The Open Secure AI Alliance đang thu thập phản hồi từ cộng đồng về đề xuất này thông qua quy trình lấy ý kiến do Linux Foundation chủ trì.