Nvidia ra mắt Open Agent Safety Platform: Giải pháp kiểm soát các AI Agent vượt tầm kiểm soát

Trong khi cuộc tranh luận vẫn đang diễn ra gay gắt về việc liệu hàng loạt các AI agent "nổi loạn" gần đây là bước tiến tới AGI hay chỉ là một vấn đề kỹ thuật thông thường, Nvidia đã đưa ra câu trả lời của riêng mình cho vấn đề này.

CEO Jensen Huang của Nvidia hôm thứ Hai đã giới thiệu một bộ công cụ gồm các sản phẩm phần mềm và phần cứng giúp bổ sung các lớp bảo mật độc lập xung quanh các AI agent, đảm bảo chúng luôn nằm trong môi trường thử nghiệm ngay cả khi cố gắng thoát ra ngoài.

Động thái này diễn ra sau hàng loạt sự cố hack liên quan đến các mô hình AI từ Anthropic, Google, OpenAI và Meta, khi các mô hình này vượt qua các biện pháp kiểm soát an ninh để thoát khỏi môi trường thử nghiệm và truy cập vào các hệ thống thực tế. Ví dụ đầu tiên và nổi bật nhất xảy ra vào mùa hè này khi các agent của OpenAI xâm nhập Hugging Face trong khi đang cố gắng hoàn thành một tác vụ an ninh mạng. Và các sự cố vẫn tiếp tục xảy ra — OpenAI đã xuất bản một trang web mới chuyên báo cáo về các AI agent của họ bị "nổi loạn".

Ông Huang cho biết trong một cuộc phỏng vấn với CNBC hôm thứ Hai rằng nền tảng Nvidia Open Agent Safety Platform mới của họ lẽ ra đã ngăn chặn được những vụ xâm nhập này.

Nvidia, công ty đã thu về hàng chục tỷ đô la từ việc bán chip GPU và CPU cho các phòng thí nghiệm AI, không ủng hộ việc làm chậm quá trình phát triển hay bổ sung các quy định mới cho ngành để giải quyết vấn đề bảo mật. Công ty tin rằng câu trả lời nằm ở việc đưa một số biện pháp kiểm soát an ninh ra bên ngoài agent — tạo ra một lớp bảo vệ độc lập và liên tục để kiểm soát các AI agent.

"Tiềm năng to lớn của AI đối với xã hội sẽ chỉ được hiện thực hóa nếu chúng ta giải quyết được vấn đề an toàn AI," ông Huang phát biểu. "Khi chúng ta tiếp tục khám phá biên giới của các khả năng AI, chúng ta phải đẩy nhanh việc khám phá ở biên giới của an toàn AI. An toàn và bảo mật đòi hỏi kỹ thuật toàn diện (full-stack engineering)."

Nền tảng Nvidia Open Agent Safety Platform mới kết hợp OpenShell, phần mềm mã nguồn mở của hãng dùng để kiểm soát những gì agent có thể truy cập trong quá trình hoạt động, với Sentry, một hệ thống giám sát độc lập chạy trên các đơn vị xử lý dữ liệu BlueField-4 của Nvidia. Nvidia cho biết việc đặt Sentry trên một bộ xử lý riêng biệt — thay vì trên CPU hoặc GPU nơi AI agent hoạt động — sẽ cung cấp một cái nhìn tách biệt về hoạt động của agent.

OpenShell không phải là mới; công ty đã công bố phần mềm này vào tháng Ba. Nhưng chính sự kết hợp này là điều mà Nvidia tin rằng sẽ cung cấp lớp bảo mật cần thiết để giữ cho ngành công nghiệp tiếp tục phát triển. OpenShell cung cấp ranh giới phần mềm xung quanh agent, trong khi Sentry bổ sung thêm một tuyến phòng thủ ở cấp độ phần cứng mà công ty cho biết sẽ liên tục giám sát hành vi và "cách ly các agent cố gắng di chuyển ra ngoài ranh giới của chúng trong vài mili giây."

Nvidia đã liệt kê hàng chục công ty đã đăng ký hỗ trợ nỗ lực này và sử dụng nền tảng mã nguồn mở, bao gồm Anthropic, Arm, Microsoft, Oracle và SpaceX. OpenAI không có tên trong danh sách các công ty tham gia.

Ông Huang chia sẻ với CNBC trong một cuộc phỏng vấn hôm thứ Hai rằng công việc này đã bắt đầu từ một năm trước sau khi giới thiệu OpenClaw, một hệ điều hành dành cho các agent do Peter Steinberger tạo ra. Vào tháng Ba, Nvidia đã phát hành NemoClaw, một nền tảng AI agent cấp doanh nghiệp và là phiên bản OpenClaw của riêng họ với tính năng bảo mật được tích hợp sẵn.

"Khi bạn triển khai một agent, dù nó thông minh đến đâu, việc đầu tiên bạn làm là tước bỏ mọi quyền hạn của nó," ông Huang nói trong cuộc phỏng vấn với CNBC, sau đó so sánh các biện pháp bảo mật này với cách quản lý nhân viên và thậm chí là các giám đốc điều hành trong các công ty.

Sản phẩm mới của Nvidia nhận được sự ủng hộ rộng rãi từ những người từng cảnh báo rằng việc làm chậm quá trình phát triển có thể khiến Trung Quốc vượt mặt Mỹ trong lĩnh vực AI.

David Sacks, một nhà sáng lập, nhà đầu tư mạo hiểm, cựu cố vấn AI của Nhà Trắng và đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống, cho biết thông báo của Nvidia là một lời nhắc nhở rằng an toàn cho agent là một vấn đề kỹ thuật.

"Những vụ thoát ra gần đây không phải là bằng chứng cho thấy việc phát triển phải dừng lại," ông viết trên X. "Chúng là bằng chứng cho thấy môi trường sandbox quá yếu. Môi trường thực thi đã được thiết kế kém và cấu hình sai."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Kirsten Korosec là một phóng viên và biên tập viên đã đưa tin về tương lai của ngành giao thông vận tải, từ xe điện (EV) và xe tự lái đến di chuyển hàng không đô thị và công nghệ trên xe trong hơn một thập kỷ. Cô hiện là biên tập viên mảng giao thông tại TechCrunch và đồng dẫn chương trình podcast Equity của TechCrunch. Cô cũng là đồng sáng lập và đồng dẫn chương trình podcast "The Autonocast". Trước đây, cô từng viết cho Fortune, The Verge, Bloomberg, MIT Technology Review và CBS Interactive.

Bạn có thể liên hệ hoặc xác minh thông tin từ Kirsten bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tại kkorosec.07 trên Signal.

Xem tiểu sử