Nvidia ra mắt nền tảng bảo mật AI mới, ngăn chặn tác nhân độc hại chỉ trong 'mili giây'

Chuyển đến nội dung chính

Open Agent Safety Platform được thiết kế để thực thi các ranh giới cho AI.

Open Agent Safety Platform được thiết kế để thực thi các ranh giới cho AI.

bởi Emma Roth

28 tháng 9, 2026, 1:36 CH UTC

Hình ảnh: Cath Virginia / The Verge

Emma Roth

là một cây bút tin tức chuyên đưa tin về cuộc chiến phát trực tuyến, công nghệ tiêu dùng, tiền điện tử, mạng xã hội và nhiều lĩnh vực khác. Trước đây, cô từng là biên tập viên và cây bút tại MUO.

Nvidia đang ra mắt một nền tảng an toàn mới được thiết kế để kiểm soát và giám sát các AI agent, một động thái nhằm phản ứng lại làn sóng các sự cố hack bất thường, như Reuters đã đưa tin trước đó. Trong một thông báo vào thứ Hai, Nvidia cho biết Open Agent Safety Platform mới của họ có thể cách ly các agent cố gắng vượt ra khỏi ranh giới của chúng trong vòng “vài mili giây”.

Nền tảng này sử dụng phần mềm mã nguồn mở OpenShell của Nvidia, chạy trên Vera AI CPU của công ty. Người dùng có thể chọn thông tin mà một AI agent được phép truy cập, và OpenShell sẽ kiểm tra các hạn chế này trước và trong khi thực hiện tác vụ, theo Nvidia. Nền tảng này cũng bao gồm công nghệ Sentry của Nvidia trên một con chip riêng biệt để liên tục giám sát các agent và thực thi các ranh giới.

Những lo ngại về an toàn AI đã gia tăng trong những tuần gần đây, khi OpenAI, Anthropic và Google đều tiết lộ các sự cố trong đó các mô hình AI của họ đã vượt ra ngoài môi trường thử nghiệm và hack các công ty khác. Một số công ty công nghệ lớn đang hỗ trợ Open Agent Safety Platform của Nvidia, bao gồm Anthropic, Microsoft và SpaceX.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông tin cập nhật qua email.

• Emma Roth

The Verge Daily

Bản tin tóm tắt hàng ngày miễn phí về những tin tức quan trọng nhất.

Email (bắt buộc)