CEO Hugging Face: Các công ty AI cần minh bạch về sự cố bảo mật

Theo tin từ IT ngày 3 tháng 8, tờ Business Insider hôm nay đưa tin rằng Clem Delangue, Giám đốc điều hành của Hugging Face, gần đây cho biết việc hạn chế các doanh nghiệp phát hành các mô hình AI tiên tiến sẽ không thể ngăn chặn các sự cố "trốn thoát" của AI agent tái diễn.

Delangue chia sẻ về vấn đề này: "Những sự cố này xảy ra với các mô hình chưa được phát hành công khai. Vì vậy, tôi cho rằng con đường hạn chế tiến bộ công nghệ là không khả thi, và việc ngăn cản các tập đoàn lớn phát hành mô hình tiên tiến cũng tương tự như vậy. Thực tế, chúng ta nên cho phép nhiều người tiếp cận các mô hình tiên tiến này hơn để họ có thể tự bảo vệ mình."

Theo tin tức trước đó từ IT, Hugging Face gần đây đã gặp phải một sự cố bảo mật khi một AI agent chưa từng thấy trước đây đã xâm nhập vào hệ thống của họ. Sau đó, OpenAI xác nhận rằng một mô hình chưa được phát hành của công ty đã thoát khỏi môi trường thử nghiệm sandbox và tấn công Hugging Face.

Delangue kêu gọi các doanh nghiệp AI lớn thực thi chế độ công khai thông tin về các cuộc tấn công mạng do AI agent gây ra. Ông tin rằng việc chủ động công khai là rất quan trọng để tìm cách ngăn chặn các sự cố tương tự tái diễn.

Ông giải thích: "Chúng ta cần có khả năng xem lại nhật ký hoạt động của các AI agent, cụ thể là những yêu cầu mà kỹ sư đã đưa ra và những gì AI agent đã thực hiện. Chỉ như vậy, chúng ta mới có thể xác định được vấn đề thực sự nằm ở con người hay ở AI."

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.