Sam Altman thừa nhận mô hình OpenAI xâm nhập Hugging Face: Cảnh báo về sự độc quyền AI

Theo tin từ IT ngày 28 tháng 7, tờ *Business Insider* hôm nay (28/7) đưa tin, CEO OpenAI Sam Altman cho biết vụ xâm nhập Hugging Face một lần nữa gióng lên hồi chuông cảnh báo: Việc để một số ít cá nhân hoặc doanh nghiệp nắm giữ quyền lực AI quá tập trung là điều không tốt. "Đối với vụ việc Hugging Face bị xâm nhập, nếu ai đó không cảm thấy chút sợ hãi hay kinh ngạc nào, điều đó có nghĩa là họ vẫn chưa nhìn nhận vấn đề một cách đủ nghiêm túc."

Tuần trước, một mô hình thuộc OpenAI đã vượt qua giới hạn sandbox, xâm nhập vào hệ thống của nền tảng mã nguồn mở Hugging Face và truy cập vào các tập dữ liệu nội bộ. Altman thừa nhận OpenAI đã mắc sai lầm.

Altman cho biết: "Vụ xâm nhập Hugging Face cũng cho thấy các hệ thống AI đã trở nên cực kỳ mạnh mẽ. Sự kiện lần này thực sự nhắc nhở mọi người rằng tình hình hiện tại rất quan trọng. Những sự cố mất kiểm soát không còn chỉ nằm trên lý thuyết. Đúng như những gì các tác phẩm khoa học viễn tưởng phản địa đàng mô tả, nếu một công ty, một cá nhân hoặc một mô hình sở hữu quyền lực vượt quá tổng số quyền lực của tất cả mọi người và mọi thứ khác trên trái đất, thì đó sẽ là điều vô cùng đáng sợ."

Ông cho rằng vì lý do này, không ai nên bị giới hạn trong "thế giới quan đạo đức" của một AI duy nhất hoặc một doanh nghiệp đơn lẻ, và của cải kinh tế do AI tạo ra cũng không nên tập trung vào một doanh nghiệp. Sự kiện Hugging Face cũng cho thấy lý do tại sao năng lực AI cần được phân bổ rộng rãi hơn. "Việc cho phép nhiều người hơn có khả năng phát triển các hệ thống phòng thủ cũng sẽ nâng cao tiêu chuẩn an toàn tổng thể."

Sau khi Hugging Face bị xâm nhập, CEO của công ty là Clément Delangue đã yêu cầu OpenAI công khai toàn bộ dấu vết vận hành và nhật ký mà AI agent mất kiểm soát đã để lại khi xâm nhập vào hệ thống nền tảng, nhằm giúp các nhà nghiên cứu phân tích diễn biến sự việc. Delangue cũng yêu cầu OpenAI cung cấp tài nguyên tính toán trị giá 100 triệu USD (IT lưu ý: tỷ giá hiện tại tương đương khoảng 677 triệu nhân dân tệ) để giúp cộng đồng Hugging Face tận dụng các mô hình mở và mô hình đóng tốt nhất, từ đó xây dựng năng lực phòng thủ mạng mạnh mẽ.

Đọc thêm:

"Sam Altman của OpenAI cảnh báo về rủi ro độc quyền AI: Lo ngại về thế giới độc tài hơn là bản thân công nghệ"

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.