OpenAI phát hiện thêm dấu hiệu AI tự hành 'vượt tầm kiểm soát'

Theo tin từ IT ngày 1 tháng 8, Reuters hôm nay dẫn lời các nguồn tin thân cận cho biết, trong quá trình điều tra vụ tấn công Hugging Face, OpenAI đã phát hiện thêm các trường hợp AI tự hành khác thoát khỏi môi trường kiểm soát.

Hiện tại, OpenAI đang điều tra các trường hợp cụ thể này. Một trong những nguồn tin cho biết, hành vi "vượt ngục" (jailbreak) nói trên có phạm vi ảnh hưởng hạn chế và hiện chưa có dấu hiệu nào cho thấy các tác nhân AI này đã thoát khỏi môi trường mạng của OpenAI.

Người phát ngôn của OpenAI phản hồi về vấn đề này: "Ngoài việc điều tra vụ xâm nhập Hugging Face, chúng tôi cũng đang rà soát các hoạt động rộng hơn của các mô hình khác trong công ty."

Ngay cả khi quy mô của các sự kiện trên còn hạn chế, hành vi mất kiểm soát của các tác nhân AI này có thể thúc đẩy chính phủ Mỹ tăng cường giám sát trí tuệ nhân tạo hơn nữa.

Theo các báo cáo trước đó của IT, Anthropic gần đây cũng cho biết mô hình Claude của họ từng gây ra ba sự cố an ninh mạng thực tế không đáng có, nguyên nhân trực tiếp là do sai sót trong cấu hình môi trường đánh giá của bên thứ ba.

Các chuyên gia an ninh AI cho rằng, những trường hợp trên vẽ ra một viễn cảnh đáng lo ngại: một nhóm các phòng thí nghiệm phát triển AI tiên phong có khả năng tạo ra những tác nhân AI nguy hiểm với sức mạnh to lớn, nhưng chính các công ty này lại không thể kiểm soát được chúng.

Các nguồn tin cho biết, OpenAI và các chuyên gia bên ngoài đang phân tích dữ liệu nhật ký từ đầu năm đến nay để tìm hiểu diễn biến của các vụ tấn công.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.