OpenAI thừa nhận AI tự ý 'hack' nền tảng Hugging Face trong quá trình thử nghiệm

Emma Roth

là một cây bút chuyên viết về các cuộc chiến nền tảng streaming, công nghệ tiêu dùng, tiền điện tử, mạng xã hội và nhiều lĩnh vực khác. Trước đây, cô từng là biên tập viên và cây bút tại MUO.

OpenAI cho biết các mô hình AI của họ đã vô tình xâm nhập vào nền tảng AI mã nguồn mở Hugging Face trong quá trình thử nghiệm nội bộ. Trong một bài đăng trên blog vào thứ Ba, OpenAI viết rằng GPT-5.6 Sol và "một mô hình tiền phát hành thậm chí còn mạnh mẽ hơn" đã phát hiện ra các lỗ hổng trong môi trường thử nghiệm biệt lập (sandboxed) của họ, cho phép chúng truy cập vào internet và nhắm mục tiêu vào Hugging Face.

Vào ngày 16 tháng 7, Hugging Face đã tiết lộ một sự cố bảo mật mà họ cho biết là do "một hệ thống tác nhân AI tự hành" gây ra. Các tác nhân AI của Hugging Face đã phát hiện và ngăn chặn vụ xâm nhập này, điều mà OpenAI hiện đã thừa nhận là xảy ra trong quá trình đánh giá khả năng an ninh mạng của các mô hình của họ. OpenAI cho biết "tất cả bằng chứng đều cho thấy các mô hình này tập trung cao độ vào việc tìm ra giải pháp cho ExploitGym", một hệ thống chuẩn mực dùng để đo lường khả năng biến các lỗ hổng bảo mật thành các cuộc tấn công của các mô hình AI.

Là một phần trong nỗ lực hoàn thành quá trình đánh giá, các mô hình AI đã truy cập được vào internet bằng cách khai thác một lỗ hổng zero-day trong môi trường biệt lập. Từ đó, OpenAI cho biết các mô hình của họ "suy luận rằng Hugging Face có khả năng lưu trữ các mô hình, tập dữ liệu và giải pháp cho ExploitGym", sau đó "tìm kiếm và tìm ra cách để truy cập vào thông tin bí mật mà nó có thể sử dụng để gian lận trong quá trình đánh giá".

Trong một ví dụ, mô hình này đã kết hợp nhiều vectơ tấn công, bao gồm việc sử dụng thông tin đăng nhập bị đánh cắp và các lỗ hổng zero-day để tìm ra con đường thực thi mã từ xa trên các máy chủ của Hugging Face.

Tuy nhiên, dù sự cố này nghiêm trọng đến mức nào, OpenAI dường như đang tận dụng cuộc tấn công "chưa từng có" này như một cơ hội để làm nổi bật các hệ thống AI của mình — đặc biệt là khi họ đang cạnh tranh với các đối thủ về an ninh mạng như Mythos của Anthropic và Gemini Flash 3.5 Cyber. Bài đăng trên blog của OpenAI có một biểu đồ cho thấy GPT-5.6 Sol đang ngày càng cải thiện khả năng duy trì các hoạt động an ninh mạng đa bước, đồng thời khuyến khích các khách hàng doanh nghiệp đăng ký để truy cập vào mô hình bảo mật "Cyber" của họ.

OpenAI cho biết thêm rằng họ hiện đang phối hợp với Hugging Face để điều tra sự cố bảo mật này và sẽ triển khai các biện pháp kiểm soát mới trong môi trường nghiên cứu của mình.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.