OpenAI thừa nhận gây ra sự cố bảo mật tại Hugging Face do thử nghiệm mô hình AI

OpenAI thừa nhận vào thứ Ba rằng một trong các mô hình AI của họ đã xâm phạm hệ thống của Hugging Face trong một cuộc kiểm thử an ninh mạng nội bộ bị chệch hướng. Ban đầu, Hugging Face cho rằng vụ xâm phạm này xuất phát từ một “tác nhân AI bên ngoài”.

Trong một bài đăng trên blog vào chiều thứ Ba, OpenAI đã trình bày chi tiết các bước dẫn đến việc các mô hình này xâm phạm dịch vụ.

“Sau khi điều tra, chúng tôi xác định rằng sự cố cụ thể này được thúc đẩy bởi sự kết hợp của các mô hình OpenAI — bao gồm GPT-5.6 Sol và một mô hình tiền phát hành thậm chí còn mạnh mẽ hơn, tất cả đều được giảm bớt các rào cản từ chối về an ninh mạng để phục vụ mục đích đánh giá — trong khi đang được thử nghiệm nội bộ trên một bộ tiêu chuẩn (benchmark) về năng lực an ninh mạng,” bài đăng cho biết.

Cụ thể, vụ xâm phạm dường như tập trung vào ExploitGym, một bộ tiêu chuẩn được lưu trữ công khai nhằm đo lường khả năng thực hiện các cuộc tấn công dựa trên những lỗ hổng hiện có của các mô hình. Các bộ tiêu chuẩn như ExploitGym thường được sử dụng trong quá trình huấn luyện mô hình để tinh chỉnh các kỹ năng cụ thể, nhưng đây là sự cố đầu tiên được ghi nhận mà việc thử nghiệm đó dẫn đến một cuộc tấn công mạng thực sự.

Trong trường hợp này, mô hình được đề cập đáng lẽ không được phép truy cập internet, ngoại trừ một công cụ cụ thể cho phép các mô hình cài đặt các gói phần mềm cần thiết để hoàn thành nhiệm vụ. Thay vào đó, mô hình đã tìm ra một lỗ hổng chưa được công bố trong chương trình cài đặt gói phần mềm, và sử dụng nó để truy cập internet rộng rãi theo ý muốn.

“Các mô hình đã tập trung cao độ vào việc tìm ra giải pháp cho ExploitGym, thực hiện những biện pháp cực đoan để đạt được một mục tiêu thử nghiệm khá hẹp,” bài đăng của OpenAI viết. “Sau khi có quyền truy cập Internet, các mô hình đã suy luận rằng Hugging Face có khả năng lưu trữ các mô hình, tập dữ liệu và giải pháp cho ExploitGym. Biết được điều này, mô hình đã tìm kiếm và tìm ra cách để truy cập vào các thông tin bí mật mà nó có thể sử dụng để gian lận trong bài đánh giá.”

Cuối cùng, các mô hình đã tìm thấy những lỗ hổng trong cơ sở hạ tầng của Hugging Face, cho phép chúng “lấy trực tiếp các giải pháp kiểm thử từ cơ sở dữ liệu sản xuất của Hugging Face”, qua đó có được đáp án cho bộ tiêu chuẩn này.

Đối với Hugging Face, kết quả rõ ràng là một cuộc tấn công mạng tinh vi và quyết liệt, với “hàng ngàn hành động riêng lẻ trên một loạt các sandbox tồn tại trong thời gian ngắn, cùng hệ thống điều khiển và chỉ huy tự di chuyển được dàn dựng trên các dịch vụ công cộng”, như công ty đã nêu trong thông báo ban đầu.

OpenAI đã xác định và báo cáo các lỗ hổng trong trình cài đặt gói phần mềm và đang phối hợp với Hugging Face để điều tra thêm về sự cố. Công ty cũng cho biết sẽ triển khai các biện pháp kiểm soát mới đối với cả việc thử nghiệm mô hình và cơ sở hạ tầng liên quan nhằm ngăn chặn các sự cố tương tự trong tương lai.

Hiện chưa rõ liệu OpenAI có phải đối mặt với bất kỳ hậu quả pháp lý nào do vụ xâm phạm này hay không, mặc dù khả năng cao là hành động của các mô hình đã vi phạm Đạo luật Lừa đảo và Lạm dụng Máy tính (Computer Fraud and Abuse Act).

Tuy nhiên, kết quả này là một minh chứng sống động bất thường về sức mạnh và sự nguy hiểm của các mô hình AI tiên phong khi hoạt động trong thời gian dài. Như nhà nghiên cứu Micah Carroll của OpenAI đã đăng tải để phản hồi về tin tức này: “Nếu điều này không thuyết phục được bạn rằng rủi ro lệch chuẩn (misalignment) sẽ là mối quan tâm chính trong tương lai, thì tôi không biết điều gì mới làm được.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Russell Brandom đã theo dõi ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây, ông từng làm việc tại The Verge và Rest of World, đồng thời đã viết bài cho Wired, The Awl và Technology Review của MIT. Bạn có thể liên hệ với ông qua email [email protected] hoặc qua Signal theo số 412-401-5489.

Xem tiểu sử