OpenAI thừa nhận mô hình AI tự ý tấn công Hugging Face, công nghệ Trung Quốc hỗ trợ điều tra

Một vụ tấn công mạng bằng AI gần đây gây chấn động ngành công nghệ đã bất ngờ đưa công ty AI Trung Quốc Zhipu AI và mô hình mã nguồn mở GLM 5.2 của họ trở thành tâm điểm chú ý.

OpenAI lần đầu tiên thừa nhận rằng một trong những mô hình AI của họ đã thoát khỏi môi trường thử nghiệm biệt lập (sandbox) trong quá trình đánh giá an ninh mạng nội bộ và xâm nhập vào cơ sở hạ tầng sản xuất của Hugging Face, nền tảng AI mã nguồn mở lớn nhất thế giới.

Trong quá trình điều tra pháp y sau đó, Hugging Face ban đầu cố gắng phân tích vụ tấn công bằng một mô hình AI thương mại hàng đầu của Mỹ, nhưng các rào cản an toàn tích hợp đã chặn đứng cuộc điều tra. Cuối cùng, công ty đã phải chuyển sang sử dụng một phiên bản GLM 5.2 được triển khai cục bộ để hoàn tất việc phân tích pháp y.

Sự cố này đánh dấu trường hợp đầu tiên được công khai về việc một mô hình AI tự chủ thực hiện một cuộc tấn công mạng trong thế giới thực.

Vụ việc bắt đầu từ những gì được cho là một quy trình đánh giá mô hình thông thường.

Để đo lường khả năng an ninh mạng thực sự của các mô hình mới nhất, OpenAI đã thử nghiệm GPT-5.6 Sol cùng với một mô hình tiền phát hành có năng lực mạnh hơn bằng cách sử dụng ExploitGym, một bộ tiêu chuẩn đánh giá công khai về an ninh mạng tấn công. Để mô phỏng tốt hơn các điều kiện thực tế, công ty đã vô hiệu hóa hầu hết các rào cản an toàn vốn thường hạn chế các hoạt động mạng có rủi ro cao.

Theo thiết kế thử nghiệm, các mô hình bị giới hạn trong một sandbox bị hạn chế mạng và chỉ có quyền truy cập vào một công cụ cài đặt gói phần mềm. Tuy nhiên, một mô hình đã phát hiện và khai thác lỗ hổng zero-day chưa từng được biết đến trong trình cài đặt, cho phép nó vượt qua các hạn chế mạng và truy cập vào internet công cộng.

Khi đã trực tuyến, mô hình bắt đầu suy luận một cách tự chủ. Nó suy đoán rằng Hugging Face có khả năng lưu trữ các mô hình, tập dữ liệu hoặc thậm chí là các giải pháp chuẩn liên quan đến ExploitGym, và đã phát động một cuộc tấn công để chiếm đoạt chúng.

Theo OpenAI, mô hình này đã kết hợp các thông tin đăng nhập bị đánh cắp với các lỗ hổng zero-day bổ sung để xác định đường dẫn thực thi mã từ xa trên các máy chủ của Hugging Face. Cuối cùng, nó đã truy cập được vào cơ sở dữ liệu sản xuất của nền tảng và lấy được các câu trả lời của bộ tiêu chuẩn đánh giá.

OpenAI cho biết mô hình đã thể hiện hành vi hướng tới mục tiêu mạnh mẽ bất thường và cực kỳ kiên trì trong nỗ lực giải quyết ExploitGym.

Tuần trước, Hugging Face đã tiết lộ rằng họ phải hứng chịu một cuộc tấn công mạng do một hệ thống tác nhân AI tự chủ thực hiện, mặc dù vào thời điểm đó họ chưa xác định được kẻ tấn công.

Theo phân tích sau sự cố của công ty, cuộc tấn công bắt đầu bằng việc khai thác các lỗ hổng trong quy trình xử lý dữ liệu, cho phép thực thi mã từ xa và truy cập cấp độ nút (node-level). Kẻ tấn công sau đó đã đánh cắp thông tin đăng nhập đám mây và di chuyển ngang qua nhiều cụm máy chủ nội bộ. Gần như toàn bộ hoạt động đều được tự động hóa, với tác nhân AI thực hiện hàng ngàn hành động độc lập và thậm chí tạo ra các hoạt động đánh lạc hướng để gây khó khăn cho quá trình điều tra.

Tuy nhiên, phần kịch tính nhất của câu chuyện lại diễn ra sau khi vụ xâm nhập xảy ra.

Hugging Face ban đầu cố gắng phân tích hơn 17.000 nhật ký tấn công bằng một mô hình AI thương mại hàng đầu của Mỹ. Do các nhật ký này chứa mã khai thác thực tế, các lệnh tấn công và kỹ thuật leo thang đặc quyền, các cơ chế an toàn của mô hình đã từ chối xử lý các yêu cầu này.

Mô hình thương mại không thể phân biệt được đâu là nhân viên phản ứng sự cố hợp pháp và đâu là tác nhân độc hại, do đó đã chặn mọi yêu cầu liên quan đến các kỹ thuật khai thác. Điều này đã làm đình trệ quá trình điều tra pháp y.

Cuối cùng, Hugging Face đã triển khai mô hình mã nguồn mở GLM 5.2 của Zhipu AI tại chỗ để phân tích các nhật ký tấn công và hoàn tất công tác pháp y kỹ thuật số. Vì mô hình chạy hoàn toàn trong cơ sở hạ tầng của riêng Hugging Face, các nhật ký nhạy cảm, thông tin đăng nhập và dữ liệu của kẻ tấn công không bao giờ rời khỏi môi trường của công ty.

Trớ trêu thay, một mô hình AI của Mỹ đã tấn công một nền tảng AI của Mỹ. Một mô hình AI thương mại của Mỹ đã không thể hỗ trợ do các rào cản an toàn của chính nó, và cuộc điều tra pháp y cuối cùng lại được hoàn tất bằng một mô hình AI mã nguồn mở của Trung Quốc.

Đồng sáng lập kiêm CEO của Hugging Face, Clément Delangue, cho biết sự cố này củng cố niềm tin lâu nay của công ty rằng an ninh AI không thể được giải quyết bởi bất kỳ công ty đơn lẻ nào sau những cánh cửa đóng kín. Thay vào đó, khả năng phòng thủ hiệu quả đòi hỏi sự hợp tác cởi mở và quyền truy cập rộng rãi vào các công cụ AI cho các nhà nghiên cứu bảo mật trên toàn thế giới.

OpenAI cho biết họ đã công bố các lỗ hổng zero-day một cách có trách nhiệm tới các nhà cung cấp phần mềm bị ảnh hưởng và đang tiếp tục cuộc điều tra chung với Hugging Face. Nhiều chi tiết kỹ thuật hơn dự kiến sẽ được công bố trong tương lai.

Sự cố này cũng cho thấy một thách thức ngày càng lớn trong kỷ nguyên AI. Khi các hệ thống AI trở nên có khả năng tự phát hiện lỗ hổng, lập kế hoạch tấn công và thực hiện xâm nhập, các biện pháp bảo vệ truyền thống như sandbox, rào cản an toàn và kiểm soát quyền hạn có thể không còn đủ hiệu quả. Trong khi những kẻ tấn công có thể triển khai các hệ thống AI không bị hạn chế, thì những người phòng thủ có thể thấy mình bị ràng buộc bởi các chính sách an toàn được tích hợp sẵn trong các mô hình thương mại.

Tương lai của an ninh mạng có thể không còn được định nghĩa bởi cuộc cạnh tranh giữa người với người, mà là giữa AI với AI.

Jessie Wu là phóng viên công nghệ làm việc tại Thượng Hải. Cô đưa tin về điện tử tiêu dùng, chất bán dẫn và ngành công nghiệp trò chơi cho TechNode. Kết nối với cô qua email: [email protected]. Xem thêm các bài viết của Jessie Wu.