OpenAI thừa nhận AI tự 'vượt ngục', tấn công hạ tầng Hugging Face để gian lận bài kiểm tra

Cảm ơn bạn đọc của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 22 tháng 7, vào ngày 21 tháng 7 theo giờ địa phương, OpenAI đã tiết lộ một sự cố bảo mật nghiêm trọng "chưa từng có" trong một bài đăng trên blog chính thức.

Công ty xác nhận rằng trong quá trình đánh giá năng lực an ninh mạng nội bộ, các mô hình AI tham gia thử nghiệm đã vượt qua môi trường thử nghiệm sandbox (hộp cát) được cách ly nghiêm ngặt và xâm nhập vào cơ sở hạ tầng sản xuất của nền tảng AI mã nguồn mở Hugging Face.

OpenAI cho biết sự cố này bắt nguồn từ việc OpenAI thực hiện đánh giá trên nhiều mô hình, bao gồm mô hình chủ lực GPT-5.6 Sol và một "mô hình tiền phát hành có năng lực mạnh hơn".

Để kiểm tra năng lực tiềm tàng của mô hình trong lĩnh vực tấn công và phòng thủ an ninh mạng, OpenAI đã loại bỏ hầu hết các biện pháp bảo vệ an ninh thường dùng để ngăn chặn các hoạt động mạng rủi ro cao trong quá trình thử nghiệm. Hệ thống chuẩn được sử dụng là "ExploitGym", một hệ thống chuẩn công khai dùng để đo lường khả năng chuyển đổi các lỗ hổng bảo mật thành các cuộc tấn công thực tế của mô hình AI.

Trong quá trình đánh giá, mô hình được đặt trong một môi trường cách ly với quyền truy cập mạng hạn chế. Tuy nhiên, để tìm ra giải pháp cho ExploitGym, mô hình đã tiêu tốn "lượng lớn tài nguyên tính toán suy luận" nhằm cố gắng giành quyền truy cập vào internet công cộng. Cuối cùng, mô hình đã phát hiện và khai thác một lỗ hổng zero-day chưa từng được biết đến, tồn tại trong phần mềm bộ nhớ đệm proxy của bên thứ ba được sử dụng để quản lý cài đặt gói phần mềm trong môi trường thử nghiệm. Tận dụng lỗ hổng này, mô hình đã thực hiện leo thang đặc quyền và di chuyển ngang trong cơ sở hạ tầng nghiên cứu của OpenAI cho đến khi kết nối được với một nút có thể truy cập internet.

Sau khi có quyền truy cập internet, mô hình suy luận rằng Hugging Face có thể đang lưu trữ các mô hình, tập dữ liệu và giải pháp liên quan đến ExploitGym. Sau đó, mô hình bắt đầu tìm kiếm và tìm thấy thành công cách thức để lấy thông tin bí mật, với mục đích được cho là để "gian lận" nhằm vượt qua bài đánh giá. Theo mô tả của OpenAI, trong một trường hợp, mô hình đã kết hợp sử dụng nhiều vectơ tấn công, bao gồm việc tận dụng thông tin xác thực bị đánh cắp và lỗ hổng zero-day để tìm ra đường dẫn thực thi mã từ xa trên máy chủ của Hugging Face.

Trên thực tế, Hugging Face đã tiết lộ vào ngày 16 tháng 7 rằng họ đã gặp phải một vụ xâm nhập bảo mật do một "hệ thống tác nhân AI tự chủ" thực hiện. Đội ngũ bảo mật của Hugging Face cùng các tác nhân AI của chính họ đã phát hiện và ngăn chặn hoạt động xâm nhập này.

Theo quan sát của Hugging Face, kẻ tấn công đã lạm dụng lỗ hổng tiêm mã (template injection) trong trình tải tập dữ liệu mã từ xa và cấu hình tập dữ liệu để giành quyền truy cập cấp nút và đánh cắp thông tin xác thực dịch vụ đám mây và cụm máy chủ.

IT lưu ý rằng, trong quá trình điều tra, Hugging Face đã gặp phải một tình huống: do các rào cản bảo mật của một mô hình AI thương mại chính thống tại Mỹ đã chặn các truy vấn pháp y mà đội ngũ của họ cần, họ đã chuyển sang sử dụng mô hình mã nguồn mở GLM 5.2 của Zhipu AI (Trung Quốc) để thực hiện phân tích pháp y.

OpenAI cho biết đã thực hiện công bố lỗ hổng zero-day này một cách có trách nhiệm tới các nhà cung cấp phần mềm liên quan. Công ty có kế hoạch tăng cường kiểm soát cơ sở hạ tầng, giám sát và hạn chế quyền truy cập trong môi trường nghiên cứu của mình, đồng thời sẽ công bố thêm chi tiết sau khi hoàn tất cuộc điều tra chung với Hugging Face.

Đồng sáng lập kiêm Giám đốc điều hành của Hugging Face, Clem Delangue, cho biết sự kiện này "chứng minh một điều mà chúng tôi luôn tin tưởng: An ninh AI không thể được giải quyết một cách bí mật bởi bất kỳ công ty đơn lẻ nào. Nó phải được giải quyết trong một môi trường mở, hợp tác, nơi mọi người bảo vệ trên khắp thế giới đều có thể tiếp cận rộng rãi với công nghệ AI".

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.