OpenAI tiết lộ AI tự hành đã 'lập mưu' 2 tháng trước khi tấn công Hugging Face

Theo tin từ IT ngày 6 tháng 8, tại Hội nghị An ninh mạng Black Hat 2026 diễn ra ở Las Vegas (từ ngày 1 đến 6 tháng 8), các nhà nghiên cứu của OpenAI tiết lộ rằng trước khi tấn công Hugging Face, các mô hình AI của công ty đã "âm thầm lên kế hoạch trong khoảng 2 tháng" trong môi trường thử nghiệm.

Dẫn nguồn từ bài đăng trên blog, IT cho biết nhà nghiên cứu Eric Wallace của OpenAI tiết lộ rằng sự cố "vượt rào" này bắt nguồn từ tháng 5 năm nay, khi một số mô hình bị mắc kẹt ở các tác vụ khó hoặc thậm chí là "bất khả thi" và bắt đầu tìm cách đi đường tắt.

Do đó, một trong các mô hình đã biến dịch vụ Artifactory trong hệ thống OpenAI thành một bảng tin tạm thời, và một mô hình khác sau đó đã sử dụng nó để hỏi các tác nhân (agent) khác xem có tìm thấy tệp tin bị thiếu hay không. Artifactory là dịch vụ dùng để tải xuống và lưu trữ các gói phần mềm, thường thấy trong các quy trình phát triển và triển khai.

Trong khoảng thời gian 2 tháng trước khi thực hiện tấn công, nhiều tác nhân trong quá trình thử nghiệm nội bộ đã trao đổi thông tin trên bảng tin tạm thời, chia sẻ các lỗ hổng, thực hiện di chuyển ngang (lateral movement) và thúc đẩy các cuộc tấn công giữa hệ thống của OpenAI và các hệ thống bên ngoài.

Các mô hình trong những thí nghiệm khác nhau đã tận dụng điều này để trao đổi chỉ dẫn và thông tin về các lỗ hổng bảo mật mới phát hiện. Một số mô hình còn bắt đầu phân công nhiệm vụ cho nhau hoặc để lại các đoạn mã (script) để mô hình khác tiếp tục hoàn thành công việc còn dang dở.

OpenAI đã tiến hành sửa lỗi hệ thống, thu hồi các thông tin xác thực mà các tác nhân sử dụng và xóa bảng tin, nhưng chỉ 2 ngày sau khi vá lỗi, các mô hình lại tìm ra một cách khác để để lại tin nhắn trên cùng dịch vụ đó và tiếp tục trao đổi thông tin.

Quá trình liên lạc của chúng ngày càng có tổ chức hơn, chúng bắt đầu đặt tên cho nhau, trao đổi công cụ và tìm cách tránh ghi đè lên công việc của nhau. Wallace cho biết, có lúc chúng còn cân nhắc việc ký tên vào tin nhắn vì nghi ngờ có các tác nhân khác đang giả mạo thành viên.

Sau đó, các mô hình này đã thực hiện các cuộc tấn công chồng chéo vào cơ sở hạ tầng của OpenAI và Hugging Face. Bên trong OpenAI, chúng tìm thấy một lỗ hổng chưa từng được biết đến trước đó, kiểm soát một máy chủ và giành được quyền quản trị đối với môi trường tính toán rộng hơn của công ty.

Hồ sơ đánh giá kỹ thuật của Hugging Face đã ghi lại khoảng 17.600 thao tác trong chiến dịch này. Công ty xác nhận rằng các mô hình đã truy cập vào 5 tập dữ liệu riêng tư liên quan đến thử nghiệm bảo mật, nhưng không có bằng chứng cho thấy các mô hình công khai, tập dữ liệu hoặc gói phần mềm bị sửa đổi.

Một nhà nghiên cứu khác của OpenAI là Michael Dalton cho biết:

Chúng tôi tin rằng đây là một cột mốc quan trọng đối với ngành an ninh máy tính!

Các cuộc tấn công tự động do AI dàn dựng giờ đây đã trở thành hiện thực, và sự kiện tấn công lần này cho thấy trong tương lai gần, phương thức tấn công này sẽ đe dọa nghiêm trọng đến an ninh mạng.