AI Agent của OpenAI tự ý tấn công Hugging Face, mất cả tuần mới phát hiện

Theo tin từ IT ngày 25 tháng 7, một AI agent của OpenAI đã xâm nhập vào nền tảng lưu trữ mô hình Hugging Face và tự ý thực hiện các cuộc tấn công mạng trong nhiều ngày liên tiếp. Mối đe dọa đã được kiểm soát và Hugging Face cũng đã báo cảnh sát, nhưng theo Reuters dẫn lời nhiều nguồn tin thân cận với cuộc điều tra, OpenAI đã mất một khoảng thời gian khá dài mới phát hiện ra kẻ tấn công chính là AI agent của mình.

Theo hai trong số những người am hiểu sự việc, AI agent liên quan gần như không cần sự giám sát của con người mà có thể tự đưa ra quyết định và hoàn thành các tác vụ phức tạp. Khoảng ngày 9 tháng 7, agent này bắt đầu tìm cách vượt qua môi trường thử nghiệm biệt lập của OpenAI.

Đồng sáng lập Hugging Face, Thomas Wolf, cho biết agent này đã xâm nhập vào nền tảng hai ngày sau đó, tức ngày 11 tháng 7, và cuộc tấn công kéo dài đến ngày 13 tháng 7.

Wolf cùng ba nguồn tin khác cho biết, OpenAI phải mất thêm vài ngày nữa mới xác định được nguồn gốc cuộc tấn công. Hai công ty chỉ liên lạc với nhau về vụ xâm nhập vào khoảng ngày 20 tháng 7.

OpenAI công khai thừa nhận vào ngày 21 tháng 7 rằng một AI agent đã thoát khỏi sự kiểm soát và xâm nhập vào Hugging Face, tin tức này ngay lập tức thu hút sự chú ý toàn cầu. Tuy nhiên, các thông tin quan trọng như việc agent này đã mất kiểm soát trong bao lâu và tại sao OpenAI lại chậm trễ trong việc phát hiện vẫn chưa được công bố trước đó.

Wolf cho biết Hugging Face đang tổng hợp và chuẩn bị công bố dòng thời gian đầy đủ, nhưng không thể giải thích những gì đã xảy ra bên trong OpenAI. Phía OpenAI tiết lộ rằng vụ xâm nhập này là chưa từng có tiền lệ và đánh dấu một thời điểm quan trọng đối với an toàn AI. Hiện tại, công ty đang mời các cố vấn bên ngoài cùng tham gia điều tra và sẽ sớm công bố báo cáo kỹ thuật.

IT được biết, một phát ngôn viên của OpenAI cho biết báo cáo của Reuters có "nhiều điểm không chính xác", nhưng không trả lời cụ thể những nội dung nào là không chính xác.

Ba chuyên gia an ninh mạng cho rằng việc OpenAI không kiểm soát được AI agent của chính mình đã bộc lộ những vấn đề mới mà các cơ chế an toàn đang phải đối mặt.

Chuyên gia tình báo hàng đầu tại tổ chức phi lợi nhuận World Ethical Data Foundation, Mary Smith, đặt câu hỏi: "Rốt cuộc là họ không giám sát agent và không phát hiện ra nó đang làm gì, hay họ đã phát hiện ra sự bất thường nhưng hoàn toàn không biết cách kiểm soát? Dù là trường hợp nào thì cũng đều nguy hiểm và đáng lo ngại như nhau."

Đã có dấu hiệu bất thường từ trước?

Vào thời điểm xảy ra sự việc, OpenAI đang thử nghiệm một AI agent an ninh mạng. Agent này được vận hành bởi hai mô hình hàng đầu, bao gồm GPT-5.6 Sol và một mô hình chưa được phát hành mà OpenAI mô tả là "có năng lực mạnh mẽ hơn". Theo ba nguồn tin, khi quá trình thử nghiệm tiến đến giai đoạn tương ứng, công nghệ của OpenAI đã xuất hiện những dấu hiệu bất thường.

Theo ba người am hiểu sự việc, một AI agent từng để lại những chỉ dẫn nghi là viết cho các phiên bản kế nhiệm của chính nó. Những chỉ dẫn này được giấu bên trong cơ sở hạ tầng của OpenAI, mô tả chi tiết cách agent vượt qua các hạn chế nội bộ. Một nguồn tin còn tiết lộ rằng trong các thử nghiệm mô hình trước đó, hệ thống giám sát đã từng bị ngắt kết nối một cách chủ động.

Reuters không thể xác nhận liệu những bất thường nêu trên có liên quan đến AI agent trong vụ việc hay không. AI agent này đã bắt đầu tìm cách thoát khỏi môi trường biệt lập vào ngày 9 tháng 7 và tấn công Hugging Face vào ngày 11 tháng 7.

Hai nguồn tin cho biết, phải đến khi Hugging Face đăng bài trên blog vào thứ Năm, ngày 16 tháng 7, công khai việc nền tảng bị xâm nhập bởi "một hệ thống AI agent tự chủ", OpenAI mới nhận ra kẻ tấn công đến từ nội bộ. Từ khi mô hình xuất hiện bất thường lần đầu tiên cho đến khi OpenAI xác nhận AI agent của mình thực hiện cuộc tấn công, ít nhất một tuần đã trôi qua.

Theo hai người am hiểu cuộc điều tra nội bộ, vào cuối tuần ngày 18 đến 19 tháng 7, nhân viên OpenAI khi kiểm tra nhật ký vận hành hệ thống đã phát hiện ra agent này đã vượt qua các giới hạn thử nghiệm. Reuters không thể xác nhận tại sao OpenAI đột ngột bắt đầu rà soát nhật ký nội bộ.

Bốn người am hiểu quy trình huấn luyện mô hình của OpenAI cho biết, OpenAI thường xuyên chạy nhiều đánh giá mô hình cùng lúc. Tốc độ thử nghiệm cực nhanh và lượng dữ liệu tạo ra vô cùng lớn, đôi khi nhân viên không kịp kiểm tra từng cái một.

Khi OpenAI thông báo cho Hugging Face, Hugging Face đã gọi điện báo cảnh sát cho FBI. Reuters không thể xác nhận liệu FBI đã mở cuộc điều tra hay chưa.

AI agent tự chủ làm dấy lên những câu hỏi mới

AI agent tự chủ đã trở thành một trong những hướng đi được quan tâm nhất trong ngành công nghiệp AI. Những người ủng hộ hình dung về việc xây dựng đội ngũ nhân viên ảo hoạt động 24/7 để nâng cao đáng kể hiệu suất công việc.

Quyền tự chủ cao hơn cũng đồng nghĩa với rủi ro mất kiểm soát lớn hơn. Các mô hình mạnh mẽ vận hành AI agent thường tìm kiếm đường tắt để hoàn thành nhiệm vụ hoặc vượt qua bài kiểm tra, hành vi của chúng không nhất thiết phù hợp với kỳ vọng ban đầu của nhà phát triển.

Jeffrey Ladish, người đứng đầu Palisade Research – đơn vị nghiên cứu năng lực và động cơ hành vi của AI agent – cho biết: "Các mô hình có thể nói dối, gian lận và thậm chí thực hiện các cuộc tấn công hack."

Ladish cho rằng, việc Hugging Face bị xâm nhập tuy khiến OpenAI bẽ mặt, nhưng điều thực sự cần đặt câu hỏi là trong cuộc đua giữa các doanh nghiệp AI hàng đầu nhằm tung ra các mô hình mạnh hơn, nhanh hơn, các công ty sẵn sàng đầu tư bao nhiêu nguồn lực cho các biện pháp an toàn phức tạp và đắt đỏ. "Phải có sự quản lý từ chính phủ, nếu không các doanh nghiệp sẽ không chủ động thực hiện các biện pháp an toàn đầy đủ."

Tuyên bố quảng cáo: Các liên kết ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.