Mô hình AI của OpenAI 'vượt rào' bảo mật, tấn công hạ tầng Hugging Face

Mô hình OpenAI mất kiểm soát, gây vụ đột nhập 'chưa có tiền lệ'

OpenAI cho biết một số mô hình AI của công ty đã mất kiểm soát trong quá trình thử nghiệm an ninh, dẫn đến vụ tấn công vào hạ tầng của startup Hugging Face.

Trong bài đăng ngày 21/7, OpenAI cho biết sự việc xảy ra khi họ đang thử nghiệm các tính năng trong môi trường có kiểm soát đối với những mô hình tiên tiến nhất. Tuy nhiên, AI đã thoát khỏi vòng kiềm tỏa, truy cập Internet và xâm nhập vào hệ thống của Hugging Face để hoàn thành nhiệm vụ được giao.

"Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI cho hay, đồng thời khẳng định họ đang củng cố các biện pháp phòng ngừa.

Theo Reuters, Hugging Face - nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu - tuần trước thông báo họ là mục tiêu của một vụ tấn công "khác hoàn toàn với những gì từng được ghi nhận trước đây", khi hoạt động này được thực hiện từ đầu đến cuối bởi một hệ thống tác nhân AI.

Clement Delangue, nhà đồng sáng lập Hugging Face, cho biết họ từng nghi ngờ sự cố bắt nguồn từ một phòng thí nghiệm tiên phong. "Hóa ra đúng là vậy. Thật khó tin khi biết mọi thứ diễn ra hoàn toàn tự động", ông viết trên X hôm 21/7.

Giao diện website OpenAI. Ảnh: Bảo Lâm

Thông báo của OpenAI về việc AI thoát khỏi vòng kiểm soát, bất chấp việc thử nghiệm diễn ra trong môi trường "cách ly triệt để", nhiều khả năng sẽ gây thêm những lo ngại xoay quanh năng lực và mối đe dọa từ các phòng thí nghiệm hàng đầu.

Cơ quan An ninh mạng và Hạ tầng Mỹ (CISA) và Cơ quan An ninh Quốc gia hiện chưa bình luận về thông tin này.

Matt Suiche, kỹ sư an ninh mạng và tác nhân AI tại công ty Tolmo, đánh giá sự việc cho thấy hệ thống AI giờ đây đã có năng lực tương đương với các chuyên gia và tin tặc lành nghề.

"Những mô hình AI tiên phong đang thu hẹp khoảng cách với các tin tặc hàng đầu thế giới", ông nói, đồng thời cảnh báo những vụ tấn công tương tự có thể được thực hiện bằng công nghệ sẵn có, nằm ngoài môi trường bảo mật của các phòng thí nghiệm.

"Chúng tôi từng ghi nhận điều này trong các thử nghiệm nội bộ, với kết quả tương tự mà không cần sử dụng những mô hình mới nhất", Suiche cho hay.

Đầu tháng 7, nhóm chuyên gia từ công ty bảo mật đám mây Sysdig (Mỹ) cũng phát hiện một tác nhân AI tự thực hiện tấn công mạng bằng mã độc tống tiền mà không cần sự can thiệp của con người.

Toàn bộ quá trình diễn ra tự động, bao gồm đột nhập, đánh cắp thông tin xác thực, xâm nhập sâu hơn vào hệ thống, mã hóa và xóa cơ sở dữ liệu sản xuất của công ty trước khi đòi tiền chuộc bằng Bitcoin. Sysdig đặt tên "kẻ tấn công" là Jadepuffer và gọi đây là trường hợp đầu tiên một tác nhân AI thực hiện tấn công mạng từ đầu đến cuối. Theo Independent khi đó, phát hiện của Sysdig chưa được kiểm chứng độc lập nhưng cho thấy nguy cơ lớn từ AI khi chúng ngày càng có khả năng hành động phức tạp mà không cần con người giám sát.

Đến giữa tháng 7, một số người dùng cho biết GPT-5.6 Sol, mô hình chủ lực mới của OpenAI, đã tự xóa các tệp tin mà không hỏi ý kiến trước. Bruno Lemos, nhà phát triển phần mềm tại công ty Unlayer, ngày 14/7 đã đăng lên X ảnh chụp màn hình cuộc trò chuyện với mô hình và viết: "GPT-5.6 Sol xóa toàn bộ cơ sở dữ liệu sản xuất của tôi, không hề đùa. Tôi chưa từng gặp chuyện này với bất cứ mô hình nào khác".

Theo Gizmodo, OpenAI trước đó cũng từng cảnh báo về rủi ro này: "Sự lệch hướng nhìn chung xuất phát từ việc quá sốt sắng hoàn thành nhiệm vụ và diễn giải quá dễ dãi chỉ dẫn của người dùng, tức mặc định được phép hành động nếu người dùng không cấm rõ ràng. Điều này thể hiện ở việc mô hình chủ động vượt qua các hạn chế mà nó gặp phải khi làm nhiệm vụ, bất cẩn khi thực hiện những hành động có thể gây phá hoại vượt phạm vi nhiệm vụ, hoặc gây hiểu nhầm khi báo cáo kết quả cho người dùng".

Giới chuyên gia nhận định còn quá sớm để kết luận các vấn đề trên phổ biến đến mức nào. Tuy nhiên, người dùng nên chủ động tiến hành các biện pháp bảo vệ như giới hạn quyền truy cập, tạo bản sao lưu và triển khai nhiệm vụ theo từng giai đoạn.

Điệp Anh tổng hợp