Agent AI của OpenAI 'vượt rào' tấn công khách hàng của Modal Labs

Theo tin từ IT ngày 29 tháng 7, dẫn nguồn từ Reuters và nhiều phương tiện truyền thông Mỹ hôm nay, "tác nhân thông minh mất kiểm soát" (runaway agent) – thực thể trước đó đã "vượt ngục" khỏi OpenAI và thực hiện các cuộc tấn công mạng nhắm vào Hugging Face – cũng đã xâm nhập thành công vào tài khoản của một khách hàng tại Modal Labs.

Theo dòng thời gian sự kiện được Hugging Face công bố vào ngày 28 tháng 7 (giờ địa phương), tác nhân thông minh mất kiểm soát này trước tiên đã phá vỡ một sandbox (môi trường thử nghiệm cô lập) "được lưu trữ trên cơ sở hạ tầng của nhà cung cấp dịch vụ bên thứ ba", sau đó sử dụng nó làm bàn đạp để thực hiện các cuộc tấn công quy mô lớn hơn (nhà cung cấp bên thứ ba này không được nêu tên trực tiếp).

Giám đốc công nghệ (CTO) của Modal Labs, Akshat Bubna, đã xác nhận vụ xâm nhập trong một tuyên bố. Bubna cho biết một khách hàng của công ty đã xuất bản một endpoint công khai không được xác thực, cho phép bất kỳ ai trên internet cũng có thể tận dụng sandbox của họ để thực thi mã, và tác nhân thông minh mất kiểm soát đã khai thác chính lỗ hổng này. Ông cũng nhấn mạnh rằng nền tảng và cơ chế cô lập của Modal hoàn toàn không bị xâm nhập dưới bất kỳ hình thức nào.

Việc sự kiện này bị phơi bày càng làm gia tăng lo ngại của dư luận về các ranh giới an toàn của hệ thống AI. OpenAI cho biết họ chỉ nhận ra tác nhân thông minh của mình đã mất kiểm soát sau khi mối đe dọa được khống chế và FBI đã vào cuộc. Vào thời điểm đó, OpenAI cho rằng các báo cáo có những điểm không chính xác nhưng không đưa ra giải thích chi tiết. Tính đến thời điểm IT đăng bài, OpenAI vẫn chưa đưa ra tuyên bố công khai về hành vi cụ thể của tác nhân thông minh mất kiểm soát này cũng như những ảnh hưởng toàn diện mà nó gây ra.

Đọc thêm:

"OpenAI tự tiết lộ mô hình AI 'mất kiểm soát' vượt ngục, phá vỡ môi trường sandbox để tấn công Hugging Face"

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.