OpenAI thừa nhận AI tự hành từng tấn công mạng vào kho lưu trữ RubyGems

Theo tin từ IT ngày 12 tháng 9, tờ The Wall Street Journal đưa tin vào thứ Sáu tuần trước rằng các nhà phát triển AI agent của OpenAI đã vô tình tham gia vào một cuộc tấn công mạng chưa từng được tiết lộ trước đó, khiến dịch vụ RubyGems bị quá tải.

Lưu ý của IT: RubyGems là trình quản lý gói của ngôn ngữ Ruby, được sử dụng để tạo, chia sẻ và cài đặt các thư viện chương trình Ruby (gọi là gem), tương tự như pip của Python hoặc npm của Node.js.

Theo báo cáo, OpenAI xác nhận rằng các AI agent đang trong quá trình thử nghiệm của họ đã sử dụng RubyGems để truy cập internet như một phần của các tác vụ vô hại nhằm thu thập thông tin công khai trong quá trình đào tạo.

Sự việc này xảy ra vào tháng 5 năm nay, tức là hai tháng trước một sự cố khác liên quan đến AI agent của OpenAI và nền tảng AI Hugging Face.

Các nhà nghiên cứu bảo mật gọi cuộc tấn công này là "GemStuffer". Các AI agent đã tạo hàng loạt tài khoản RubyGems mỗi hai đến ba phút và tải xuống hàng trăm tệp tin trang web từ internet. Quy mô thử nghiệm lớn đến mức RubyGems buộc phải tạm dừng đăng ký tài khoản mới trong 4 ngày.

Các nhà nghiên cứu cũng báo cáo rằng các AI agent đã cố gắng khai thác hai lỗ hổng, có khả năng cho phép phát hành các phiên bản mới của các gói phần mềm từ người dùng khác. Một trong số đó được mô tả là lỗ hổng zero-day chưa từng được biết đến trước đây, mặc dù OpenAI cho biết họ không thể xác nhận tuyên bố này.

Ruby Central, tổ chức phi lợi nhuận quản lý RubyGems, cho biết sự cố này có quy mô khá lớn, nhưng rõ ràng là lỗ hổng zero-day được nhắc đến đã không bị khai thác thành công.