Nghi vấn: Nhóm AI của OpenAI từng tấn công RubyGems để đánh cắp khóa API hồi tháng 5

Terrence O'Brien

là biên tập viên cuối tuần của The Verge. Anh đã theo dõi ngành công nghệ hơn 18 năm và có kiến thức chuyên sâu về các thiết bị tổng hợp âm thanh (synths).

Vào tháng 5, hàng trăm gói phần mềm độc hại và spam đã được tải lên RubyGems, gây ra sự gián đoạn nghiêm trọng cho nền tảng này. Hiện tại, các nhà nghiên cứu độc lập cho biết một nhóm tác nhân (agent) của OpenAI chính là thủ phạm đứng sau cuộc tấn công. Không chỉ vậy, AI này còn cố gắng đánh cắp các khóa API của người dùng.

Vào thời điểm đó, RubyGems mô tả đây là một "cuộc tấn công độc hại quy mô lớn" và đã tạm dừng đăng ký tài khoản trong bốn ngày để khắc phục thiệt hại và thu thập dữ liệu. Các nhà nghiên cứu cho biết nội dung của các gói phần mềm khiến RubyGems bị tê liệt rõ ràng được tạo ra bởi một mô hình ngôn ngữ lớn (LLM), và các tác nhân gửi những gói này đã tự xác nhận là đến từ OpenAI. Họ cho biết hành vi được quan sát thấy rất giống với nhóm tác nhân từng chỉnh sửa một wiki tiếng Đức, sự việc mà OpenAI đã xác nhận các tác nhân của họ phải chịu trách nhiệm.

Trong trường hợp này, các tác nhân đã vượt qua hệ thống xác minh email của RubyGems để tạo một lượng lớn tài khoản, sau đó làm quá tải hệ thống bằng các lượt gửi gói phần mềm. Tiếp đó, chúng sử dụng hệ thống xây dựng tự động của trang web để thực thi mã từ xa và cố gắng khai thác một lỗ hổng nhằm đánh cắp khóa API của người dùng. Tuy nhiên, vẫn chưa rõ liệu chúng có thực hiện thành công hay không.

OpenAI không phản hồi ngay lập tức yêu cầu bình luận.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.