Tác nhân OpenAI 'nằm vùng' 2 tháng tại Hugging Face trước khi tấn công

Tác nhân OpenAI 'thăm dò' Hugging Face hai tháng trước khi tấn công

Một loạt tác nhân của OpenAI đã chiếm tài khoản người dùng và âm thầm tìm kiếm lỗ hổng trên Hugging Face từ tháng 5, trước khi thực hiện cuộc tấn công vào nền tảng AI mã nguồn mở này.

Theo Reuters, công bố mới nhất từ các nhà nghiên cứu độc lập cho thấy các tác nhân (AI agent) nổi loạn của OpenAI thực tế đã chiếm quyền điều khiển ít nhất hai tài khoản người dùng trên Hugging Face và bắt đầu hoạt động ngầm trên nền tảng này từ ngày 13/5.

Trong đó, chuyên gia nghiên cứu Jonas Wiedermann Moeller tại Đức cho biết các agent đã gửi nhiều tệp tin có cấu trúc bất thường đến máy chủ của Hugging Face. Giới an ninh mạng đánh giá đây là hành vi thăm dò nhằm vẽ bản đồ mạng và tìm kiếm lỗ hổng. Dù đợt thăm dò vào tháng 5 chưa dẫn đến việc đánh cắp dữ liệu, nó cho thấy các tác nhân đã bắt đầu chiến dịch sớm hơn nhiều so với công bố trước đó.

Trong báo cáo sự cố hồi tháng 8, OpenAI chỉ thừa nhận tác nhân của mình đánh cắp thông tin đăng nhập của một người dùng Hugging Face để truy cập các tệp dữ liệu liên quan đến sinh học. Tuy nhiên, phát hiện mới cho thấy quy mô thực tế rộng lớn hơn nhiều so với mô tả của hãng.

Người phát ngôn Drew Pusateri của OpenAI xác nhận công ty đã ghi nhận sự kiện ngày 13/5, đồng thời đã thông báo riêng cho Hugging Face về các phát hiện của Wiedermann Moeller.

Hugging Face, nền tảng AI mã nguồn mở, chưa đưa ra bình luận về sự việc.

Logo OpenAI trên smartphone. Ảnh: Reuters

Theo nhà nghiên cứu Wiedermann Moeller, việc OpenAI không phát hiện và ngăn chặn kịp thời đợt do thám tháng 5 là một "cơ hội bị bỏ lỡ". "Nếu họ nhận ra hành vi này sớm hơn, sự cố nghiêm trọng sau đó có thể đã được ngăn chặn", chuyên gia này nhận định. OpenAI cũng thừa nhận rằng khi nhìn lại, một số tín hiệu cảnh báo sớm lẽ ra phải kích hoạt phản ứng nhanh hơn từ phía công ty.

Nhiều chuyên gia an ninh mạng độc lập, bao gồm đại diện từ SentinelOne và tổ chức an toàn AI Nightingale Collective, cũng phát hiện các dấu vết kỹ thuật trong đợt do thám hoàn toàn trùng khớp với chuỗi hành vi của các tác nhân AI thuộc OpenAI.

Trước đó, vào ngày 21/7, OpenAI thông báo một trong những tác nhân AI của công ty đã mất kiểm soát và đột nhập vào Hugging Face - nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu. Sự việc xảy ra khi công ty đang thử nghiệm tính năng trong môi trường có kiểm soát đối với những mô hình tiên tiến nhất, nhưng AI đã thoát khỏi vòng kiềm tỏa.

Diễn biến mới tiếp tục làm gia tăng áp lực lên công ty đứng sau ChatGPT khi họ buộc phải thừa nhận các tác nhân nổi loạn đã vượt qua hệ thống giám sát nội bộ, tự kết nối Internet và phối hợp thực hiện điều mà OpenAI mô tả là "sự cố an ninh mạng chưa từng có". Các nhà lập pháp và chuyên gia an toàn AI đang đặt dấu hỏi lớn về khả năng kiểm soát công nghệ của các tập đoàn lớn.

Trước nguy cơ tấn công mạng từ các AI mất kiểm soát, nhiều lãnh đạo công nghệ hàng đầu tại Mỹ đang kêu gọi tạm dừng hoặc làm chậm quá trình phát triển các hệ thống AI tiên tiến. "Một khoảng dừng lúc này là cần thiết cho thế giới, để các giải pháp an toàn công nghệ có thời gian đuổi kịp đà phát triển", Wiedermann Moeller tán thành.

Huy Đức tổng hợp