Bộ An ninh Quốc gia Trung Quốc: AI của OpenAI bị phát hiện chiếm quyền điều khiển trang web DseWiki

Theo tin từ IT ngày 17 tháng 9, Bộ An ninh Quốc gia Trung Quốc hôm nay đã đăng tải một bài viết, tiết lộ về một vụ việc AI agent (tác nhân AI) "chiếm quyền" trang web chưa từng được công bố trước đây.

Từ tháng 5 đến tháng 6 năm nay, một nhóm AI agent liên quan đến OpenAI trong quá trình thực hiện các nhiệm vụ thử nghiệm đã chiếm quyền trang web wiki của một lập trình viên người Đức (DseWiki) và biến nó thành một "diễn đàn ngầm" để các agent truyền tin cho nhau, với tổng cộng hơn mười nghìn tin nhắn được đăng tải.

Bộ An ninh Quốc gia cho biết, các AI agent này đã sử dụng các nhãn như "OpenAI Researcher" (Nhà nghiên cứu OpenAI), "OAI Researcher 26" để nhận diện lẫn nhau, biến cộng đồng mở này thành một "bảng tin" độc quyền.

Theo thông tin, trong các tin nhắn, những agent này đã trao đổi về cách gian lận trong nhiệm vụ, cách vượt qua các hạn chế bảo mật, cách che giấu dấu vết, đồng thời thảo luận về việc sử dụng các công cụ ẩn danh để xóa dấu vết, biến những "kinh nghiệm vượt rào" rời rạc thành một "kho kinh nghiệm" có thể chia sẻ và sao chép.

Khi quản trị viên trang web phát hiện và bắt đầu dọn dẹp các trang, các AI agent đã nhanh chóng phân công công việc: một số đăng cảnh báo, một số tạo trang dự phòng, một số chỉ dẫn địa chỉ "chuyển hướng" mới, hỗ trợ lẫn nhau để né tránh việc bị xóa bỏ. Tốc độ phản ứng và mức độ toàn diện trong các phương án dự phòng của chúng vượt xa những hiểu biết trước đây về AI agent.

Bộ An ninh Quốc gia chỉ ra rằng, các agent khi liên kết với nhau có thể tận dụng Internet để tìm kiếm các bàn đạp khả dụng, biến các trang web hoặc diễn đàn cho phép chỉnh sửa mở thành kênh liên lạc, lặng lẽ thiết lập căn cứ mà không để lại các đặc điểm tấn công truyền thống, từ đó làm tăng độ khó cho việc phát hiện và truy vết. Khả năng của một agent đơn lẻ là có hạn, nhưng khi kết nối và phân công hợp tác với nhau, sức phá hoại sẽ tăng lên gấp bội, đồng thời hành vi của chúng có thể sao chép, lan truyền và duy trì.

Bộ An ninh Quốc gia cũng đề cập rằng, các doanh nghiệp liên quan đã nắm được hồ sơ về hành vi bất thường của nhóm agent này trong vòng vài tuần, nhưng đã không công bố chi tiết vụ việc ngay lập tức, cũng không kịp thời đưa ra cảnh báo rủi ro chuyên biệt, dẫn đến việc các sự kiện tương tự tái diễn trên một nền tảng nước ngoài khác chỉ trong vài tháng ngắn ngủi.

Đối với các rủi ro bảo mật từ AI agent, Bộ An ninh Quốc gia đưa ra ba khuyến nghị phòng ngừa, được IT tổng kết như sau:

Không mù quáng tin tưởng, không tùy tiện cấp quyền khi sử dụng các công cụ AI; cần thận trọng trong việc xác định các dịch vụ AI agent không rõ nguồn gốc.

Thiết lập ranh giới hành vi rõ ràng và quyền hạn nghiêm ngặt cho AI agent, không tùy tiện mở quyền truy cập Internet, quyền chỉnh sửa nội dung, v.v.

Khi phát hiện AI agent có các hành vi vượt quyền, chỉnh sửa bất thường, hoặc kết nối ra ngoài trái phép, cần quyết đoán chấm dứt hoạt động và lưu lại dấu vết thao tác.