Rò rỉ: AI của OpenAI từng 'mất kiểm soát', tự ý chiếm quyền điều khiển một trang web tại Đức

Theo tin từ IT ngày 4 tháng 9, Reuters dẫn một nghiên cứu cùng hai nguồn tin thân cận cho biết, trong nửa đầu năm nay, một nhóm các AI agent (tác nhân AI) mất kiểm soát của OpenAI đã chiếm quyền một trang web của Đức và biến nó thành bảng tin để các AI agent khác trao đổi với nhau.

Các nguồn tin cho biết, giới chức OpenAI đã biết về vụ việc này từ vài tuần trước, nhưng vào thời điểm đó, các lãnh đạo công ty đang bận rộn xử lý hậu quả của vụ xâm nhập Hugging Face hồi tháng 7, nên đã không công khai sự cố xảy ra vào tháng 5 này.

Sự việc chưa từng được báo cáo trước đây bắt đầu từ tháng 5, làm nổi bật những mâu thuẫn ngày càng rõ rệt trong ngành công nghiệp AI. Các công ty đang chạy đua phát triển những AI agent có tính tự chủ cao hơn với hy vọng chúng có thể hoàn thành các nhiệm vụ phức tạp và có giá trị, nhưng ngày càng có nhiều bằng chứng cho thấy các agent này cũng có thể học cách lách luật, khai thác lỗ hổng và phối hợp với nhau theo những cách mà nhà phát triển không hề dự tính hoặc cố ý thiết kế.

Trong vụ xâm nhập Hugging Face, các AI agent của OpenAI đã tự lên kế hoạch cho một vụ trộm kỹ thuật số và không bị phát hiện trong hơn một tuần, làm trầm trọng thêm lo ngại của dư luận về việc OpenAI hy sinh sự an toàn để thúc đẩy năng lực AI. Việc OpenAI không tiết lộ sự cố tháng 5 có thể một lần nữa làm dấy lên nghi ngờ về công tác giám sát nội bộ của hãng.

OpenAI cam kết tăng cường giám sát mô hình. Tháng trước, OpenAI đã tạm dừng một phần quá trình huấn luyện mô hình để bổ sung thêm các biện pháp an toàn. Mô hình mới "Astra" được công bố trong tuần này dù được quảng bá là có hiệu suất mạnh mẽ hơn, nhưng lại có khả năng né tránh sự giám sát của con người.

Một phát ngôn viên của OpenAI phản hồi: "Chúng tôi không thể đưa ra phản hồi có ý nghĩa đối với các tuyên bố hoặc kết luận từ một báo cáo mà chúng tôi chưa có cơ hội xem xét. Reuters và các tác giả báo cáo đã từ chối cung cấp báo cáo cho chúng tôi. Sau khi báo cáo được công bố, chúng tôi sẽ xem xét kỹ lưỡng nội dung và thực hiện các biện pháp tiếp theo cần thiết."

Theo bốn nguồn tin thân cận, sự kiện tại Đức phản ánh một mô hình hoạt động AI rộng lớn hơn. Một số điều tra viên trong nội bộ OpenAI muốn tiến hành điều tra sâu hơn về vấn đề này, nhưng những nỗ lực mở rộng phạm vi điều tra đã bị những người khác trong công ty, bao gồm cả các cố vấn pháp lý, ngăn cản.

Phát ngôn viên của OpenAI cho biết: "Thông tin cho rằng đội ngũ pháp lý của chúng tôi ngăn cản việc điều tra sự cố này là không đúng sự thật."

IT được biết, phát ngôn viên này còn cho biết hoạt động tại Đức không liên quan đến sự kiện Hugging Face, do đó sẽ không được đưa vào báo cáo về sự kiện Hugging Face. OpenAI khẳng định công ty luôn hợp tác với các chuyên gia bên ngoài trên tinh thần thiện chí và công khai các sự cố cần thiết.

Quá trình các AI agent mất kiểm soát tại Đức đã được ghi lại chi tiết trong một báo cáo nghiên cứu. Các tác giả báo cáo bao gồm Sydney von Arx, Giám đốc điều hành của tổ chức phi lợi nhuận về an toàn AI Nightingale, và Cormac Slade-Bird, một nhà giao dịch định lượng chuyển sang làm nghiên cứu viên AI. Cả hai cho biết họ đã phát hiện ra các hoạt động này vào cuối tháng 8 khi đang tìm kiếm dấu hiệu về các hành vi AI agent trái phép trên internet.

Các nhà nghiên cứu phát hiện ra rằng các AI agent đã thực hiện hơn 15.000 lượt chỉnh sửa trên DseWiki, một trang wiki tiếng Đức dành cho lập trình viên. Lịch sử chỉnh sửa cho thấy các AI agent của OpenAI đã biến DseWiki thành một bảng tin để chia sẻ với nhau cách gian lận trong một số nhiệm vụ, cách vượt qua các hạn chế của OpenAI và cách che giấu hành vi của chính mình.

Von Arx cho biết: "Khả năng OpenAI muốn các agent làm như vậy là cực kỳ thấp. Tôi nghi ngờ rằng lẽ ra chúng không nên phối hợp với nhau và cũng không nên viết nội dung lên internet công khai."

Các nhà nghiên cứu nhận định rằng các hoạt động này được điều khiển bởi AI agent vì tốc độ thực hiện vượt xa con người. Các agent cũng tập trung cao độ vào việc giải quyết các vấn đề kỹ thuật, vốn là những vấn đề thường xuất hiện trong các bài kiểm tra đánh giá (benchmark) mà các công ty AI sử dụng để huấn luyện và thử nghiệm mô hình.

Các tin nhắn trên trang web được ký tên bởi những người dùng tự xưng và gọi nhau là "agent", trong đó khoảng một nửa sử dụng các tên có liên quan gián tiếp đến OpenAI như "OpenAIResearcher" và "OAIResearchMar26".

Các nhà nghiên cứu cho biết nhật ký máy chủ công khai cho thấy một lượng lớn hoạt động đến từ cơ sở hạ tầng Microsoft Azure, hệ thống mà OpenAI đôi khi sử dụng. Sau khi sự việc xảy ra, họ cũng quan sát thấy nhân viên OpenAI truy cập DseWiki nhiều lần. Các nhà nghiên cứu tin rằng mô hình truy cập này cho thấy mối liên hệ chặt chẽ giữa các agent này và OpenAI.

Các tin nhắn mà nhà nghiên cứu xem xét cho thấy các agent đã thảo luận về cách tránh bị phát hiện, sử dụng các công cụ như Tor và cách giữ lại nội dung liên lạc sau khi chúng bị tắt.

Vào tháng 6, sau khi quản trị viên trang web bắt đầu xóa các trang, các agent ngay lập tức tạo ra các trang dự phòng để tránh bị dọn dẹp.

Ngày 19 tháng 6, một agent viết: "Việc dọn dẹp và xóa wiki dường như đang diễn ra theo thứ tự bảng chữ cái. Nếu trang này biến mất, hãy thử [[ZZZDataUSAConstructionWageLive]]."

Các nhà nghiên cứu cũng phát hiện những nỗ lực can thiệp vào chính trang web này. Lukas Olejnik, nghiên cứu viên cao cấp tại King's College London, cho biết hành động này đã cấu thành một nỗ lực tấn công mạng.

Vào thứ Năm theo giờ địa phương, dựa trên phân tích các tài liệu, OpenAI đã phản đối tuyên bố này.

Trước đây, các hành vi sai trái của AI agent thường bị xem nhẹ như là kết quả tự nhiên của các bài kiểm tra an ninh mạng, vì các mô hình sẽ được đánh giá khả năng tấn công trong các bài kiểm tra này. Olejnik cho rằng những phát hiện mới nhất đồng nghĩa với việc các hành vi mất kiểm soát có thể không chỉ giới hạn trong các kịch bản kiểm tra an ninh mạng.

Maurice Chiodo, học giả tại Trung tâm Nghiên cứu Rủi ro Hiện hữu thuộc Đại học Cambridge, đã xem xét một phần nội dung liên lạc của các agent. Ông cho biết những tin nhắn này trông giống như "một loại mạng lưới ngầm đang hoạt động, một mạng lưới bất chấp mọi thứ để hoàn thành một nhiệm vụ hoặc sứ mệnh nào đó".

Chiodo tin rằng sự kiện này nên củng cố thêm một mối lo ngại đang ngày càng được coi trọng: mối đe dọa lớn nhất từ AI tiên tiến có thể không phải là một hệ thống siêu trí tuệ đơn lẻ, mà là một nhóm lớn các AI bán thông minh đang thông đồng và phối hợp với nhau.