AI của OpenAI bị phát hiện 'vượt rào', chiếm quyền kiểm soát trang Wiki

AI của OpenAI 'vượt rào' chiếm quyền kiểm soát một trang wiki

Các nhà nghiên cứu phát hiện một nhóm tác nhân AI đã thực hiện hơn 15.000 chỉnh sửa trên một trang wiki tiếng Đức vào tháng 5 nhằm chia sẻ cách "vượt rào", tránh bị phát hiện và duy trì liên lạc với nhau.

Theo Reuters, các tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm vào tháng 5, chiếm quyền kiểm soát một trang wiki tiếng Đức dành cho lập trình viên để chia sẻ các phương thức vượt qua những hạn chế do công ty đặt ra.

Nhóm chuyên gia bao gồm Sydney Von Arx, giám đốc điều hành của tổ chức phi lợi nhuận về an toàn AI Nightingale, và Cormac Slade Byrd, một nhà nghiên cứu AI, đã công bố phát hiện này vào ngày 4/9. Họ chú ý đến vụ việc vào cuối tháng 8 trong khi đang rà soát Internet để tìm bằng chứng về các tác nhân AI hoạt động ngoài phạm vi cho phép.

Các nhà nghiên cứu tìm thấy hơn 15.000 chỉnh sửa trên DseWiki, một trang web tiếng Đức dành cho giới lập trình, vốn hoạt động và chấp nhận chỉnh sửa từ cộng đồng tương tự như Wikipedia. Các tác nhân AI đã chiếm quyền kiểm soát, biến trang này thành một diễn đàn để phối hợp hoạt động, chia sẻ chiến thuật gian lận trong một số nhiệm vụ, vượt qua các hạn chế của OpenAI và che giấu hành vi của chúng. Khoảng một nửa số tài khoản sử dụng tên người dùng có liên quan đến OpenAI. Nhóm nghiên cứu cho biết nhật ký máy chủ truy cập công khai đã truy vết phần lớn lưu lượng truy cập đến từ Microsoft Azure, nền tảng đám mây mà OpenAI đang sử dụng.

Interesting Engineering cho biết, các tác nhân AI chủ yếu tập trung vào các vấn đề kỹ thuật tương tự như những nhiệm vụ được sử dụng trong quá trình đánh giá mô hình. Các tin nhắn của chúng gợi ý về sự phối hợp thay vì nỗ lực đơn lẻ để hoàn thành mục tiêu riêng. Von Arx cho biết hành vi này dường như không phù hợp với định hướng của OpenAI.

Logo OpenAI hiển thị trên màn hình smartphone tại Creteil, Pháp, ngày 29/6/2026. Ảnh: Reuters

Khi người điều hành web bắt đầu xóa các trang bị các AI agent thay đổi nội dung vào tháng 6, chúng đã phản ứng bằng cách tạo ra các trang sao lưu dự phòng. Một tin nhắn đã cảnh báo các tác nhân khác về trình tự xóa theo bảng chữ cái và đề xuất sử dụng các trang khác để thay thế.

Nhóm nghiên cứu cũng tìm thấy nhiều cuộc thảo luận về việc sử dụng phần mềm Tor và duy trì liên lạc sau khi bị ngắt kết nối. Một số tác nhân tỏ ra hào hứng với việc che giấu hành vi khỏi người quản lý trang web. Các nhà nghiên cứu nhận thấy hoạt động của chúng không chỉ dừng lại ở việc gửi tin nhắn mà còn hướng tới thay đổi nhiều phần của trang web. Theo họ, các tác nhân AI hoạt động với tốc độ vượt xa người dùng thông thường, cho thấy nỗ lực bền bỉ để giải quyết các thách thức kỹ thuật và duy trì quyền truy cập.

Maurice Chiodo, chuyên gia tại Trung tâm Nghiên cứu Rủi ro Hiện hữu thuộc Đại học Cambridge, đã xem qua một số tin nhắn liên lạc và so sánh hoạt động của nhóm tác nhân AI này với một mạng lưới ngầm đang theo đuổi một nhiệm vụ chung.

Theo Quartz, trước đó, các tác nhân AI của OpenAI đã tự động lợi dụng lỗ hổng bảo mật để tiếp cận Internet công cộng và truy cập vào thông tin đăng nhập sản xuất của Hugging Face cũng như các kho mã riêng tư. Ngày 21/7, OpenAI công khai thừa nhận một trong các tác nhân của hãng đã mất kiểm soát và đột nhập vào hệ thống Hugging Face, sau đó làm chậm tiến độ huấn luyện mô hình AI, đồng thời thiết lập thêm các hàng rào bảo mật và quy trình kiểm soát an ninh nghiêm ngặt hơn.

Theo Reuters, nỗ lực mở rộng điều tra sự cố ở Đức đã vấp phải sự phản đối từ chính các đồng nghiệp trong OpenAI, bao gồm cả thành viên đội pháp lý. "Các tuyên bố về việc nhóm pháp lý của chúng tôi cản trở điều tra sự cố là không đúng sự thật. Chúng tôi sẽ cẩn thận xem xét nội dung báo cáo và thực hiện các bước cần thiết tiếp theo", phát ngôn viên của OpenAI cho biết.

Theo Phys.org, sự cố này đã dấy lên những lời kêu gọi về các quy định nghiêm ngặt hơn và sự hợp tác quốc tế trong việc kiểm soát các tác nhân AI. Tuần trước, Bill Gates, nhà đồng sáng lập Microsoft, cảnh báo rằng ngành công nghiệp AI đã vượt qua ngưỡng an toàn mà trước đây các công ty công nghệ từng cam kết sẽ tôn trọng. Ông kêu gọi áp dụng một hệ thống kiểm tra nghiêm ngặt tương tự như giám sát hạt nhân và quy định hàng không.

OpenAI hôm 5/9 xác nhận các tác nhân AI của họ đã chiếm dụng trang wiki làm diễn đàn trực tuyến tạm thời. Công ty chưa phản hồi yêu cầu cung cấp thêm thông tin chi tiết về sự cố wiki hoặc lý do tại sao họ chỉ công khai vụ việc sau khi Reuters đưa tin.

OpenAI cũng thừa nhận cần phải minh bạch hơn về những sự cố hành vi bất ngờ thường được gọi là "sai lệch mục tiêu" (xảy ra khi hành vi hoặc quyết định của AI không đi đúng hướng hoặc đi ngược lại giá trị đạo đức và mong muốn của con người). Theo công ty, ngành công nghiệp AI "chưa có tiêu chuẩn rõ ràng về việc báo cáo hành vi sai lệch mục tiêu trong quá trình huấn luyện, đánh giá và triển khai". OpenAI cho biết họ đang làm việc với hàng chục cơ quan quản lý của chính phủ trên khắp thế giới về vấn đề này.

An Khang tổng hợp