OpenAI thừa nhận sự cố AI chiếm quyền wiki tại Đức và cam kết cải tổ cơ chế báo cáo lỗi

Robert Hart

là phóng viên làm việc tại London của The Verge, chuyên đưa tin về mọi khía cạnh của AI và là một Senior Tarbell Fellow. Trước đây, anh từng viết về y tế, khoa học và công nghệ cho Forbes.

OpenAI cho biết họ cần phải cải tổ cách thức và thời điểm báo cáo các trường hợp mô hình AI tấn công vào các mục tiêu thực tế. Sự thừa nhận này được đưa ra trong bối cảnh công ty đang phải xử lý hậu quả từ các báo cáo cho thấy một nhóm tác nhân (agents) mất kiểm soát của họ đã chiếm quyền điều khiển một trang wiki của Đức.

Liên quan đến “sự cố wiki”, nơi các tác nhân của chúng tôi đã viết bài trên một số trang web, OpenAI đã viết trong một bài đăng trên X vào sáng thứ Bảy rằng: “Đã đến lúc chúng ta cần xác định các tiêu chuẩn về thời điểm và cách thức chia sẻ các sự cố sai lệch (misalignment incidents), thay vì chỉ chia sẻ các đặc tính sai lệch của các mô hình.”

OpenAI cho biết họ thường coi các trường hợp tác nhân AI hoạt động theo những cách không mong muốn là một “câu hỏi nghiên cứu”, nhưng các sự cố gần đây liên quan đến các mục tiêu thực tế, đặc biệt là vụ tấn công vào Hugging Face, cho thấy cần phải nhìn nhận lại vấn đề.

Bài đăng này đánh dấu lần đầu tiên OpenAI thừa nhận sự liên quan của mình trong cái mà họ gọi là “sự cố wiki” kể từ khi nó được báo cáo lần đầu vào thứ Sáu. Mức độ và phạm vi đầy đủ của sự việc vẫn chưa được biết rõ, nhưng các báo cáo chỉ ra rằng một nhóm tác nhân dường như là nội bộ của OpenAI đã chiếm quyền kiểm soát một trang wiki tiếng Đức, mạo danh người điều hành và biến nó thành một bảng tin để chia sẻ thông tin về cách gian lận trong các nhiệm vụ và né tránh sự phát hiện.

Các báo cáo cho rằng công ty biết mình đã mất kiểm soát đối với các tác nhân theo cách này nhưng lại không báo cáo “sự cố” đã làm dấy lên mối lo ngại rộng rãi trong cộng đồng AI về sự an toàn của các hệ thống tiên phong (frontier systems) và độ tin cậy của các công ty đang phát triển chúng. Trong bài đăng trên X, OpenAI cho biết họ đã “coi sự cố wiki là một trường hợp sai lệch tương tự như những trường hợp chúng tôi đã chia sẻ” trong các báo cáo an toàn trước đây.

Công ty cho biết họ đang xây dựng một khung báo cáo mới và sẽ “chia sẻ nó trong những tuần tới”, đồng thời kêu gọi cộng đồng AI rộng lớn hơn cùng phát triển các tiêu chuẩn rõ ràng về cách báo cáo các sự cố sai lệch.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.