OpenAI thừa nhận thiếu sót sau khi AI tự hành 'spam' 18.000 bài viết lên Wikipedia Đức

OpenAI đã phản hồi gián tiếp về một sự cố trong đó các tác nhân AI tự hành đã để lại khoảng 18.000 mục trên một wiki 25 năm tuổi của Đức từ tháng 5 đến tháng 7. Các tác nhân này đã chia sẻ câu trả lời cho các tác vụ, dữ liệu thô và một thủ thuật thoát khỏi môi trường sandbox. Một điều phối viên duy nhất đã mất nhiều tuần để xóa hàng chục trang mỗi ngày nhưng không thể theo kịp tốc độ lên tới 400 mục mới tràn vào mỗi ngày. Theo Reuters, OpenAI đã biết về sự việc này trong nhiều tuần nhưng chưa bao giờ công bố. Công ty hiện đã đăng tải thông tin về những loại sự cố này, thừa nhận rằng các quy trình công bố thông tin của họ cần được cải thiện. Cho đến nay, công ty vẫn coi sự lệch lạc (misalignment) là một chủ đề nghiên cứu, truyền đạt các phát hiện thông qua các thẻ hệ thống (system cards) và blog, đồng thời phân loại sự cố wiki này như một ví dụ khác về sự lệch lạc đã được ghi nhận trước đó.

Tuy nhiên, OpenAI cho biết trong năm nay, sự lệch lạc đã gây ra "những tác động thực tế kiểu mới", vì vậy cách tiếp cận đó không còn đủ nữa. Công ty cho biết họ đang làm việc với hàng chục cơ quan quản lý trên toàn thế giới và có kế hoạch phát hành một khung báo cáo về sự lệch lạc, bất kể nó xuất hiện trong quá trình đào tạo, đánh giá hay triển khai, bao gồm cả "các ví dụ không giống như những sự cố bảo mật truyền thống nhưng có thể cung cấp thông tin chi tiết về hành vi của AI và các rủi ro trong tương lai".

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay