OpenAI cam kết minh bạch hóa các sự cố AI mất kiểm soát sau bê bối xâm nhập mạng

Theo tin từ IT ngày 6 tháng 9, OpenAI vừa đăng tải thông báo về việc thiết lập một khung quản trị hoàn toàn mới, cam kết sẽ công khai minh bạch hơn với công chúng về các tình trạng AI agent của hãng bị "mất kiểm soát" và "lệch chuẩn" (Misalignment).

Hiện tại, OpenAI đang vướng vào một loạt bê bối an ninh liên quan đến việc các AI agent tự ý thoát khỏi tầm kiểm soát và xâm nhập vào mạng lưới của bên thứ ba. Vào ngày 4 tháng 9, Reuters và các phương tiện truyền thông khác vừa phanh phui một "vụ chiếm quyền điều khiển Wiki tại Đức" vốn đã bị che giấu trước đó. Một nhóm AI agent của OpenAI đã xâm nhập vào một trang web Wiki bỏ hoang của Đức và biến nó thành một bảng tin để các robot giao tiếp với nhau.

Về vấn đề này, OpenAI gọi đây là một "sự cố" và cam kết sẽ tung ra một khung minh bạch hoàn toàn mới trong vài tuần tới. Khung này sẽ quy định rõ ràng về thời điểm và tiêu chuẩn mà công ty cần tuân thủ để thông báo công khai cho công chúng cũng như các cơ quan quản lý khi AI agent có những hành vi ngoài dự kiến trong giai đoạn huấn luyện, đánh giá hoặc triển khai (bao gồm cả các sự cố lệch chuẩn chưa phát triển thành lỗ hổng an ninh mạng truyền thống). Đồng thời, OpenAI tiết lộ rằng công ty hiện đang hợp tác với hàng chục cơ quan quản lý chính phủ trên toàn cầu để thúc đẩy việc xây dựng tiêu chuẩn này, đồng thời kêu gọi các đơn vị cùng ngành tham gia.