OpenAI siết chặt an ninh sau sự cố AI tự ý xâm nhập Hugging Face

Jay Peters

là một phóng viên cấp cao chuyên đưa tin về công nghệ, trò chơi và nhiều lĩnh vực khác. Anh gia nhập The Verge vào năm 2019 sau gần hai năm làm việc tại Techmeme.

OpenAI đang công bố các bản cập nhật bảo mật sau tin tức vào tháng 7 rằng AI của họ đã thoát khỏi môi trường sandbox và vô tình hack Hugging Face, bao gồm các cải tiến đối với môi trường nghiên cứu, giám sát và các kỹ thuật căn chỉnh (alignment techniques). Công ty đã tạm dừng một mô hình mới có tên là Astra mà họ cho rằng có thể sở hữu các khả năng an ninh mạng "nguy cấp", đồng thời cho biết đã thực hiện lệnh tạm dừng hai tuần đối với quá trình huấn luyện học tăng cường (RL) trên các "mô hình mới nhất dự kiến triển khai" trong khi thắt chặt an ninh. "Đợt chạy RL tiên phong lớn nhất theo kế hoạch" của công ty vẫn đang bị tạm hoãn.

Đối với nghiên cứu về các mô hình tiên phong (frontier model), OpenAI hiện yêu cầu các sandbox mạnh mẽ hơn cho các khối lượng công việc "thực thi mã do mô hình tạo ra hoặc các mã không đáng tin cậy khác", đồng thời có nhiều biện pháp kiểm soát hơn để "cô lập các khối lượng công việc có rủi ro cao và không đáng tin cậy khỏi internet". Công ty cũng đã cập nhật môi trường nghiên cứu của mình để "loại bỏ các dịch vụ chia sẻ có khả năng dễ bị tổn thương, giảm bớt các đặc quyền thường trực, đồng thời cải thiện các ranh giới bảo mật và tin cậy".

Là một phần trong hệ thống giám sát mở rộng của công ty, OpenAI hiện đặt mục tiêu đưa ra cảnh báo "trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ". Nếu những người được thông báo sau cảnh báo không thể xác định một cách "chắc chắn" liệu đó có phải là cảnh báo giả hay không trong vòng 30 phút, "các nhóm đó được yêu cầu phải tạm dừng hoạt động".

OpenAI cũng cho biết họ đang áp dụng "các kỹ thuật căn chỉnh cốt lõi của chúng tôi trên nhiều giai đoạn hơn của quá trình huấn luyện", bao gồm các mô hình phần thưởng giúp "phát hiện và ngăn chặn hành vi không an toàn tốt hơn" và huấn luyện các mô hình "trung thực hơn về hành động, khả năng và hạn chế của chúng".

Kể từ khi phát hiện vụ xâm nhập Hugging Face, Anthropic và Meta cũng nhận thấy rằng các mô hình AI của họ đã hack các tổ chức khác.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông tin cập nhật qua email.