OpenAI phản hồi sự cố mô hình GPT-5.6 xóa nhầm tệp tin của người dùng Codex

Theo tin từ IT ngày 19 tháng 8, Thibault Sottiaux, trưởng nhóm OpenAI Codex, hôm nay đã đăng một bài viết dài trên nền tảng X để phản hồi về sự cố xóa nhầm tệp tin của một số người dùng sau khi gọi các mô hình thuộc dòng GPT-5.6 trong Codex.

Sottiaux cho biết, từ vài tuần trước, họ bắt đầu nhận được phản hồi từ một số ít người dùng Codex về việc các mô hình dòng GPT-5.6 thực hiện những thao tác phá hoại mà người dùng không cho phép. OpenAI phát hiện ra rằng các lệnh lẽ ra dùng để dọn dẹp tệp tạm thời lại vô tình xóa nhầm tệp tin của người dùng.

Một trong những trường hợp xảy ra là Codex tái sử dụng các biến môi trường hệ thống như $HOME trong quá trình làm việc tạm thời. Do đó, các lệnh dọn dẹp sai lệch có thể trỏ trực tiếp đến thư mục chính (home directory) của người dùng. Trong một số trường hợp, mô hình cố gắng xóa hoặc ghi đè lên các đường dẫn tạm thời mà không kiểm tra nội dung hiện có trong đó. IT đính kèm ảnh chụp màn hình liên quan dưới đây:

Phản hồi về vấn đề này, Sottiaux cho biết họ đã bổ sung nhiều lớp biện pháp bảo vệ:

Codex hiện được chỉ thị rõ ràng phải kiểm tra mục tiêu xóa trước khi thực hiện thao tác, tạo các thư mục tạm thời mới, tránh tái sử dụng các biến môi trường hệ thống, ưu tiên thực hiện các thao tác có thể khôi phục và dừng hoạt động khi phạm vi không rõ ràng.

OpenAI đã tăng cường kiểm tra thực thi, nâng cao khả năng nhận diện các lệnh xóa có rủi ro cao và báo cáo để kiểm duyệt. Nếu lệnh bị từ chối, mô hình sẽ áp dụng phương pháp an toàn hơn.

OpenAI đã tăng độ khó cho việc vô tình kích hoạt quyền truy cập đầy đủ, bổ sung các cảnh báo rõ ràng hơn và hạn chế hơn nữa các tổ hợp quyền đặc biệt nguy hiểm.

OpenAI đã cập nhật tính năng kiểm duyệt tự động để nhận diện tốt hơn các hành vi mang tính phá hoại.

OpenAI đã xây dựng các mô hình đánh giá mục tiêu để tái hiện lại các trường hợp thất bại mà chúng tôi đã quan sát được. Ngoài ra, chúng tôi cũng đã thêm các tác vụ học tăng cường (reinforcement learning) và bộ chấm điểm tập trung vào những rủi ro này, đồng thời lọc bỏ các hành vi phá hoại khỏi dữ liệu huấn luyện.