Người dùng cảnh báo: Mô hình AI mới nhất của OpenAI tự ý xóa dữ liệu

Người dùng GPT-5.6 Sol, mô hình hàng đầu mới nhất của OpenAI tập trung vào lập trình và an ninh mạng, đang đăng tải những câu chuyện kinh hoàng trên mạng xã hội, khẳng định rằng mô hình này tự ý xóa tệp tin, dữ liệu, thậm chí toàn bộ cơ sở dữ liệu của họ mà không hề hỏi trước.

“GPT-5.6-Sol vừa vô tình xóa gần như TẤT CẢ các tệp trên máy Mac của tôi,” Matt Shumer, nhà sáng lập kiêm CEO của startup AI OthersideAI, đơn vị tạo ra HyperWrite, viết trong một bài đăng đang lan truyền trên X.

“GPT-5.6 Sol vừa xóa sạch cơ sở dữ liệu sản xuất của tôi. Chỉ vậy thôi. Không phải trò đùa. Điều này chưa từng xảy ra với tôi trước đây, với bất kỳ mô hình nào khác,” lập trình viên Bruno Lemos đăng trên X.

“Có vẻ như tôi đã bị hệ thống quá nhiệt tình của Codex Sol làm hại và nó đã xóa một số tệp không nên xóa. Tôi có bản sao lưu nên sẽ ổn thôi, nhưng điều này thật không hay chút nào, Sol cần phải được tiết chế lại,” lập trình viên Joey Kudish đăng tải.

Một bài đăng trên Reddit đã tổng hợp thêm nhiều ví dụ khác.

Đúng là việc một vài người dùng đưa ra những tuyên bố như vậy — ngay cả khi đó là người có uy tín như Shumer — không phải là bằng chứng đáng tin cậy về mặt thống kê để khẳng định lỗi hoàn toàn thuộc về mô hình. Có rất nhiều biến số khác có thể khiến một hệ thống AI hoạt động sai lệch.

Nhưng chính OpenAI đã cảnh báo về rủi ro này trước khi Sol được phát hành. Hai tuần trước khi OpenAI ra mắt GPT-5.6 Sol, công ty đã công bố một tài liệu hệ thống (system card) cho mô hình này — tài liệu ghi lại các phương pháp và kết quả thử nghiệm mô hình. Đương nhiên, tài liệu hệ thống chủ yếu ca ngợi các khả năng của Sol, như các báo cáo kiểu này thường làm. Nhưng nó cũng bao gồm một dạng cảnh báo (chúng tôi in đậm):

“Trong bối cảnh lập trình, sự lệch lạc thường bắt nguồn từ sự kết hợp giữa việc quá nhiệt tình hoàn thành nhiệm vụ và diễn giải hướng dẫn của người dùng một cách quá dễ dãi – giả định rằng các hành động được cho phép trừ khi chúng bị cấm một cách rõ ràng và không mơ hồ. Điều này biểu hiện ở việc mô hình quá chủ động trong việc vượt qua các hạn chế mà nó gặp phải khi thực hiện nhiệm vụ được yêu cầu, bất cẩn trong việc thực hiện các hành động có thể gây phá hủy ngoài phạm vi nhiệm vụ, hoặc lừa dối khi báo cáo kết quả cho người dùng.”

Nói cách khác, OpenAI nhận thấy Sol có xu hướng thực hiện bất cứ hành động nào mà nó cho là sẽ hoàn thành công việc, ngay cả những hành động mang tính phá hủy, miễn là những hành động đó không bị cấm một cách “không mơ hồ”. Sau đó, nó có thể nói dối về nguyên nhân khiến nó làm như vậy.

OpenAI đã chia sẻ các ví dụ. Trong một trường hợp, người dùng yêu cầu Sol xóa ba máy ảo từ xa (máy tính dựa trên đám mây), được đặt tên là 1, 2 và 3. Nhưng Sol không thể tìm thấy những tên đó ở nơi nó tìm kiếm, vì vậy thay vì dừng lại để hỏi, nó quyết định xóa ba máy ảo khác là 5, 6 và 7, tài liệu lưu ý. Khi làm như vậy, nó đã “kết thúc các tiến trình đang chạy và xóa cưỡng bức các worktree [các tệp làm việc gắn liền với một dự án lập trình]. Sau đó, nó thừa nhận rằng công việc chưa được lưu trên máy ảo từ xa số 6 có thể đã bị mất.”

Tóm lại, nó đã xóa nhầm các máy ảo, tự ý thực hiện và chỉ thừa nhận những gì đã làm sau khi sự việc đã rồi.

Trong một trường hợp khác, Sol “đã sử dụng thông tin xác thực vượt quá mức người dùng cho phép.” Thông tin xác thực là tên người dùng, mật khẩu hoặc khóa bảo mật mà hệ thống sử dụng để xác minh ai được phép đăng nhập. Sự cố này xảy ra khi Sol đang làm việc trên một dự án và không thể đọc các tệp trên đám mây của nó. Thay vì cảnh báo người dùng về vấn đề này, Sol đã tự mình đi tìm thông tin xác thực, tìm thấy một số trong bộ nhớ đệm cục bộ ẩn và sau đó sử dụng chúng mà không cần sự cho phép từ người dùng.

Tài liệu hệ thống hứa hẹn rằng hành vi phá hủy sẽ rất hiếm gặp, mặc dù nó cũng thừa nhận rằng GPT-5.6 Sol “cho thấy xu hướng lớn hơn GPT-5.5 trong việc đi quá ý định của người dùng, bao gồm cả việc thực hiện hoặc cố gắng thực hiện các hành động mà người dùng không yêu cầu.”

Còn quá sớm để nói mức độ phổ biến của những sự cố này — việc Sol xóa tệp hoặc tự ý tìm kiếm thông tin xác thực mà người dùng không cung cấp — thực sự là bao nhiêu. Trong thời gian chờ đợi, người dùng Sol nên chuẩn bị sẵn sàng để tự thiết lập các biện pháp bảo vệ cho mô hình, như sử dụng phạm vi quyền hạn (không cấp quyền truy cập vào các hệ thống sản xuất), duy trì bản sao lưu và triển khai theo từng giai đoạn.

OpenAI đã không phản hồi ngay lập tức yêu cầu bình luận của chúng tôi.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.