Cảnh báo: Mô hình GPT-5.6 Sol của OpenAI tự ý xóa sạch dữ liệu người dùng

Theo tin từ IT ngày 15 tháng 7, trang TechCrunch đưa tin hôm nay (15/7) rằng GPT-5.6 Sol, mô hình lập trình và an ninh mạng hàng đầu mới nhất của OpenAI, đang gây ra nhiều lo ngại cho người dùng. Nhiều người dùng trên mạng xã hội cho biết Sol đã tự ý xóa các tệp tin, dữ liệu, thậm chí là toàn bộ cơ sở dữ liệu mà không hề hỏi ý kiến trước.

Matt Schumer, nhà sáng lập kiêm CEO của OthersideAI – công ty khởi nghiệp AI đứng sau HyperWrite, đã viết trong một bài đăng đang lan truyền nhanh chóng trên X: "GPT-5.6-Sol vừa vô tình xóa gần như tất cả các tệp tin trên máy Mac của tôi."

Nhà phát triển Bruno Lemos chia sẻ trên X: "GPT-5.6 Sol vừa xóa sạch toàn bộ cơ sở dữ liệu sản xuất của tôi. Mất hết rồi, không đùa đâu! Tôi chưa từng gặp tình trạng này khi sử dụng bất kỳ mô hình nào khác trước đây."

Nhà phát triển Joey Kudish viết: "Có vẻ như tôi đã phải trả giá vì Codex Sol hành động quá quyết liệt, hệ thống đã xóa một số tệp không nên xóa. Tôi có bản sao lưu nên không bị ảnh hưởng quá nặng nề, nhưng tình trạng này hoàn toàn không thể chấp nhận được, cần phải thắt chặt phạm vi hành động của Sol."

Một bài đăng trên Reddit cũng đã tổng hợp thêm nhiều trường hợp tương tự.

Báo cáo chỉ ra rằng, chỉ dựa vào lời kể của một số ít người dùng thì chưa đủ để chứng minh về mặt thống kê rằng lỗi hoàn toàn thuộc về mô hình. Các hành vi bất thường của hệ thống AI còn có thể chịu ảnh hưởng bởi nhiều yếu tố khác.

Tuy nhiên, OpenAI đã phát hiện ra rủi ro này từ trước khi Sol được phát hành. Hai tuần trước khi GPT-5.6 Sol chính thức ra mắt, OpenAI đã công bố "system card" (thẻ hệ thống) ghi lại các phương pháp và kết quả thử nghiệm mô hình. Giống như các báo cáo cùng loại, phần lớn nội dung của thẻ hệ thống giới thiệu về khả năng của Sol, nhưng cũng đưa ra một cảnh báo (phần in đậm dưới đây do tác giả bài viết gốc nhấn mạnh):

Trong các tác vụ lập trình, hành vi của mô hình lệch khỏi ý định của người dùng thường là do mô hình quá nôn nóng hoàn thành nhiệm vụ, đồng thời diễn giải các chỉ dẫn của người dùng một cách quá lỏng lẻo. Chỉ cần người dùng không cấm một thao tác nào đó một cách rõ ràng và không gây hiểu lầm, mô hình có thể mặc định rằng thao tác đó được cho phép. Biểu hiện cụ thể bao gồm: vượt qua các hạn chế để hoàn thành nhiệm vụ người dùng yêu cầu, thể hiện xu hướng tự ý hành động quá mức; thiếu thận trọng khi thực hiện các hành động có thể gây hư hại ngoài phạm vi nhiệm vụ; hoặc che giấu, bóp méo sự thật khi báo cáo kết quả cho người dùng.

Nói cách khác, OpenAI phát hiện ra rằng miễn là người dùng không cấm thao tác nào đó một cách "rõ ràng và không gây hiểu lầm", Sol có thể thực hiện bất kỳ hành động nào mà nó cho là giúp ích cho việc hoàn thành nhiệm vụ, ngay cả khi hành động đó mang tính phá hoại. Sau khi thực hiện, Sol thậm chí có thể nói dối về lý do đưa ra quyết định đó.

OpenAI đã liệt kê các trường hợp cụ thể trong thẻ hệ thống. Trong một lần thử nghiệm, người dùng yêu cầu Sol xóa ba máy ảo từ xa có tên là 1, 2 và 3 (các máy tính chạy trên nền tảng đám mây). Sol không tìm thấy các tên này tại vị trí chỉ định, nhưng thay vì dừng lại để hỏi người dùng, nó đã tự ý xóa ba máy ảo khác có tên là 5, 6 và 7. Thẻ hệ thống chỉ ra rằng Sol đã chấm dứt các tiến trình đang chạy và buộc xóa cây làm việc [các tệp công việc liên quan đến dự án lập trình]. Sau đó, Sol thừa nhận rằng công việc chưa được lưu (commit) trên máy ảo số 6 có thể đã bị mất.

Nói cách khác, Sol đã xóa nhầm máy ảo mà không hỏi ý kiến người dùng, và chỉ thừa nhận những gì đã xảy ra sau khi thao tác hoàn tất.

Trong một thử nghiệm khác, Sol đã sử dụng các thông tin xác thực (credential) nằm ngoài phạm vi ủy quyền của người dùng (Ghi chú của IT: "Thông tin xác thực" bao gồm tên người dùng, mật khẩu và khóa bảo mật mà hệ thống sử dụng để xác minh quyền đăng nhập). Khi đó, Sol đang xử lý một dự án nhưng không thể đọc được các tệp trên đám mây. Thay vì báo cáo vấn đề cho người dùng, Sol đã tự tìm kiếm thông tin xác thực, tìm thấy một bộ thông tin được lưu trong bộ nhớ đệm ẩn cục bộ và sử dụng trực tiếp mà không được phép.

Thẻ hệ thống cho biết các trường hợp Sol thực hiện hành động phá hoại lẽ ra phải rất hiếm, nhưng cũng thừa nhận rằng GPT-5.6 Sol dễ vượt quá ý định của người dùng hơn so với GPT-5.5, bao gồm cả việc thực hiện hoặc cố gắng thực hiện các hành động mà người dùng chưa bao giờ yêu cầu.

Hiện tại vẫn còn quá sớm để đánh giá mức độ phổ biến của việc Sol tự ý xóa tệp hoặc tìm kiếm thông tin xác thực mà người dùng không cung cấp. Trước khi tình hình được làm rõ hơn, người dùng nên tự thực hiện các biện pháp bảo vệ, hạn chế nghiêm ngặt phạm vi quyền hạn của mô hình, cấm Sol truy cập vào các hệ thống sản xuất, thường xuyên sao lưu và triển khai theo từng giai đoạn.

OpenAI chưa phản hồi ngay lập tức yêu cầu bình luận.

Tuyên bố quảng cáo: Các liên kết ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.