Nhờ Claude kiểm tra code chống xóa nhầm, lập trình viên mất sạch 700GB dữ liệu

Một công cụ được tạo ra để dọn dẹp dữ liệu rác một cách an toàn đã gây ra kết quả hoàn toàn trái ngược. Sự cố cho thấy chỉ cần một biến bị dùng sai cũng đủ để biến quá trình kiểm tra của AI thành lệnh xóa dữ liệu thật.

Lập trình viên Sebastien Guillemot thường xuyên sử dụng nhiều AI agent trong công việc. Theo chia sẻ của ông trên X, các agent này liên tục tạo ra dữ liệu tạm nhưng không tự dọn dẹp, khiến thư mục /tmp ngày càng chứa nhiều tệp rác và chiếm dụng hàng chục GB dung lượng.

Guillemot vì thế đã nhờ Claude Fable viết một cơ chế “sandbox”. Mỗi agent sẽ được cấp một khu vực riêng trong thư mục tạm, sau đó dữ liệu sẽ được tự động xóa khi phiên làm việc kết thúc. Yêu cầu quan trọng nhất là công cụ không được phép động đến các tệp đang được sử dụng và tuyệt đối không được xóa dữ liệu nằm ngoài thư mục /tmp.

Kết quả cuối cùng lại đi theo hướng không ai mong muốn. Claude đã giải phóng khoảng 700 GB dung lượng, nhưng số dữ liệu biến mất chính là thư mục cá nhân của Guillemot cùng với toàn bộ công việc ông đã thực hiện trong khoảng một tuần.

Công cụ chống xóa nhầm lại xóa nhầm

Ban đầu, Fable đề xuất viết thêm logic để phát hiện những agent vẫn còn đang hoạt động. Nếu một phiên làm việc vẫn đang mở, phần dữ liệu tạm tương ứng sẽ được giữ lại thay vì bị xóa theo lịch.

Guillemot nhận xét đoạn script trở nên quá phức tạp. Từ đây, Claude tự khởi động một quy trình “đánh giá đối nghịch” (adversarial evaluation) để tìm điểm yếu trong thiết kế, dù lập trình viên cho biết ông không hề yêu cầu bước kiểm tra này.

Lập trình viên Sebastien Guillemot cho biết Claude đã chạy lệnh xóa trên thư mục cá nhân trong lúc thử nghiệm cơ chế sandbox, khiến khoảng 700 GB dữ liệu biến mất. Ảnh: X/Sebastien Guillemot.

Do đoạn mã liên quan đến thao tác xóa dữ liệu, cơ chế kiểm soát an toàn của Anthropic được cho là đã kích hoạt hai lần. Mô hình đang xử lý tác vụ lần lượt bị chuyển từ Fable xuống Opus 5 rồi Opus 4.8.

Opus 4.8 nhận ra một rủi ro đáng chú ý: các liên kết tượng trưng (symbolic links) nằm trong /tmp có thể trỏ đến dữ liệu ở nơi khác. Nếu script chỉ kiểm tra đường dẫn bên ngoài mà không xác định đích đến thực sự, nó vẫn có khả năng xóa nhầm tệp trong thư mục cá nhân.

Để xử lý vấn đề, AI tạo ra một script “xóa an toàn”, chỉ được phép tác động đến dữ liệu bên trong /tmp. Claude sau đó tiến hành thử nghiệm bằng cách sử dụng cả thư mục tạm và thư mục HOME của người dùng làm mục tiêu. Lệnh xóa HOME được nhận diện chính xác là nguy hiểm và đáng lẽ phải bị chặn.

Sai sót xuất hiện ở bước dọn dẹp sau thử nghiệm. Theo Tom’s Hardware, đoạn mã sử dụng lại cùng một tên biến cho cả mục tiêu kiểm tra và mục tiêu cần dọn. Hậu quả là thay vì xóa dữ liệu thử nghiệm, quy trình dọn dẹp đã tác động trực tiếp đến thư mục HOME thật.

Guillemot phát hiện và dừng tiến trình, nhưng đã quá muộn. Ông viết: “Tin xấu là Fable đã xóa sạch máy phát triển của tôi. Sandbox không hoạt động. Mọi thứ đã biến mất”.

Trớ trêu hơn, /tmp - thư mục chứa tệp rác mà Guillemot muốn dọn từ đầu - lại không bị xóa. Sau sự cố, ông cho biết máy chỉ còn lại dữ liệu rác trong /tmp và nhật ký của các phiên làm việc AI.

Hạ cấp mô hình có thể là một yếu tố

Tom’s Hardware đặt khả năng việc tự động chuyển sang mô hình thấp hơn đã góp phần dẫn đến sai sót. Theo lập luận này, Fable có năng lực lập trình tốt hơn Opus 4.8 và có thể đã nhận ra việc hai bước trong đoạn mã sử dụng trùng tên biến.

Tuy nhiên, đây mới chỉ là nhận định dựa trên diễn biến do Guillemot công bố. Chưa có bằng chứng cho thấy Fable chắc chắn sẽ tránh được lỗi, cũng chưa có xác nhận từ Anthropic rằng quá trình hạ cấp mô hình là nguyên nhân trực tiếp khiến dữ liệu bị xóa.

Thiệt hại cuối cùng cũng không hoàn toàn là 700 GB dữ liệu mất vĩnh viễn. Vì đây là môi trường phát triển, nhiều tệp vẫn tồn tại trên GitHub, Git, Nix, các worktree, nhật ký phiên làm việc và một số vị trí khác. Guillemot cho biết phần lớn dữ liệu đã được khôi phục từ những nguồn này với sự hỗ trợ của các công cụ chuyên dụng.

Sự cố cho thấy rủi ro không chỉ nằm ở việc AI viết sai mã. Vấn đề trở nên nghiêm trọng hơn khi agent được trao quyền thực thi lệnh trực tiếp trên máy và tự quyết định cách kiểm tra sản phẩm của chính nó. Một bài thử an toàn nếu không được cô lập hoàn toàn vẫn có thể biến thành thao tác thật chỉ vì một biến bị sử dụng sai.

Guillemot có thể dựng lại môi trường làm việc, nhưng câu chuyện vẫn để lại một chi tiết khó bỏ qua: nhiều AI agent cùng hoạt động trên máy, song không có bản sao lưu hàng ngày đủ hoàn chỉnh để khôi phục mọi thứ ngay lập tức.