Thảm họa AI: Agent của OpenAI xóa sạch dữ liệu ổ cứng của nhà sáng lập

Đúng là năng lực càng mạnh, sức tàn phá càng lớn! Một người dùng đã bị GPT-5.6-Sol, mô hình đỉnh nhất của OpenAI, xóa sạch toàn bộ tệp tin trên máy Mac. Chắc hẳn bất cứ ai đang chạy AI Agent cục bộ (local) khi đọc tin này đều phải toát mồ hôi hột 🤯. Dưới đây là phân tích chi tiết sự việc và cách để tránh những thảm kịch tương tự 👇

GPT-5.6-Sol, mô hình Agent mạnh nhất vừa được OpenAI ra mắt, đã xóa sạch toàn bộ ổ cứng Mac của một doanh nhân AI nổi tiếng.

Matt Shumer, chính là người thường xuyên khoe việc để Agent tự chạy cả tuần để hoàn thành dự án, hôm nay đã cấp quyền truy cập đầy đủ (Full Access) cho Agent cục bộ để thực hiện một tác vụ dọn dẹp tệp tin đơn giản.

Kết quả là quá trình phân tích biến shell bị lỗi — đường dẫn $HOME không được mở rộng chính xác, khiến Agent trực tiếp thực thi lệnh rm -rf /Users/mattsdevbox.

Đến khi anh ấy phát hiện có điều bất thường và lao vào kill tiến trình thì phần lớn mã nguồn, tệp tin và ảnh lưu trữ trong nhiều năm đã biến mất.

Sau sự việc, chính Agent đã tự tạo một báo cáo sự cố, thành thật thừa nhận rằng nó đã mở rộng đường dẫn sai.

Thái độ nhận lỗi rất tốt, nhưng các tệp tin đã bị xóa thì không thể quay trở lại chỉ vì lời xin lỗi đó!

Điều đáng sợ nhất của sự việc này không nằm ở chỗ mô hình phạm lỗi, mà ở chỗ anh ấy nói: tác vụ dọn dẹp này anh ấy đã để Agent chạy hàng trăm lần trước đó và chưa bao giờ xảy ra vấn đề gì.

Chỉ duy nhất lần này, mô hình lại phạm một lỗi sơ đẳng nhất ở nơi mà ai cũng nghĩ là không thể sai sót, kết quả là sự hủy diệt vật lý không thể đảo ngược.

Chúng ta đừng vội chê anh ấy viết prompt tệ hay cười nhạo sự bất cẩn, thực tế đây là sự thật kinh hoàng mà toàn bộ ngành công nghiệp Agent đang né tránh: 1. Ngay cả mô hình đỉnh cao như GPT-5.6 vẫn có thể "lật kèo" ở những "chuyện nhỏ" như mở rộng biến, đường dẫn tương đối hay lệnh shell — nó hoàn toàn hiểu bạn muốn "dọn dẹp tệp rác", nhưng chỉ cần một cú trượt tay là thư mục gốc bay màu. 2. Subagent + chạy tự chủ dài hạn + toàn quyền = bộ khuếch đại thảm họa. Lỗi của một Agent review cấp thấp nhất có thể phá hủy toàn bộ máy chủ của bạn, năng lực càng mạnh thì bán kính tàn phá của điểm lỗi đơn lẻ càng lớn, đây hoàn toàn không phải vấn đề prompt có thể giải quyết, mà là lỗi ở cấp độ kiến trúc. 3. "Chạy hàng trăm lần không sao" là cảm giác an toàn chết người nhất. Logic lỗi của AI hoàn toàn khác với con người, nó không "quen tay hay việc" như người, mà sẽ ra tay phá hủy vào lúc bạn thư giãn và mất cảnh giác nhất. 4. Điểm mấu chốt về an toàn của các nhà sản xuất mô hình ngay từ gốc đã khác nhau. Sol của OpenAI theo đuổi năng lực và tính tự chủ tối thượng, các rào chắn an toàn (guardrail) gần như bỏ ngỏ; trong khi Fable của Anthropic lại bảo thủ hơn trong thiết kế, vốn dĩ đã thận trọng với các thao tác nguy hiểm — đây cũng là lý do câu đầu tiên Matt nói sau sự việc là: "Đây là lý do tại sao tôi tin tưởng Fable gấp 1000 lần".

Làm sao để tránh đây❓ Tất cả anh em đang chạy local Agent, từng cấp quyền cao cho AI, đừng đợi đến khi mất sạch ổ cứng mới hối hận, hãy làm ngay những việc này: #AI #Agent #GPT5 #Claude #OpenAI #Anthropic #AIAgent

“Matt Shumer: Tôi rất tức giận... đội ngũ OpenAI đang xem xét vấn đề này, nhưng đây là điều đáng lẽ chỉ xảy ra với GPT-3.5. Không phải là một mô hình tiên phong giữa năm 2026 ở cấp độ cao nhất...”