Công cụ AI Trung Quốc tự ý tải dữ liệu người dùng lên cloud mà không có tùy chọn tắt

Thậm chí một lập trình viên còn phát hiện dự án của mình liên tục thử tải lên cloud của Alibaba đến hơn 500 lần nhưng đều thất bại do dung lượng quá lớn, trong khi các tệp tin nhỏ hơn khác đều được tải lên thành công.

Một công cụ AI dành cho lập trình viên của Z.ai bị phát hiện âm thầm tải dữ liệu từ máy tính người dùng lên máy chủ đám mây mà không có sự đồng ý rõ ràng. Đáng chú ý, tính năng này được bật mặc định và người dùng không có tùy chọn để tắt.

Sự việc liên quan đến ZCode, công cụ hỗ trợ lập trình của Z.ai, công ty AI Trung Quốc còn được biết đến với tên Zhipu AI. Vấn đề được phát hiện hôm 18/9, khi một blogger công nghệ Trung Quốc có tên Ferstar kiểm tra các thư mục trên máy tính và phát hiện một tệp nén dung lượng 313 MB đang chờ được tải lên dịch vụ đám mây của Alibaba.

Điều đáng chú ý là hệ thống đã thử tải tệp này lên tới 564 lần nhưng đều thất bại. Một tệp nhỏ hơn, dung lượng khoảng 15 KB, đã được tải lên thành công. Theo Ferstar, tệp lớn chứa bản sao của một dự án thương mại mà ông đang thực hiện, trong đó có cả lịch sử thay đổi mã nguồn trên Git.

Z.ai cho biết đây là một phần trong tính năng của ZCode và đã bị vô hiệu hóa sau khi bị phát hiện.

Các tệp đều được mã hóa. Tuy nhiên, người dùng không thể tự mở dữ liệu bởi khóa giải mã nằm trên hệ thống máy chủ của Z.ai. Điều này tạo ra một vấn đề khác: ngay cả khi công ty khẳng định dữ liệu đã được xóa, người dùng cũng không có cách độc lập để kiểm tra chính xác điều gì đã xảy ra với những tệp từng được tải lên.

Sau khi sự việc bị phanh phui, Z.ai đã vô hiệu hóa một số tính năng của ZCode, đồng thời cho biết nguyên nhân bắt nguồn từ tính năng “Codebase Indexing” được bật mặc định. Công ty cũng xin lỗi người dùng, vá lỗ hổng và cam kết mở mã nguồn ZCode để cộng đồng cùng các bên thứ ba kiểm tra.

Không chỉ một người phát hiện sự cố. Một số nhà phát triển khác cũng cho biết họ nhìn thấy các tệp được tải lên. Trên mạng xã hội, một doanh nghiệp Trung Quốc từng tuyên bố 6 dự án lập trình của mình đã bị tải lên cloud, trong đó có mã nguồn, mật khẩu cơ sở dữ liệu và thông tin cá nhân của nhân viên. Tuy nhiên, doanh nghiệp này sau đó rút lại tuyên bố và cho biết bằng chứng ban đầu không chính xác.

Trong khi đó, Z.ai khẳng định dữ liệu được xóa ngay sau khi tải lên. Công ty sau đó cho biết một cuộc đánh giá độc lập của một tổ chức tiêu chuẩn công nghệ thuộc Bộ Công nghiệp Trung Quốc cùng công ty an ninh mạng NSFOCUS xác nhận dữ liệu mã nguồn đã được xóa và không được nền tảng cloud lưu giữ. Z.ai cũng triển khai cơ chế không lưu dữ liệu cho công cụ dành cho các nhà phát triển và doanh nghiệp.

Dù vậy, sự cố đã đặt ra câu hỏi lớn hơn về mức độ kiểm soát dữ liệu khi sử dụng các công cụ AI lập trình. Với những người làm phần mềm, một dự án không chỉ bao gồm vài tệp mã nguồn mà còn có thể chứa lịch sử phát triển và nhiều dữ liệu liên quan đến quá trình xây dựng sản phẩm.

Một nhà phát triển AI tại Thượng Hải nhận định sự cố có thể ảnh hưởng đến niềm tin đối với Z.ai nhiều hơn bản thân các mô hình AI của công ty. Một kỹ sư tại một công ty robot lớn của Trung Quốc thậm chí cho biết doanh nghiệp của mình đã cấm sử dụng các công cụ Z.ai vì lo ngại bảo mật.

Đáng chú ý, đây không phải trường hợp duy nhất khiến vấn đề bảo mật của công cụ AI lập trình trở thành tâm điểm. Trước đó, Claude Code của Anthropic và Grok Build của xAI cũng từng liên quan đến những sự cố tương tự trong năm nay. Trong khi AI ngày càng được đưa sâu vào quá trình viết và xử lý mã nguồn, khả năng kiểm soát dữ liệu mà các công cụ này có quyền truy cập đang trở thành một vấn đề ngày càng quan trọng.

Với Z.ai, việc mở mã nguồn ZCode và tiến hành đánh giá độc lập là những bước nhằm khôi phục niềm tin sau sự cố. Tuy nhiên, câu chuyện lần này cho thấy một rủi ro đặc biệt của AI coding assistant: công cụ được trao quyền truy cập vào chính những dữ liệu quan trọng nhất của lập trình viên, trong khi người sử dụng có thể không biết dữ liệu đó đang được xử lý và chuyển đi như thế nào.