Trung Quốc siết chặt quản lý AI: Hơn 6 triệu nội dung vi phạm bị xóa bỏ, các ông lớn công nghệ vào cuộc

Theo tin từ IT之家 ngày 6 tháng 7, Văn phòng Ủy ban An ninh mạng Trung ương (CAC) hôm nay đã ra thông báo cho biết, kể từ khi chiến dịch chuyên đề "Qinglang · Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI" được khởi động vào tháng 4 năm 2026, CAC đã tập trung vào các vấn đề như: không thực hiện nghĩa vụ đăng ký hồ sơ mô hình lớn theo quy định, năng lực kiểm duyệt và bảo mật của nền tảng AI còn yếu kém, đầu độc dữ liệu AI (AI data poisoning), và việc gắn nhãn nội dung tạo/tổng hợp không được thực hiện nghiêm túc. Cơ quan này đã triển khai cho các đơn vị an ninh mạng địa phương đẩy mạnh giai đoạn đầu của các nhiệm vụ chấn chỉnh trọng điểm, đồng thời mở "Khu vực báo cáo vi phạm liên quan đến ứng dụng AI" để tiếp nhận phản ánh từ công chúng.

Với nỗ lực chung của các bên, trong giai đoạn đầu, tổng cộng đã xử lý hơn 14.000 sản phẩm AI bao gồm các trang web, ứng dụng và tác nhân thông minh (AI agents) vi phạm; xóa bỏ hơn 6 triệu mẩu thông tin bất hợp pháp; xử lý hơn 26.000 tài khoản; gỡ bỏ hơn 1.300 sản phẩm AI vi phạm và 9 bộ dữ liệu mã nguồn mở vi phạm, đạt được những tiến triển tích cực trong mọi mặt công tác.

Các đơn vị an ninh mạng địa phương đã thực hiện nghiêm túc trách nhiệm quản lý tại địa phương, kết hợp với tình hình thực tế để áp dụng các biện pháp giám sát và quản lý hiệu quả. Cụ thể:

Văn phòng An ninh mạng Bắc Kinh đã thiết lập cơ chế làm việc liên kết "Tự kiểm tra nền tảng + Kiểm tra thường xuyên + Sàng lọc kỹ thuật + Xác minh manh mối", kịp thời gỡ bỏ hàng loạt ứng dụng AI và tài khoản vận hành vi phạm.

Văn phòng An ninh mạng Thượng Hải đã cụ thể hóa các yêu cầu công việc dựa trên loại hình nền tảng, hướng dẫn các nền tảng nâng cấp cơ chế báo cáo và chủ động công bố các thông báo quản trị.

Văn phòng An ninh mạng Chiết Giang đã tổ chức triển khai các đợt chỉnh đốn có mục tiêu như tối ưu hóa năng lực phán đoán ngữ nghĩa và kiểm thử hồi quy tần suất cao, xét trên nhiều khía cạnh như năng lực kiểm duyệt mô hình, bảo mật dữ liệu huấn luyện và đầu độc dữ liệu AI.

Văn phòng An ninh mạng Giang Tô đã mở cửa sổ báo cáo chuyên biệt về tình trạng hỗn loạn trong ứng dụng AI, thu thập manh mối về 5 loại hành vi vi phạm như đầu độc dữ liệu AI, không thực hiện yêu cầu gắn nhãn nội dung tạo/tổng hợp, từ đó xác minh và xử lý kịp thời.

Văn phòng An ninh mạng Quảng Đông đã thiết lập cơ chế giám sát phối hợp giữa nhiều cơ quan tại địa phương, kết hợp sử dụng các phương thức như kiểm tra kỹ thuật, rà soát thủ công, giám sát tại chỗ, nhắc nhở và xử phạt để thực hiện quản trị toàn diện chuỗi ứng dụng AI.

Các trang web và nền tảng trọng điểm đã tích cực thực hiện trách nhiệm quản lý chủ thể, tăng cường kiểm soát một cách có mục tiêu. Cụ thể:

Huawei đã bổ sung quy trình kiểm duyệt chuyên biệt về hồ sơ và gắn nhãn dịch vụ AI tạo sinh trong cửa hàng ứng dụng;

Alibaba đã hoàn thiện cơ chế đối chiếu dấu vân tay kỹ thuật số và chặn từ khóa, nâng cao độ chính xác trong việc nhận diện nội dung bất hợp pháp;

Zhipu đã xây dựng mô hình kiểm duyệt đa phương thức, thực hiện kiểm tra chéo đối với các kịch bản phức tạp như đảo ngược ý định trong hội thoại đa vòng;

MiniMax (稀宇) đã kịp thời nhận diện và ngăn chặn các hành vi độc hại như sử dụng AI để viết virus, phần mềm lừa đảo;

DeepSeek đã nhúng thuật toán phát hiện bất thường vào khâu thu thập và tiền xử lý dữ liệu để ngăn chặn việc thao túng ẩn giấu từ các mẫu độc hại.

Theo thông tin IT之家 nắm được từ thông báo, trong bước tiếp theo, Văn phòng Ủy ban An ninh mạng Trung ương sẽ tập trung vào các vấn đề nổi cộm như sử dụng công nghệ AI để tạo và phát tán thông tin giả, lan truyền nội dung bạo lực/đồi trụy, giả mạo người khác, xâm phạm quyền lợi trẻ vị thành niên, hoạt động như "thủy quân mạng" (tài khoản ảo điều hướng dư luận), để triển khai giai đoạn hai của chiến dịch "Qinglang · Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI". Cơ quan này sẽ tăng cường xử lý các tài khoản và tổ chức vi phạm, thắt chặt quản lý các khâu trọng yếu của ứng dụng AI, đôn đốc các nền tảng nâng cao năng lực phòng chống, nỗ lực duy trì hệ sinh thái mạng trong sạch, thúc đẩy trí tuệ nhân tạo phát triển theo hướng tích cực và tốt đẹp.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian lựa chọn; kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT之家 đều bao gồm tuyên bố này.