Trung Quốc xử lý 5,6 triệu nội dung AI vi phạm: Doubao, Wenxin Yiyan và các chatbot lớn bị siết chặt kiểm soát

Theo tin từ IT ngày 2 tháng 9, Văn phòng Ủy ban An ninh mạng và Thông tin Trung ương Trung Quốc hôm nay đã công bố tiến độ mới nhất và các kết quả liên quan của giai đoạn hai trong chiến dịch chuyên đề "Thanh lọc · Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI".

Chiến dịch lần này tập trung vào các vấn đề nổi cộm như sử dụng AI để tạo và phát tán thông tin sai lệch, lan truyền nội dung bạo lực đồi trụy, giả mạo người khác, xâm phạm quyền và lợi ích của trẻ vị thành niên, đồng thời triển khai cho các cơ quan quản lý mạng tại địa phương đẩy mạnh các nhiệm vụ chấn chỉnh trọng điểm.

Theo thông báo chính thức, tính đến thời điểm hiện tại, chiến dịch chuyên đề này đã xóa bỏ hơn 5,61 triệu thông tin vi phạm pháp luật và quy định, xử lý hơn 49.000 tài khoản, và xử lý hơn 2.400 trang web, ứng dụng vi phạm. Đồng thời, các cơ quan quản lý mạng địa phương đã đưa ra hàng loạt biện pháp quản lý nhắm trúng đích tùy theo tình hình thực tế:

Văn phòng Quản lý mạng Bắc Kinh hướng dẫn các nền tảng nâng cấp chiến lược kiểm duyệt nhằm nâng cao khả năng nhận diện và xử lý các biến thể mới của nội dung vi phạm;

Văn phòng Quản lý mạng Thượng Hải đôn đốc các nền tảng tự kiểm tra, tự khắc phục và tung ra "Gói phổ cập kiến thức" về ứng dụng AI để hướng dẫn công chúng nhận diện rủi ro;

Văn phòng Quản lý mạng Chiết Giang triển khai hướng dẫn tuân thủ "mỗi doanh nghiệp một chính sách" đối với các nền tảng trọng điểm tại địa phương và xử lý theo pháp luật các ứng dụng AI có vấn đề nghiêm trọng;

Văn phòng Quản lý mạng Quảng Đông tổ chức các cuộc họp định kỳ với các nền tảng trọng điểm để đôn đốc khắc phục các vấn đề vi phạm của nhiều ứng dụng theo hình thức điểm đối điểm.

Ngoài ra, các nền tảng như Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, Taobao... đã tăng cường hơn nữa việc trao quyền bằng công nghệ, tối ưu hóa các mô hình nhận diện đa phương thức, mở rộng linh hoạt kho dữ liệu khuôn mặt, kho dữ liệu giọng nói và kho mẫu vi phạm, đồng thời ra mắt các tính năng như hệ thống quản lý khuôn mặt thời gian thực, nhằm nâng cao hiệu quả phát hiện và ngăn chặn thông tin vi phạm, tổng cộng đã phát hành 46 kỳ thông báo quản lý các loại.

Các nền tảng như Doubao, Yuanbao, Qianwen, Wenxin Yiyan... kiểm soát chặt chẽ khâu kiểm duyệt nội dung ngữ liệu gốc, tăng cường thực thi yêu cầu dán nhãn nội dung do AI tạo ra và tổng hợp, ngăn chặn việc tạo và phát tán thông tin vi phạm từ nguồn. Các kho ứng dụng như Huawei, Xiaomi, OPPO, vivo... đã xây dựng các quy định nghiêm ngặt về việc gia nhập của nhà phát triển và yêu cầu lên kệ, thực hiện kiểm tra ngẫu nhiên các ứng dụng đang hoạt động để ngăn chặn hiệu quả các ứng dụng vi phạm xâm nhập vào kho.

Văn phòng Quản lý mạng cũng công bố nhiều vụ việc vi phạm điển hình bị xử lý trong thời gian diễn ra chiến dịch chuyên đề này, IT tổng hợp như sau:

Một số tài khoản trên các nền tảng như Weibo, Douyin, Kuaishou, WeChat... đã sử dụng AI để "cải biên ma quái" các tác phẩm kinh điển như "Tam Quốc Diễn Nghĩa", "Tây Du Ký", làm đảo lộn thiết lập nhân vật quan trọng, hư cấu các tình tiết chất lượng thấp, giật gân để câu view;

Một số tài khoản sử dụng AI để tạo và tổng hợp hình ảnh hiện trường thiên tai, cứu hộ giả mạo, bịa đặt các thông tin nóng hổi về xã hội không có thật, hoặc tạo ra người ảo AI để quảng cáo bán hàng gian dối, gây hiểu lầm cho người cao tuổi;

Một số tài khoản trên các nền tảng như Douyin, Kuaishou, Xiaohongshu, WeChat... sử dụng công nghệ "đổi mặt", "đổi giọng" AI để giả mạo hình ảnh người nổi tiếng, tạo ra các hình ảnh, video nhảy múa đồi trụy, ôm hôn... để trục lợi từ tiếp thị;

Một số tài khoản trên các nền tảng như Bilibili, Douyin, Kuaishou, WeChat... phát tán hàng loạt nội dung kinh dị, quái đản, bạo lực đồi trụy do AI tạo ra;

Một số tài khoản trên các nền tảng như Xiaohongshu, WeChat, Douyin, Kuaishou... phát tán các nội dung do AI tạo ra về trẻ vị thành niên mang thai, đánh nhau... không phù hợp với đặc điểm lứa tuổi, sản xuất và phát tán hàng loạt "phim hoạt hình độc hại", video "ngược đãi", "tà đạo" nhắm vào trẻ em, gây tổn thương và chế giễu hình ảnh trẻ vị thành niên;

Một số tài khoản trên các nền tảng như WeChat, Weibo, Douyin... dẫn lưu lượng truy cập cho phần mềm "ủy thác" AI, mô phỏng người thật để vận hành tài khoản, bình luận tương tác, tạo ra lượng lớn văn bản chất lượng thấp, đồng nhất để thực hiện các hoạt động "thủy quân" trên mạng.

Ngoài ra, nhiều thực thể thông minh trên các nền tảng trang web như "Nt", "Chuan Yuan", "Tian * Quan", "Yu **o"... có chứa thông tin dâm ô, đồi trụy và các thông tin khác gây hại đến sức khỏe thể chất và tinh thần của trẻ vị thành niên trong ảnh bìa, giới thiệu và các đoạn hội thoại được tạo ra. Các cơ quan liên quan đã xử lý theo pháp luật đối với những bên từ chối sửa đổi, áp dụng các biện pháp như cảnh cáo, phạt tiền, gỡ bỏ hoặc đóng cửa theo quy trình.

Trong đó, "cải biên ma quái" vốn chỉ việc sáng tạo lại các tác phẩm điện ảnh truyền hình kinh điển, nhưng một số người sáng tạo đã sử dụng công nghệ AI để cải biên các tác phẩm kinh điển một cách vô nguyên tắc, tạo ra nội dung đồi trụy, giật gân để câu view; Văn phòng Quản lý mạng gọi loại nội dung này là "nước thải kỹ thuật số".

"Phim hoạt hình độc hại" chỉ các video do AI tạo ra có hình thức bề ngoài là phim hoạt hình trẻ em, nhưng thực chất chứa các yếu tố xấu như bạo lực, kinh dị hoặc khiêu dâm nhẹ, gây ra mối nguy hại tiềm tàng đối với sức khỏe thể chất và tinh thần của trẻ vị thành niên.

Chiến dịch chuyên đề lần này nhắm vào tình trạng hỗn loạn của nội dung do AI tạo ra và tổng hợp để quản lý một cách hệ thống, ngăn chặn hiệu quả sự lan rộng của các hành vi vi phạm pháp luật và quy định liên quan. Trong bước tiếp theo, trên cơ sở tổng kết hiệu quả quản lý, các cơ quan quản lý mạng sẽ theo dõi sát sao các tình hình và rủi ro mới của nội dung do AI tạo ra, kịp thời áp dụng các biện pháp để ngăn chặn việc lạm dụng và sử dụng sai mục đích công nghệ AI.

Tài liệu tham khảo:

"Văn phòng Ủy ban An ninh mạng và Thông tin Trung ương Trung Quốc đẩy mạnh triển khai giai đoạn hai của chiến dịch chuyên đề 'Thanh lọc · Chấn chỉnh tình trạng hỗn loạn trong ứng dụng AI' _ Văn phòng Ủy ban An ninh mạng và Thông tin Trung ương"

Tuyên bố quảng cáo: Các liên kết ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian chọn lọc, kết quả chỉ mang tính chất tham khảo, các bài viết của IT có chứa liên kết ngoài đều bao gồm tuyên bố này.