Trung Quốc siết chặt quản lý AI: Ngăn chặn trào lưu dùng AI chế ảnh hoạt hình bạo lực, độc hại

Theo tin từ IT ngày 20 tháng 7, nhằm tăng cường hơn nữa công tác bảo vệ trẻ vị thành niên trên không gian mạng và xây dựng môi trường mạng trong sạch, lành mạnh, Văn phòng Ủy ban An ninh mạng Trung ương Trung Quốc gần đây đã ban hành thông báo, triển khai chiến dịch đặc biệt "Qinglang · Bảo vệ trẻ vị thành niên trên mạng" kéo dài 4 tháng trên phạm vi toàn quốc.

Đại diện Văn phòng Ủy ban An ninh mạng Trung ương cho biết, chiến dịch đặc biệt lần này được triển khai theo hai giai đoạn. Giai đoạn một là chiến dịch "Qinglang · Chỉnh đốn môi trường mạng cho trẻ vị thành niên dịp hè 2026", tập trung vào thời điểm quan trọng là kỳ nghỉ hè, nhắm vào toàn bộ quy trình và chuỗi cung ứng sản xuất, lan truyền thông tin, tập trung lực lượng chỉnh đốn các vấn đề hỗn loạn liên quan đến trẻ vị thành niên trên mạng, phòng ngừa và hóa giải các rủi ro tiềm ẩn ở mọi khâu, nhằm tạo ra môi trường mạng lành mạnh, an toàn cho trẻ vị thành niên tận hưởng kỳ nghỉ. Giai đoạn hai là chiến dịch "Qinglang · Chỉnh đốn thông tin mạng gây ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ vị thành niên", rà soát nghiêm ngặt và chi tiết các vấn đề hỗn loạn và rủi ro nổi cộm có thể ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ, ép buộc các nền tảng trang web thực hiện trách nhiệm chủ thể, đồng thời chuẩn hóa việc hiển thị nội dung thông tin trên mạng.

Giai đoạn một tập trung chỉnh đốn các vấn đề nổi cộm ở ba khâu:

Thứ nhất là vấn đề ở khâu đăng tải. Ngụy tạo các nội dung hoạt hình độc hại, sử dụng công nghệ AI để chế giễu các hình tượng hoạt hình kinh điển, cố tình phóng đại các yếu tố bạo lực, kinh dị. Đăng tải các nội dung kích động hành vi nguy hiểm như "thử thách ngạt thở". Đóng gói và thổi phồng các khái niệm như "thần đồng chuyển thế", "bé gái chín ép" để xây dựng hình tượng trẻ em gây tranh cãi. Dàn dựng các video trốn học, bỏ học, nằm ườn chán nản để tuyên truyền các giá trị lệch lạc. Sản xuất hàng loạt các phim ngắn AI có nội dung kỳ quái, thẩm mỹ lệch lạc nhằm dẫn dắt sai lệch nhận thức của trẻ vị thành niên. Một số phần mềm AI tạo ra các nhân vật có thiết lập không lành mạnh, xuất ra các nội dung mập mờ, dung tục.

Thứ hai là vấn đề ở khâu tương tác. Lấy danh nghĩa "tìm bạn thân" để dụ dỗ trẻ vị thành niên gửi ảnh riêng tư. Một số nhóm chat lấy chiêu bài "phúc lợi 2D" để phát tán có mục tiêu các nội dung vi phạm pháp luật như truyện tranh khiêu dâm cho trẻ vị thành niên. Đăng tải các biểu tượng cảm xúc gợi dục, tiếng lóng, từ ngữ rác dưới các video có trẻ vị thành niên xuất hiện, gây quấy rối trẻ. Sử dụng các chiêu trò như "bạn đồng hành dịp hè" để dụ dỗ trẻ vị thành niên trò chuyện mang tính khiêu dâm nhẹ. Thiết lập các mục như "bảng đen" để tập hợp, phơi bày thông tin riêng tư của trẻ vị thành niên, cung cấp dịch vụ chửi thuê có trả phí.

Thứ ba là vấn đề ở khâu tiếp thị. Dưới hình thức tuyển dụng người trải nghiệm đồ lót, dụ dỗ trẻ vị thành niên chụp ảnh cận cảnh gợi cảm. Một số phòng livestream áp dụng các chiêu trò như bán số lượng giới hạn, thổi giá hàng hiếm để dụ dỗ trẻ vị thành niên mua hộp mù (blind box) rút thẻ. Một số thương nhân sử dụng ám hiệu để dụ dỗ bán thuốc lá điện tử. Một số nền tảng cung cấp nội dung trang trí cá nhân mang tính khiêu dâm nhẹ trong các cửa hàng trang phục. Một số thương nhân cung cấp công nghệ như AI đổi mặt, dạy trẻ vị thành niên cách bẻ khóa xác thực nhận diện khuôn mặt. Sử dụng các chiêu trò như "đặt trước để hưởng ưu đãi" để dụ dỗ trẻ vị thành niên chuyển khoản, thực hiện hành vi lừa đảo qua mạng.

Giai đoạn hai tập trung chuẩn hóa ba khía cạnh:

Thứ nhất là chuẩn hóa hành vi đề xuất của nền tảng. Theo các yêu cầu liên quan của "Phương pháp phân loại thông tin mạng có thể ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ vị thành niên", liên tục rà soát các vấn đề về hành vi đề xuất không lành mạnh, định hướng giá trị sai lệch, sử dụng hình ảnh trẻ vị thành niên không phù hợp và xâm phạm quyền riêng tư của trẻ trên nền tảng. Hướng dẫn các nền tảng tối ưu hóa cơ chế dịch vụ đề xuất thuật toán, không được thiết lập các mô hình thuật toán gây nghiện mạng, tiêu dùng quá mức, không được lợi dụng các tính năng như "người ở gần", "người có thể quen biết" để dụ dỗ trẻ vị thành niên kết bạn không lành mạnh.

Thứ hai là chuẩn hóa các mục học tập và giáo dục. Đôn đốc các nền tảng áp dụng tiêu chuẩn kiểm duyệt nghiêm ngặt hơn đối với các nội dung như hoạt hình trẻ em kinh điển, xử lý nghiêm các tài khoản mạng lấy danh nghĩa "khai sáng giáo dục sớm" để đăng tải nội dung có định hướng không lành mạnh. Hạn chế hợp lý thời lượng và tần suất đăng tải nội dung có trẻ vị thành niên xuất hiện, không được lấy danh nghĩa chia sẻ học tập để yêu cầu trẻ vị thành niên xuất hiện thường xuyên nhằm kéo lưu lượng truy cập kiếm lợi nhuận; các tổ chức MCN không được lợi dụng các tài khoản trực thuộc để đóng gói, thổi phồng trẻ em nổi tiếng trên mạng.

Thứ ba là chuẩn hóa việc xây dựng chế độ dành cho trẻ vị thành niên. Rà soát tình hình truy cập và thoát khỏi chế độ trẻ vị thành niên, kiểm tra xem trong chế độ này có tồn tại các tính năng dễ gây nghiện như dụ dỗ tặng quà, bỏ phiếu xếp hạng hay không, và liệu có nội dung định hướng không lành mạnh hay không. Rà soát chuyên sâu xem các khu vực dành cho trẻ vị thành niên trên kho ứng dụng có tồn tại các ứng dụng vi phạm, độc hại hoặc không phù hợp với độ tuổi hay không. Đối với các thiết bị chuyên dụng như đồng hồ thông minh trẻ em, rà soát và chỉnh đốn các vấn đề như nội dung độc hại trong khâu trò chuyện tương tác, bộ gõ, cũng như việc các ứng dụng bên thứ ba dụ dỗ nạp tiền tiêu dùng, xuất ra thông tin vi phạm pháp luật và không lành mạnh.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.