Trung Quốc mạnh tay xử lý vấn nạn lạm dụng trí tuệ nhân tạo

Trung Quốc đã xóa hơn 5,6 triệu nội dung vi phạm và xử lý gần 50.000 tài khoản trong chiến dịch chấn chỉnh việc lạm dụng trí tuệ nhân tạo.

Trung Quốc đã xóa hơn 5,6 triệu nội dung vi phạm và xử lý gần 50.000 tài khoản trong chiến dịch chấn chỉnh việc lạm dụng trí tuệ nhân tạo. Ngoài ra, hơn 2.400 trang mạng và ứng dụng cũng đã bị xử lý. Chiến dịch tập trung vào thông tin giả, nội dung bạo lực, thô tục, giả mạo người thật và xâm phạm quyền trẻ em.

Theo Cục Quản lý Không gian mạng Trung Quốc (CAC), các nền tảng trực tuyến lớn của Trung Quốc, bao gồm Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban và Taobao, đã tăng cường các hệ thống phát hiện nội dung đa phương tiện, đồng thời mở rộng cơ sở dữ liệu phục vụ việc nhận diện hình ảnh khuôn mặt bị chỉnh sửa, giọng nói bị sao chép và các mẫu nội dung vi phạm đã được xác định. Các dịch vụ chatbot và tạo nội dung bằng AI, bao gồm Doubao của ByteDance, Yuanbao của Tencent, Qwen của Alibaba và Ernie Bot của Baidu, đã siết chặt kiểm duyệt dữ liệu đào tạo cũng như nội dung đầu ra, đồng thời tăng cường thực hiện yêu cầu về gắn nhãn nội dung do AI tạo ra. Các kho ứng dụng dành cho điện thoại thông minh do Huawei, Xiaomi, OPPO và Vivo vận hành cũng đã áp dụng các tiêu chuẩn thẩm định nghiêm ngặt hơn đối với các nhà phát triển ứng dụng, bao gồm việc kiểm tra lại những ứng dụng đã được đăng tải trên các nền tảng này.

CAC cũng công bố một số trường hợp tài khoản và ứng dụng bị xử phạt, trong đó có các tài khoản mạng xã hội sử dụng công cụ AI hoán đổi khuôn mặt và giọng nói để giả mạo nhân vật công chúng. Trong khi đó, một số website và nền tảng bị xử lý do lưu trữ các tác nhân AI có hình ảnh đại diện, phần hồ sơ giới thiệu hoặc nội dung hội thoại chứa các nội dung khiêu dâm hoặc các nội dung khác gây ảnh hưởng đến trẻ vị thành niên.

Cơ quan quản lý Trung Quốc cho biết sẽ tiếp tục theo dõi những rủi ro mới phát sinh liên quan đến nội dung do AI tạo ra và triển khai các biện pháp tiếp theo nhằm ngăn chặn việc lạm dụng công nghệ này, đồng thời thúc đẩy sự phát triển lành mạnh, có trật tự của các ứng dụng AI tại Trung Quốc.