Trung Quốc mạnh tay xử lý hơn 5,6 triệu nội dung và tài khoản vi phạm quy định AI

Các cơ quan quản lý không gian mạng Trung Quốc mới đây đã xóa hơn 5,61 triệu thông tin vi phạm, đồng thời xử lý hơn 49.000 tài khoản trong chiến dịch chấn chỉnh tình trạng lạm dụng ứng dụng trí tuệ nhân tạo (AI) trên phạm vi toàn quốc.

Theo thông tin ngày 2/9 từ Cục Quản lý Không gian mạng Trung Quốc (CAC), hơn 2.400 trang mạng và ứng dụng vi phạm đã bị xử lý trong chiến dịch nhằm chấn chỉnh tình trạng lạm dụng AI để tạo, phát tán thông tin giả, nội dung bạo lực, thô tục, giả mạo người thật và xâm phạm quyền, lợi ích của trẻ vị thành niên.

Hiện cơ quan chức năng Trung Quốc tiếp tục hoàn thiện khung pháp lý đối với AI tạo sinh, là sự phát triển, nối tiếp các quy định yêu cầu nhà cung cấp dịch vụ AI tạo sinh phải thực hiện các nghĩa vụ bảo vệ thông tin cá nhân (có hiệu lực từ tháng 8/2023) và các quy định về gắn nhãn nội dung AI, trong đó yêu cầu văn bản, hình ảnh, âm thanh và video do AI tạo ra phải có dấu hiệu nhận diện hiển thị hoặc được tích hợp vào nội dung (có hiệu lực từ tháng 9/2025).

CAC cho biết các địa phương của Trung Quốc đã triển khai những biện pháp khác nhau. Tại Bắc Kinh, cơ quan chức năng yêu cầu các nền tảng nâng cấp hệ thống kiểm duyệt nội dung nhằm nâng cao khả năng phát hiện các biến thể mới của nội dung bị cấm.

Tại Thượng Hải, cơ quan quản lý yêu cầu các nền tảng kiểm tra nội bộ, đồng thời công bố các tài liệu hướng dẫn nhằm nâng cao nhận thức của công chúng về những rủi ro liên quan đến AI.

Theo CAC, các nền tảng trực tuyến lớn của Trung Quốc, trong đó có Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban và Taobao, đã tăng cường các hệ thống phát hiện nội dung đa phương tiện, đồng thời mở rộng cơ sở dữ liệu phục vụ việc nhận diện hình ảnh khuôn mặt bị chỉnh sửa, giọng nói bị sao chép và các mẫu nội dung vi phạm đã được xác định.

Các dịch vụ chatbot và tạo nội dung bằng AI, trong đó có Doubao của ByteDance, Yuanbao của Tencent, Qwen của Alibaba và Ernie Bot của Baidu, đã siết chặt kiểm duyệt dữ liệu đào tạo cũng như nội dung đầu ra, đồng thời tăng cường thực hiện yêu cầu về gắn nhãn nội dung do AI tạo ra.

Các kho ứng dụng dành cho điện thoại thông minh do Huawei, Xiaomi, OPPO và Vivo vận hành cũng đã áp dụng các tiêu chuẩn thẩm định nghiêm ngặt hơn đối với các nhà phát triển ứng dụng, trong đó có việc kiểm tra lại những ứng dụng đã được đưa lên các nền tảng này.

CAC cũng công bố một số trường hợp tài khoản và ứng dụng bị xử phạt, trong đó có các tài khoản mạng xã hội sử dụng công cụ AI hoán đổi khuôn mặt và giọng nói để giả mạo nhân vật công chúng.

Trong khi đó, một số website và nền tảng bị xử lý do lưu trữ các tác nhân AI có hình ảnh đại diện, phần hồ sơ giới thiệu hoặc nội dung hội thoại được tạo ra chứa nội dung khiêu dâm hoặc các nội dung khác gây ảnh hưởng đến trẻ vị thành niên.

Cơ quan quản lý Trung Quốc cho biết sẽ tiếp tục theo dõi những rủi ro mới phát sinh liên quan đến nội dung do AI tạo ra và triển khai các biện pháp tiếp theo nhằm ngăn chặn việc lạm dụng công nghệ này, đồng thời thúc đẩy sự phát triển lành mạnh, có trật tự của các ứng dụng AI tại Trung Quốc.

UNICEF cảnh báo trẻ em toàn cầu đối mặt với rủi ro từ AI

Theo UNICEF, một thế hệ trẻ em đang lớn lên trong một cuộc thử nghiệm toàn cầu, khi công nghệ AI đang được ứng dụng rộng rãi dù các cơ chế quản lý và bảo vệ chưa hoàn thiện.

(TTXVN/Vietnam+)

Tin cùng chuyên mục

Năng lực cạnh tranh số: Tốc độ Internet Việt Nam lọt top 10 thế giới

Trong chưa đầy hai năm, tốc độ Internet của Việt Nam đã có bước nhảy vọt từ thứ 37 thế giới đến lọt top 10 toàn cầu, phản ánh năng lực cạnh tranh số của nền kinh tế.

G20 cảnh báo quy định cứng nhắc có thể kìm hãm đổi mới công nghệ

Các bộ trưởng G20 thông qua "Các nguyên tắc Carolina", cảnh báo quy định cứng nhắc về công nghệ mới có thể kìm hãm đổi mới, đồng thời ưu tiên sử dụng khuôn khổ pháp lý hiện hành để thúc đẩy đầu tư.

Lào Cai đặt mục tiêu xây dựng 160 thôn thông minh vào năm 2030

Chủ tịch Ủy ban Nhân dân tỉnh Lào Cai ký ban hành Kế hoạch triển khai xây dựng Thôn số, Thôn thông minh trên địa bàn tỉnh giai đoạn 2026-2030, nhằm thúc đẩy phát triển chính quyền số ngay từ cơ sở.

Người dân có thể tra cứu tình hình mưa ngập ở Thủ đô trên ứng dụng iHanoi

Việc đưa Mini App "Bản đồ mưa ngập" vào vận hành được kỳ vọng giúp người dân Hà Nội chủ động hơn trong việc cập nhật tình hình mưa, ngập và lựa chọn phương án di chuyển phù hợp.

Tỷ phú Elon Musk dự báo thế giới có 1 tỷ robot hình người trong 10 năm tới

Tỷ phú Elon Musk cho rằng dự báo 1 tỷ robot trong 10 năm là tương đối thận trọng và nếu đạt quy mô này, tổng năng suất của đội robot có thể vượt toàn bộ năng suất của con người.

Microsoft lần đầu công bố doanh thu Azure vượt 100 tỷ USD

Azure đạt doanh thu 29,4 tỷ USD trong quý gần nhất và 101,9 tỷ USD trong cả năm tài chính 2026, kết thúc ngày 30/6/2026. Mức này xếp sau Amazon (42,2 tỷ USD) nhưng vượt Google (24,8 tỷ USD).

Growth Webinar Series: Cách CDP và AI Agent vận hành thực tế trong doanh nghiệp

Sự kiện mở cửa đăng ký miễn phí, hướng đến các Marketing Manager, IT/Data Lead và C-level tại Việt Nam đang tìm hiểu cách ứng dụng công nghệ CDP và AI Agent vào vận hành thực tế.

Quảng Trị: Gắn khoa học-công nghệ vào bảo tồn và phát huy giá trị Di sản Phong Nha-Kẻ Bàng

Quảng Trị đẩy mạnh ứng dụng khoa học-công nghệ, tạo nền tảng để Phong Nha-Kẻ Bàng tiếp tục được quản lý, bảo tồn hiệu quả, phát huy các giá trị nổi bật, trở thành động lực phát triển du lịch bền vững.

Mỹ: Thành phố New York cấm học sinh sử dụng AI

Quy định áp dụng đối với “tất cả phần mềm sử dụng AI tạo sinh hướng tới học sinh” từ lớp 8 trở xuống, và được mô tả là lệnh cấm sử dụng AI có phạm vi rộng nhất tại Mỹ hiện nay.

Việt Nam định vị mô hình phát triển trong giai đoạn mới