TikTok xử lý hơn 8.000 tài khoản lợi dụng hình ảnh trẻ em để câu view bằng AI

Theo tin từ IT ngày 10 tháng 9, Douyin (TikTok Trung Quốc) hôm nay đã đăng tải "Thông báo của Douyin về việc tiếp tục quản lý các nội dung không lành mạnh liên quan đến trẻ vị thành niên".

Gần đây, nền tảng phát hiện một số tài khoản vi phạm đã lợi dụng các nhãn dán liên quan đến trẻ vị thành niên để tạo ra các chủ đề gây tranh cãi, sử dụng AI để tạo hình ảnh trẻ vị thành niên trong hoàn cảnh bi thương, hoặc giả dạng trẻ vị thành niên để livestream nhằm câu view, thu hút sự chú ý và làm nhiễu loạn hệ sinh thái nội dung của cộng đồng. Trước tình hình đó, nền tảng đã liên tục tăng cường công tác kiểm tra, nhận diện và xử lý các nội dung vi phạm. Trong một tháng qua, đối với các tình huống vi phạm liên quan đến trẻ vị thành niên, nền tảng đã xử lý tổng cộng 200.000 nội dung vi phạm, 2.044 phòng livestream vi phạm và 8.132 tài khoản vi phạm.

Các trường hợp vi phạm điển hình được công bố như sau:

Trường hợp vi phạm 1: Sử dụng nhãn dán nuôi dạy con cái để lan truyền nội dung không lành mạnh, tạo chủ đề gây tranh cãi nhằm câu view.

Các tài khoản như "**", "*" lợi dụng các nhãn dán như "nhật ký trẻ thơ", "bé yêu" để đăng tải các nội dung không lành mạnh liên quan đến bạo lực, trò đùa ác ý đối với trẻ vị thành niên, cố tình tạo ra các chủ đề gây tranh cãi để câu view, nuôi tài khoản và tăng người theo dõi. Nền tảng đã xử lý các nội dung vi phạm liên quan và cấm phát ngôn đối với các tài khoản này.

Trường hợp vi phạm 2: Sử dụng AI để tạo hình ảnh trẻ vị thành niên trong hoàn cảnh bi thương, dụ dỗ tương tác để thu hút người theo dõi và trục lợi.

Các tài khoản như "4*8", "4*6" đã sử dụng công nghệ AI để tạo ra các nội dung như "trẻ vị thành niên bị bỏng toàn thân nằm trên giường bệnh", cố tình tạo dựng hoàn cảnh bi thương của trẻ vị thành niên, dụ dỗ người dùng tương tác nhằm thu hút người theo dõi, kéo lưu lượng truy cập và trục lợi bất chính. Nền tảng đã xử lý các nội dung vi phạm liên quan và cấm phát ngôn đối với các tài khoản này.

Trường hợp vi phạm 3: Giả dạng hình ảnh trẻ vị thành niên để livestream, thu hút lưu lượng truy cập và sự chú ý.

Các streamer trưởng thành như "**" đã sử dụng cách trang điểm, trang phục, thay đổi giọng nói để giả dạng thành trẻ vị thành niên trong phòng livestream nhằm thu hút lưu lượng truy cập và sự chú ý. Nền tảng đã ngắt kết nối các phòng livestream vi phạm, đồng thời thu hồi quyền livestream và quyền kết nối liên kết của các tài khoản này.

IT lưu ý rằng, Douyin sẽ tiếp tục tăng cường các biện pháp kỹ thuật, xử lý nghiêm minh các nội dung vi phạm liên quan đến trẻ vị thành niên, xây dựng "bức tường" bảo vệ an toàn mạng cho trẻ vị thành niên, đồng thời khuyến khích các nhà sáng tạo nội dung thực hiện các nội dung liên quan đến trẻ vị thành niên một cách thân thiện và phù hợp.