Xiaohongshu mạnh tay dẹp loạn nội dung AI giả mạo: Xóa gần 120.000 bài viết trong 3 tháng

Theo tin từ IT ngày 3 tháng 9, tài khoản chính thức "Shu Guan Jia" của Xiaohongshu hôm nay đã đăng tải "Thông báo về việc quản lý nội dung giả mạo do AI tạo ra trong lĩnh vực thẩm mỹ y tế, homestay, v.v.", tuyên bố đưa việc quản lý nội dung giả mạo do AI tạo ra vào quy trình kiểm soát thường xuyên.

IT được biết từ thông báo rằng, gần đây Xiaohongshu phát hiện một số tài khoản lợi dụng AI để tạo ra các bài đánh giá trải nghiệm giả mạo, sử dụng hình ảnh do AI tạo ra hoặc cắt ghép để làm giả bối cảnh thực tế, bịa đặt các trải nghiệm như đi thăm cửa hàng, lưu trú, khám chữa bệnh, làm đẹp... nhằm gây hiểu lầm cho quyết định của người dùng.

Xiaohongshu tích cực hưởng ứng các yêu cầu quản lý liên quan từ cơ quan chức năng, thực hiện nghiêm túc trách nhiệm chủ thể của nền tảng và đã đưa việc quản lý nội dung giả mạo do AI tạo ra vào quy trình kiểm soát thường xuyên. Nền tảng tăng cường quản lý trên ba phương diện:

Thứ nhất, chi tiết hóa các trọng tâm kiểm soát, xác định các kịch bản rủi ro cao như dùng AI tạo hình ảnh giả mạo bối cảnh thực tế, AI tạo hàng loạt bài đánh giá đồng nhất, bịa đặt trải nghiệm cá nhân; ưu tiên bao phủ các danh mục như du lịch lưu trú, y tế thẩm mỹ, giáo dục, bất động sản, v.v.

Thứ hai, tập trung làm sạch nội dung tồn đọng, xử lý các nội dung giả mạo trong quá khứ từ nhiều khâu như bài đăng, bình luận, tài khoản.

Thứ ba, bổ sung chiến lược kiểm soát chặt chẽ nội dung mới, đồng thời tăng cường khả năng nhận diện các nội dung AI không được gắn nhãn, tăng cường phát hiện các trường hợp sử dụng lại cùng một hình ảnh hoặc video trên nhiều địa điểm và tài khoản khác nhau.

Từ tháng 6 đến tháng 8 năm nay, nền tảng đã xử lý gần 120.000 bài đăng giả mạo do AI tạo ra. Các trường hợp điển hình như sau:

1. Người dùng Ni * Ba ( *) đăng tải trải nghiệm thẩm mỹ y tế giả mạo bằng AI, nền tảng đã gỡ bỏ nội dung liên quan và khóa tài khoản vi phạm.

2. Người dùng Chui * Feng ( *) đăng tải hình ảnh và văn bản giả mạo về homestay bằng AI, bịa đặt trải nghiệm lưu trú, nền tảng đã gỡ bỏ nội dung liên quan và cấm phát ngôn tài khoản vi phạm.

3. Người dùng Xin * Ge ( *) đăng tải thông tin giả mạo về bối cảnh gia đình và kinh nghiệm giáo dục bằng AI để bán tài liệu học tập, nền tảng đã gỡ bỏ nội dung liên quan và khóa tài khoản vi phạm.

Xiaohongshu khuyến khích người sáng tạo sử dụng AI để hỗ trợ sáng tạo; đồng thời vui lòng sử dụng tính năng tuyên bố nội dung AI của nền tảng để gắn nhãn khi đăng tải các nội dung có sự tham gia của AI. Nếu phát hiện nội dung giả mạo nghi do AI tạo ra, hoan nghênh người dùng phản hồi thông qua mục "Báo cáo" ở góc trên bên phải bài đăng.