Cuộc chiến của TikTok chống lại làn sóng nội dung rác do AI tạo ra

Với sự hỗ trợ của AI (trí tuệ nhân tạo), tin giả ngày càng trở nên tinh vi, buộc các nền tảng như TikTok phải sử dụng chính AI để ngăn chặn và xử lý các tài khoản chuyên phát tán nội dung rác do AI tạo ra.

AI đang mang đến nhiều cơ hội sáng tạo nội dung hơn mỗi ngày, giúp cộng đồng kể những câu chuyện mới mẻ và phong phú hơn. Tuy nhiên, mặt trái của công nghệ này là nhiều kẻ gian đang lạm dụng để phát tán nội dung rác, đặc biệt là trong các lĩnh vực có tác động lớn đến an sinh xã hội như chính trị, tin tức thời sự, tư vấn tài chính và y khoa.

Chỉ trong ba tháng đầu năm nay, TikTok đã gỡ bỏ hơn 86 triệu tài khoản giả mạo. Để phát hiện và chống lại các nội dung độc hại được tạo ra bởi AI, nền tảng này sử dụng chính AI để xác thực nội dung (Content Credentials). Đến nay, TikTok đã gắn nhãn nội dung AI cho hơn 3 tỉ video, đồng thời cung cấp bộ công cụ gắn nhãn dành cho nhà sáng tạo và công nghệ đánh dấu bản quyền ẩn (invisible watermarking technology).

Ứng dụng TikTok trên điện thoại

ẢNH: KHƯƠNG NHA

Ông Tom Varghese, Trưởng bộ phận Trí tuệ nhân tạo, Chính sách toàn cầu của TikTok, cho biết ngoài việc cung cấp cho các nhà sáng tạo nội dung công cụ để gắn nhãn AI, nền tảng đang sử dụng giải pháp xác thực nội dung của C2PA (Coalition for Content Provenance and Authenticity - Liên minh về Nguồn gốc và Tính xác thực của nội dung).

Chứng chỉ này gắn siêu dữ liệu vào video, được dùng để nhận dạng và gắn nhãn các nội dung do AI tạo ra (AIGC). "Thông tin được mã hóa đến từng pixel vào trong hình ảnh hoặc video khiến kẻ gian khó có thể xóa bỏ các 'dấu vết' kỹ thuật số. Nếu có người dùng AI để tạo ra video rồi chia sẻ lên các nền tảng, chúng tôi có thể phát hiện, nhận dạng và gắn nhãn ngay lập tức", Varghese giải thích về cách nền tảng đánh dấu và nhận diện AIGC.

Tuy nhiên, đại diện TikTok cũng lưu ý nền tảng này không có cơ chế phân phối riêng biệt dành cho nội dung truyền thống so với nội dung được tạo bằng AI. "Nếu đó là nội dung có hại, chúng tôi sẽ xóa nó khỏi TikTok, bất kể nó được tạo ra bằng AI hay không", Varghese nói.

Liên quan đến vấn đề bản quyền, đại diện TikTok cho biết: "Nếu ai đó tạo ra nội dung bằng AI mà không có sự đồng ý của chủ thể liên quan, người dùng có thể báo cáo để yêu cầu gỡ bỏ".

Cách nhận biết nội dung do AI tạo ra

Theo chuyên gia của TikTok, AI có thể phát triển nhanh nhưng vẫn để lại các chi tiết bất thường. Đầu tiên, người dùng hãy kiểm tra xem video đó có gắn nhãn được tạo ra bởi AI hay không. Sau đó, hãy kiểm tra tiếp các chi tiết sau:

Phần lồng tiếng quá hoàn hảo: Tiếng nói, bình luận quá mượt mà, không bị vấp hoặc không khớp với nội dung của video cũng là dấu hiệu của AIGC.