Douyin mạnh tay xử lý nội dung AI giả mạo thiên tai trong mùa lũ

Theo tin từ IT ngày 17 tháng 7, Douyin (TikTok bản Trung Quốc) hôm nay đã đưa ra thông báo: kể từ ngày 16 tháng 7, Trung Quốc chính thức bước vào giai đoạn then chốt của mùa lũ "thất hạ bát thượng" (từ cuối tháng 7 đến đầu tháng 8), các diễn biến thiên tai và tình hình phòng chống lũ lụt liên quan đang nhận được sự quan tâm rộng rãi. Trong giai đoạn quan trọng để phòng chống lũ lụt và tránh nguy hiểm, thông tin chân thực, chính xác và kịp thời không chỉ liên quan đến việc người dân phòng tránh thiên tai một cách khoa học và ứng phó khẩn cấp, mà còn giúp giảm thiểu sự hiểu lầm và hoang mang do tin đồn gây ra.

Qua kiểm tra, nền tảng phát hiện rằng khi sự quan tâm của xã hội tiếp tục tăng cao, gần đây hành vi lợi dụng các chủ đề nóng về thiên tai để lan truyền thông tin sai lệch nhằm câu view đã gia tăng đáng kể. Một số tài khoản đã sử dụng các thủ đoạn như xào xáo lại tin cũ, cắt ghép hình ảnh để bịa đặt tình hình thiên tai, hoặc sử dụng AI để tạo ra các hình ảnh thiên tai giả mạo nhằm phát tán nội dung độc hại, gây hiểu lầm cho công chúng và can thiệp nghiêm trọng vào việc công bố và lan truyền thông tin chính thống.

Douyin cho biết sẽ tiếp tục tăng cường quản lý thông tin liên quan đến thiên tai trong mùa lũ, kịp thời xác minh sự thật đối với các sự kiện nóng được công chúng quan tâm cao, đồng thời cung cấp thêm các tài liệu tham khảo thông tin chính thống thông qua các phương thức như thẻ xác thực, thanh thông báo xác thực ở cuối video, bảng xếp hạng tin đồn, v.v.; đồng thời tiếp tục tăng cường xử lý các nội dung vi phạm pháp luật, quy định và nội dung không phù hợp như bịa đặt tình hình thiên tai, làm giả thông báo của cơ quan chức năng, cố ý gây hoang mang dư luận, lợi dụng thiên tai để câu view.

Dưới đây là một số trường hợp điển hình về tin đồn liên quan đến thiên tai:

Trường hợp điển hình 1: Dùng tin tức và video cũ giả mạo tình hình thiên tai mới nhất

Một số tài khoản đã đóng gói lại các video về thiên tai lịch sử như lũ lụt, bão từ những năm trước, kèm theo các tiêu đề như "hiện trường mới nhất", "cảnh quay thực tế tại địa phương" để lan truyền, khiến công chúng lầm tưởng đây là tình hình thiên tai hiện tại. Ví dụ, có tài khoản đã lấy video lũ lụt nhấn chìm biển báo giao thông từ những năm trước để đóng gói thành video về tình hình lũ lụt năm nay.

Loại nội dung này có ít thông tin hình ảnh và khó nhận diện, nền tảng dựa vào năng lực cốt lõi của công nghệ AI để phân tích tổng hợp nội dung hình ảnh, quỹ đạo lan truyền lịch sử của tài khoản và các dữ liệu đa chiều khác nhằm nhận diện rủi ro thông minh, đồng thời kết hợp với cơ chế kiểm tra lại thủ công và đối chiếu chéo với thông tin chính thống để xử lý nhanh chóng và chính xác các nội dung vi phạm.

Trường hợp điển hình 2: Sử dụng AI để tạo hoặc chỉnh sửa hình ảnh thiên tai

Một số tài khoản nhờ vào AI để tạo ra hình ảnh, video hoặc chỉnh sửa các hình ảnh thực tế nhằm hư cấu hiện trường bị thiên tai, phóng đại tình hình, gây khó khăn cho việc phân biệt của công chúng.

Đối với loại tin đồn mới này, nền tảng liên tục cập nhật công nghệ nhận diện AI, vận dụng chuyên sâu các năng lực cốt lõi như phân tích hình ảnh, đánh giá tổng hợp đa phương thức để tăng cường hiệu quả nhận diện trước và chủ động khai thác các hình ảnh thiên tai giả mạo. Gần đây, nền tảng đã phát hiện và xử lý video do AI tạo ra về hiệu ứng tàn phá của lốc xoáy, ngăn chặn việc lan truyền thêm thông tin sai lệch.

Trường hợp điển hình 3: Bịa đặt, làm giả thông báo chính thức và thông tin cảnh báo thiên tai

Mạo danh các cơ quan chính phủ, cơ quan khí tượng để bịa đặt các nội dung như thông báo xả lũ, thông báo nghỉ học, thông báo cắt nước, cắt điện, cảnh báo bão, v.v., dễ gây hoang mang cho công chúng. Ví dụ, gần đây trên mạng lan truyền thông tin sai lệch rằng "bão số 13 Bạch Hải Đồn và bão số 14 Kình Ngư sẽ hình thành vào ngày 19 tháng 7".

Trong quá trình kiểm tra chuyên đề, nền tảng đã chủ động phát hiện các nội dung lan truyền liên quan, kết hợp với thông tin chính thống từ cơ quan khí tượng để xác minh tính xác thực, sau khi xác nhận là giả mạo đã lập tức xử lý.

Trường hợp điển hình 4: Phóng đại tình hình thiên tai, hư cấu thương vong và tình hình cứu hộ

Thông qua việc bịa đặt diễn biến thiên tai, hư cấu con số thương vong, dựng chuyện thông tin cứu hộ để thu hút sự chú ý và câu view, gây hiểu lầm cho công chúng.

Đối với loại thông tin này, nền tảng chủ động liên hệ với các phương tiện truyền thông chính thống và cơ quan quản lý để đối chiếu xác minh tình hình, sau khi xác nhận nội dung không đúng sự thật sẽ xử lý nhanh chóng, đồng thời báo cáo các manh mối về tin đồn.

IT ghi nhận, tính đến ngày 17 tháng 7, nền tảng Douyin đã xác minh tổng cộng 71 trường hợp tin đồn điển hình liên quan đến thiên tai, xử lý hơn 19.000 nội dung tin đồn liên quan, dọn dẹp hơn 16.000 tin đồn trong phần bình luận và xử phạt 20 tài khoản vi phạm. Đồng thời, Douyin đã ra mắt 39 thẻ xác thực, thanh xác thực ở cuối video đã đạt tổng cộng hơn 1,19 tỷ lượt hiển thị.

Tuyên bố quảng cáo: Các liên kết ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.