Meta bị phát hiện chạy quảng cáo chứa hình ảnh lạm dụng tình dục trẻ em do AI tạo ra

Lời tòa soạn: Bài viết này có chứa mô tả về các hình ảnh liên quan đến lạm dụng tình dục trẻ em. Độc giả cần cân nhắc kỹ trước khi đọc.

Theo thông tin chi tiết về các quảng cáo được chia sẻ với WIRED, trong chín tháng qua, Meta của Mark Zuckerberg đã chạy hàng chục quảng cáo trả phí bao gồm các nội dung lạm dụng tình dục trẻ em (CSAM) do AI tạo ra và hình ảnh trẻ vị thành niên đi kèm với những tuyên bố gợi dục. Các quảng cáo này, trong một số trường hợp đã tiếp cận hàng nghìn tài khoản, được nhắm mục tiêu đến những người sống tại Hoa Kỳ, Vương quốc Anh và hơn một chục quốc gia châu Âu.

Hơn 50 quảng cáo dạng hình ảnh và video chứa nội dung lạm dụng gần đây đã được các nhà nghiên cứu tại Tech Transparency Project (TTP) phát hiện trong thư viện quảng cáo của Meta. Các danh mục này cho thấy một số quảng cáo dẫn đến các ứng dụng được gọi là "nudify" (ứng dụng lột đồ). Thư viện quảng cáo của Meta—một công cụ minh bạch liệt kê các quảng cáo hiển thị trên các nền tảng của công ty—cho thấy các quảng cáo này đã chạy trên Facebook, Instagram, Messenger và/hoặc Threads. Đây là lần thứ hai trong những tuần gần đây, các quảng cáo trả phí liên quan đến nội dung lạm dụng tình dục trẻ em được tìm thấy trên các nền tảng của Meta.

“Những quảng cáo này không hề cố gắng che đậy hình ảnh hay giấu giếm những gì họ đang quảng bá,” Katie Paul, giám đốc của TTP, một nhóm giám sát độc lập, chia sẻ với WIRED. “Điều quan trọng cần lưu ý là đây không phải là nội dung do bên thứ ba đăng tải trên Facebook hay Instagram, mà đây là những quảng cáo đã được Meta xem xét, phê duyệt và cho phép chạy, không hề gặp phải sự can thiệp nào trong khi công ty vẫn thu tiền quảng cáo.”

Các quảng cáo được các nhà nghiên cứu phát hiện—hiện đã bị Meta gỡ bỏ vì vi phạm chính sách về nội dung lạm dụng và bóc lột tình dục trẻ em, cũng như các nội dung khêu gợi tình dục và ảnh khỏa thân người lớn—đều được xuất bản từ tháng 11 năm ngoái đến đầu tháng 8. Theo dữ liệu trong thư viện minh bạch quảng cáo của Meta, các quảng cáo này thường chạy trong khoảng thời gian vài ngày và một số chỉ nhắm mục tiêu đến nam giới.

Các nhà nghiên cứu của TTP cho biết, một quảng cáo video đã sử dụng hình ảnh thu nhỏ (thumbnail) của một đứa trẻ đang ngồi trên sàn với dòng chữ phía trên: “Hiện thực hóa những tưởng tượng sâu kín với Generation AI [sic]. Còn nhiều điều hơn thế nữa so với những gì được hiển thị, hãy sử dụng trí tưởng tượng của bạn.” Các nhà nghiên cứu cho biết khi nhấp vào quảng cáo, nó sẽ phát các đoạn video người lớn tham gia vào các hành vi tình dục và sau đó ghép khuôn mặt của đứa trẻ từ hình ảnh thu nhỏ vào một hành vi tình dục.

Một quảng cáo khác mà các nhà nghiên cứu cho biết đã được đăng tải nhiều lần, hiển thị hình ảnh một cô bé đang nằm ngửa với đôi chân dang rộng trong tư thế gợi dục cùng dòng chữ phía trên: “Tôi có thể cho bạn xem nhiều hơn thế.”

Hầu hết các quảng cáo không còn được hiển thị tích cực cho người dùng khi các nhà nghiên cứu tìm thấy chúng, nhưng chúng vẫn tiếp tục tồn tại, dường như không bị phát hiện, trong thư viện quảng cáo của Meta trong nhiều tháng. Mặc dù theo dữ liệu của Meta, nhiều quảng cáo chỉ “tiếp cận” một số ít tài khoản, nhưng ít nhất một quảng cáo đã tiếp cận 2.563 tài khoản ở châu Âu—bao gồm Pháp, Đức, Ireland, Ý, Hà Lan, Tây Ban Nha, Thụy Điển và Vương quốc Anh. Cơ sở dữ liệu thư viện quảng cáo của Meta không bao gồm chi tiết về hiệu suất quảng cáo tại Hoa Kỳ hoặc tất cả các quốc gia, vì vậy phạm vi tiếp cận tổng thể có thể còn cao hơn.

Paul cho biết TTP lần đầu phát hiện các quảng cáo này vào tuần trước khi các nhà nghiên cứu của họ tiếp tục điều tra các quảng cáo ứng dụng nudify trên Meta, sau khi xuất bản một báo cáo về việc một đối tác quảng cáo Trung Quốc đăng tải chúng. Paul cho biết tổ chức đã ngay lập tức báo cáo những phát hiện này cho CyberTipline của National Center for Missing and Exploited Children (NCMEC), nơi cho phép mọi người báo cáo nội dung lạm dụng tình dục trẻ em trực tuyến. Một phát ngôn viên của NCMEC cho biết họ không bình luận về các báo cáo mà họ nhận được.

Sau khi WIRED liên hệ với Meta, công ty đã xóa các quảng cáo này khỏi thư viện quảng cáo của mình. “Bóc lột tình dục là một hành vi kinh khủng và chúng tôi làm việc quyết liệt để loại bỏ nó khỏi nền tảng của mình,” một phát ngôn viên của Meta cho biết. “Phần lớn các quảng cáo này có phạm vi tiếp cận tối thiểu và nhiều quảng cáo đã bị vô hiệu hóa trước khi WIRED chia sẻ chúng. Nhiều quảng cáo trong số này cũng xuất hiện trước khi chúng tôi ra mắt công nghệ AI mới gần đây để phát hiện và chặn tốt hơn các quảng cáo vi phạm ngay khi tải lên—và chúng tôi đang không ngừng cải thiện các hệ thống này. Từ việc xóa hơn 36 triệu nội dung bóc lột tình dục trẻ em vào năm ngoái đến việc thực hiện các hành động pháp lý chống lại các nhà phát triển ứng dụng nudify, chúng tôi sẽ tiếp tục đấu tranh không ngừng nghỉ với hành vi lạm dụng này.”