Ứng dụng AI Kromix bị gỡ bỏ sau bê bối tạo ảnh Deepfake khiêu dâm

Theo tin từ IT ngày 19 tháng 8, tờ WIRED đưa tin một ứng dụng có tên Kromix gần đây đã chạy các chiến dịch quảng cáo gây tranh cãi trên nền tảng Meta. Ứng dụng này cho phép người dùng sử dụng AI để tạo ra nội dung khiêu dâm "deepfake" (hoán đổi khuôn mặt) của những người thật. Một trong những quảng cáo thậm chí còn sử dụng hình ảnh do AI tạo ra có độ tương đồng cao với một nữ chính trị gia nổi tiếng tại Mỹ. Lồng tiếng trong quảng cáo quảng bá Kromix là "AI dành cho đàn ông đích thực" và tuyên bố công cụ này "không có giới hạn", sau đó hiển thị hình ảnh nữ chính trị gia này chuyển từ bối cảnh thông thường sang video khiêu dâm.

Theo báo cáo, Kromix tự xưng là một công cụ "chuyển đổi phong cách hình ảnh bằng AI", nhưng thực tế lại có khả năng tạo ra "nội dung khiêu dâm không tự nguyện". Ứng dụng này đã chạy tổng cộng 32 quảng cáo trên nền tảng Meta và tất cả đều nhắm mục tiêu vào người dùng nam giới.

Sau khi tờ WIRED liên hệ với Meta và Apple, cả hai công ty đều đã có hành động xử lý. Trong đó, Meta đã gỡ bỏ các chiến dịch quảng cáo liên quan, còn Apple đã xóa Kromix khỏi App Store.

Apple cho biết, có khả năng Kromix đã thêm các nội dung và tính năng vi phạm sau khi vượt qua quy trình kiểm duyệt ban đầu của App Store. Apple nhấn mạnh rằng công ty luôn cấm các ứng dụng được sử dụng để tạo, phát tán hoặc tiêu thụ nội dung khiêu dâm, đồng thời sẽ tiếp tục tìm kiếm và loại bỏ các ứng dụng cũng như tài khoản nhà phát triển cố tình lách quy trình kiểm duyệt.

Sự việc lần này một lần nữa làm dấy lên mối quan ngại về các ứng dụng "lột đồ" bằng AI cũng như cơ chế kiểm duyệt quảng cáo trên các nền tảng mạng xã hội. Các công cụ này có khả năng tạo ra nội dung khiêu dâm cực kỳ chân thực mà không cần sự đồng ý của người trong cuộc, thậm chí quảng cáo còn có thể trực tiếp sử dụng hình ảnh của những người nổi tiếng ngoài đời thực để quảng bá.

Đồng thời, đây không phải là lần đầu tiên Apple xử lý các ứng dụng "lột đồ" tương tự trong thời gian gần đây. Ngay trong tháng trước, Luật sư thành phố San Francisco, David Chiu, đã yêu cầu Apple gỡ bỏ 8 ứng dụng có khả năng sử dụng AI để "lột đồ" trong ảnh, và Apple sau đó đã thực hiện các biện pháp xử lý liên quan.