Meta khai tử tính năng AI cho phép tạo deepfake từ tài khoản Instagram công khai

Jay Peters

là phóng viên cấp cao chuyên đưa tin về công nghệ, trò chơi và nhiều lĩnh vực khác. Anh gia nhập The Verge vào năm 2019 sau gần hai năm làm việc tại Techmeme.

Sau làn sóng phản đối dữ dội, Meta đang tạm dừng tính năng được công bố trong tuần này, vốn cho phép người dùng tạo ảnh AI dựa trên nội dung từ các tài khoản Instagram công khai chỉ bằng cách gắn thẻ (tag) chúng. Theo thiết lập ban đầu, tính năng này đồng nghĩa với việc nội dung từ bất kỳ tài khoản Instagram công khai nào cũng có thể bị sử dụng để tạo ảnh AI mà không cần sự cho phép của chủ sở hữu tài khoản.

“Đầu tuần này, chúng tôi đã thông báo rằng một cách để mọi người tạo hình ảnh trong Meta AI là @-nhắc đến các tài khoản Instagram công khai mà họ muốn tham chiếu,” Meta cho biết trong bản cập nhật trên bài đăng blog về mô hình Muse Image AI mới của hãng. “Mục đích của chúng tôi là cung cấp một công cụ sáng tạo hữu ích và trao cho người dùng quyền kiểm soát việc liệu nội dung công khai của họ có thể được tham chiếu theo cách này hay không. Chúng tôi đã lắng nghe phản hồi rằng tính năng này chưa đạt yêu cầu, vì vậy nó sẽ không còn khả dụng nữa.”

Meta đã cho phép người dùng từ chối tham gia (opt out) bằng cách tìm kiếm trong phần cài đặt trước khi quyết định tắt hoàn toàn tính năng này, nhưng nó vẫn vấp phải sự chỉ trích gay gắt.

“Điều này không chỉ làm xói mòn quyền đối với hình ảnh cá nhân của chúng ta một cách rõ ràng… mà còn là công cụ hiển nhiên cho hành vi tống tiền tình dục (#sextortion) và các kẻ lừa đảo khác!” Haley McNamara, giám đốc điều hành kiêm giám đốc chiến lược của Trung tâm Quốc gia về Bóc lột Tình dục (National Center on Sexual Exploitation), cho biết vào đầu thứ Sáu. “Việc theo đuổi thiết kế có rủi ro cao và sau đó đẩy trách nhiệm cho các cá nhân phải thực hiện các bước phức tạp để từ chối tham gia là điều không thể chấp nhận được.”

Nghiệp đoàn Diễn viên Màn ảnh (Screen Actors Guild) đã khuyến nghị các thành viên của mình từ chối tham gia tính năng này và đưa ra hướng dẫn chi tiết về cách thực hiện.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.