Google Earth gỡ bỏ tính năng AI ngay sau khi ra mắt vì tràn lan ảnh giả

AI của Google Earth vừa ra mắt đã bị rút vì tràn ngập deepfake

Tính năng chỉnh sửa ảnh bằng AI trên nền tảng Google Earth đã bị gỡ bỏ sau chưa đầy 24 giờ phát hành do hàng loạt ảnh giả lan tràn.

Google triển khai tính năng mới vào ngày 30/7, cho phép mô hình Nana Banana 2 truy cập nền tảng bản đồ Google Earth và chỉnh sửa hình ảnh địa điểm thông qua mô tả bằng văn bản. Tuy nhiên, nó gần như ngay lập tức bị sử dụng sai mục đích.

Henk van Ess, một nhà nghiên cứu AI và dữ liệu mở trên Internet, đã tạo ra những hình ảnh giả với độ chân thực cực cao, ví dụ như "các khu tập trung người tị nạn" dọc biên giới Mỹ - Mexico, hay một nhà máy điện hạt nhân hoàn chỉnh tại một địa điểm trống trải ở Iran.

"Khu tập trung người tị nạn" được tạo ra bằng dòng lệnh AI trên Google Earth. Video: X/henkvaness

Một số người dùng mạng xã hội còn sử dụng AI trong Google Earth để tạo ra hình ảnh về những trận lụt không có thật hoặc quái vật Godzilla đang tấn công trung tâm thành phố Los Angeles.

Tình trạng trên diễn ra khó kiểm soát, buộc Google phải thu hồi tính năng chỉ chưa đầy một ngày sau khi triển khai. "Chúng tôi đã chứng kiến các chuyên gia sử dụng tính năng này cho những mục đích hữu ích, nhưng cũng phát hiện nhiều người chia sẻ những bức ảnh giả và vi phạm chính sách của hãng. Chúng tôi quyết định gỡ bỏ tính năng trên Google Earth trong lúc phát triển những biện pháp phòng ngừa mạnh mẽ hơn", phát ngôn viên Google cho hay.

Google cho biết thêm rằng các hình ảnh tạo bằng AI đều được đóng dấu và không được hiển thị trên nền tảng Google Earth dành cho người dùng phổ thông.

Ảnh quái vật tấn công thành phố Los Angeles được tạo bằng AI trên Google Earth. Ảnh: Business Insider

Đây không phải lần đầu tiên một công ty ra mắt tính năng tạo nội dung bằng AI và phải lập tức gỡ bỏ.

Meta hôm 7/7 đã triển khai công cụ Muse Image - mô hình tạo ảnh miễn phí đầu tiên của bộ phận Meta Superintelligence Labs. Một tính năng trong đó cho phép chỉnh sửa ảnh của các tài khoản Instagram khác, miễn là nội dung đó được đặt ở chế độ công khai. Người dùng chỉ cần gắn thẻ tài khoản, sau đó Muse sẽ lấy ảnh của tài khoản đó để tạo sản phẩm AI.

Ngay sau khi xuất hiện, tính năng trên đã gây ra những lo ngại về quyền riêng tư. Meta khi đó khẳng định người dùng có thể điều chỉnh trong phần cài đặt nếu muốn ngăn người khác tạo ảnh AI từ bài đăng trên Instagram mà không cần phải chuyển tài khoản sang chế độ riêng tư.

Chỉ 3 ngày sau, tính năng này đã bị khóa hoàn toàn.

Điệp Anh (Theo Business Insider, Reuters, Wired)