Google Earth gỡ bỏ tính năng AI tạo ảnh giả chỉ sau một ngày ra mắt

Google đã đóng tính năng Google Earth vừa ra mắt hôm thứ Năm, vốn cho phép người dùng chỉnh sửa hình ảnh vệ tinh bằng các câu lệnh văn bản sử dụng AI. Công cụ này về cơ bản cho phép người dùng tạo ra các deepfake AI về thế giới thực thông qua câu lệnh văn bản; ví dụ, Henk van Ess từ Digital Digging đã cố tình tạo ra các hình ảnh thêm thắt những chi tiết như người tị nạn gần biên giới Mexico và một hố bom cạnh bệnh viện ở Gaza. Vào thứ Năm, phản hồi ban đầu của Google đối với van Ess lưu ý rằng các hình ảnh được tạo bằng Nano Banana 2 trong Google Earth đều bao gồm hình mờ kỹ thuật số và công ty đã ngăn chặn việc "tạo hình ảnh về các chủ đề gây hại".

Một ngày sau, tuyên bố mới của Google cho biết: "Chúng tôi hiểu rằng mọi người đặt niềm tin đặc biệt vào Google Earth như một góc nhìn đáng tin cậy về thế giới. Chúng tôi đã thấy các chuyên gia địa không gian sử dụng tính năng này cho nhiều mục đích hữu ích, tuy nhiên chúng tôi cũng thấy người dùng chia sẻ ảnh chụp màn hình của các hình ảnh được tạo ra có dấu hiệu vi phạm chính sách của chúng tôi. Vì vậy, chúng tôi đang tạm dừng tính năng này trong Google Earth trong khi chờ triển khai các biện pháp bảo vệ mạnh mẽ hơn. Cần lưu ý rằng các hình ảnh được tạo ra không xuất hiện trên trải nghiệm Google Earth chính để người khác nhìn thấy và đều được đóng dấu là do AI tạo ra."

van Ess chỉ ra rằng ông đã có thể đánh lừa công cụ phát hiện AI của Hive bằng một video được tạo trong Google Earth, cho thấy các phương tiện truyền thông được tạo ra có thể lan truyền như thế nào bất chấp các hình mờ, và cho biết trong quá trình thử nghiệm của mình: "Không có gì bị từ chối, không có gì bị làm nhẹ đi và không có gợi ý nào yêu cầu tôi thử một câu lệnh khác."

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.