Reuters: Công cụ phát hiện ảnh AI của Meta 'bó tay' trước ảnh đã qua cắt ghép

Theo tin từ IT ngày 11 tháng 7, kết quả kiểm thử được Reuters công bố vào ngày 10 cho thấy một công cụ phát hiện hình ảnh AI do Meta ra mắt trong tuần này đang tồn tại những hạn chế rõ rệt: một số hình ảnh được tạo bởi chính mô hình Muse Image của Meta chỉ cần qua thao tác cắt xén (crop) là công cụ này không thể xác định được nguồn gốc AI của chúng.

Meta đã giới thiệu công cụ phát hiện này cùng lúc với việc ra mắt Muse Image và tuyên bố rằng ngay cả khi hình ảnh bị cắt xén, công cụ vẫn có thể nhận diện được nội dung do Meta AI tạo ra. Tuy nhiên, kết quả kiểm thử của Reuters cho thấy các thao tác chỉnh sửa hình ảnh thông thường cũng có thể làm suy yếu khả năng phát hiện của công cụ này.

Reuters đã sử dụng Muse Image để tạo ra 40 hình ảnh. Công cụ phát hiện đã nhận diện thành công tất cả các ảnh gốc, nhưng khi cùng loạt ảnh đó bị cắt xén xuống còn khoảng một phần ba đến một phần hai kích thước ban đầu, 55% số ảnh đã không thể vượt qua quá trình xác minh.

Theo tìm hiểu của IT, Muse Image sẽ nhúng một loại watermark ẩn có tên là Content Seal vào mỗi hình ảnh được tạo ra. Trên trang web chính thức, Meta khẳng định công cụ phát hiện có thể xác nhận hình ảnh có phải do mô hình AI của Meta tạo ra hay không thông qua hệ thống watermark này, ngay cả khi hình ảnh đã qua cắt xén.

Phản hồi về kết quả kiểm thử của Reuters, Meta nhấn mạnh rằng công cụ phát hiện vẫn đang trong phiên bản xem trước (preview). Content Seal được thiết kế với mục tiêu duy trì tín hiệu watermark sau các thao tác chỉnh sửa thông thường, nhưng một khi hình ảnh bị cắt xén quá mức, tín hiệu vẫn có thể bị mất.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.