Hệ thống gắn nhãn AI của Instagram lại tiếp tục gây tranh cãi

Các nhãn AI hiển thị trên Instagram được cho là giúp người dùng nhanh chóng nhận diện nội dung do AI tạo ra ngay từ cái nhìn đầu tiên. Tuy nhiên, trong vài tuần qua, người dùng liên tục báo cáo rằng hệ thống này đang hoạt động bất thường. Họ cho biết Meta đã tự động gắn nhãn “AI Content” (Nội dung AI) vào những hình ảnh mà họ không hề tạo ra hoặc chỉnh sửa bằng các công cụ AI tạo sinh. Trong khi đó, những hình ảnh thực sự do AI tạo ra lại lọt lưới, tạo cảm giác rằng không gì trên Instagram là đáng tin cậy cả.

Nguyên nhân chính xác dẫn đến việc gắn nhãn này dường như rất đa dạng. Nhiều người cho biết nhãn xuất hiện trên các hình ảnh được chỉnh sửa bằng các công cụ như Background Remover của Canva hoặc chỉ sử dụng rất ít các công cụ xóa khuyết điểm. Một người dùng trên Threads cho biết Instagram gắn nhãn “mỗi khi có sự can thiệp của công cụ xóa nền”, và một người dùng khác nói rằng nhãn xuất hiện sau khi họ dùng Canva để xóa “một đốm nhỏ” trên ảnh, dẫn đến việc toàn bộ hình ảnh bị Instagram gắn cờ là AI. Trong các trường hợp khác, nguyên nhân thậm chí còn mơ hồ hơn.

Nếu sự cố gắn nhãn này nghe có vẻ quen thuộc, có lẽ bạn còn nhớ một vấn đề tương tự từng gây ảnh hưởng đến nhiếp ảnh trên Instagram với nhãn “Made by AI” vào năm 2024, chỉ vài tháng sau khi tính năng này được ra mắt. Vào tháng 2 năm đó, Meta thông báo sẽ quét hình ảnh để tìm siêu dữ liệu IPTC và C2PA, vốn có thể chứng minh với độ tin cậy hợp lý liệu AI tạo sinh có được sử dụng để tạo hoặc thao túng chúng hay không. Nhưng Meta luôn tỏ ra mơ hồ về các phương pháp của mình. Năm 2024, hệ thống phát hiện này được cho là đã quét nhầm những bức ảnh có siêu dữ liệu Adobe cho thấy chúng đã được chỉnh sửa bằng các công cụ AI tạo sinh, ngay cả khi các thay đổi cực kỳ nhỏ và về cơ bản vẫn là cùng một bức ảnh. Sau đó, Meta hứa sẽ điều chỉnh cách tiếp cận gắn nhãn để phản ánh chính xác hơn “lượng AI được sử dụng trong một hình ảnh”. Họ cũng cho biết mình sử dụng “các chỉ báo tiêu chuẩn ngành mà các công ty khác đưa vào nội dung từ công cụ của họ”, nhưng hiện không có thông tin mới nào về các chỉ báo đó là gì, hoặc cách thức và thời điểm họ quét chúng. Meta đã không phản hồi yêu cầu làm rõ.

Các nhãn sai lệch được báo cáo gần đây không có mối liên hệ rõ ràng với việc sử dụng AI tạo sinh. Mặc dù các tính năng như xóa nền thường sử dụng học máy, nhưng đó là loại AI hỗ trợ mà các ứng dụng như Photoshop đã sử dụng trong các công cụ chọn và xóa đối tượng trong hơn một thập kỷ qua — chứ không phải các công cụ chuyển văn bản thành hình ảnh (text-to-picture) thường gắn liền với hình ảnh AI gây hiểu lầm.

Ít nhất một số sự cố gắn nhãn AI gần đây của Instagram dường như là lỗi từ phía Canva. Sau khi nêu lên những lo ngại về việc gắn nhãn của Background Remover, chuyên gia chiến lược nội dung Jess Bruno cho biết Canva đã phản hồi cô với lời giải thích: Một số công cụ AI hỗ trợ của nền tảng thiết kế này “đã bị gắn nhãn nhầm là AI tạo sinh”. Nền tảng thiết kế này nói với Bruno rằng các công cụ của họ hiện đã gắn nhãn chính xác. Một thông báo trên trang trợ giúp xóa nền của Canva cũng cho biết việc sử dụng công cụ này “không thêm siêu dữ liệu nội dung do AI tạo của Canva vào thiết kế của bạn”, mặc dù không rõ ghi chú này có mới hay không, và Canva đã không phản hồi yêu cầu bình luận.

Tuy nhiên, một số người dùng Threads báo cáo rằng việc sử dụng Background Remover của Canva vẫn khiến hình ảnh của họ bị gắn nhãn, bất chấp việc Canva tuyên bố đã giải quyết vấn đề từ phía họ. Những người dùng Threads khác cũng báo cáo rằng không có hình ảnh nào họ chỉnh sửa bằng công cụ này trước khi nó được sửa lỗi bị Instagram gắn nhãn, và công cụ này cũng không áp dụng siêu dữ liệu C2PA mà Meta được cho là sử dụng để phát hiện nội dung do AI tạo ra.

Trong tất cả các thử nghiệm tôi thực hiện để xem điều gì khiến nhãn xuất hiện trên Instagram, nó chỉ được áp dụng trên những hình ảnh tôi chỉnh sửa hoặc tạo hoàn toàn bằng ứng dụng Meta AI.

Cũng có những trường hợp được báo cáo về việc gắn nhãn AI mà Background Remover của Canva được cho là chưa bao giờ được sử dụng. Một người dùng phát hiện ra rằng Meta đã áp dụng nhãn lên một hình ảnh đã bị “đầu độc” (poisoned) — hoặc bị tinh chỉnh tinh vi bởi một hệ thống được thiết kế để làm cho hình ảnh trở nên vô dụng đối với việc huấn luyện AI và/hoặc làm suy giảm các mô hình AI mà chúng được đưa vào — và không gắn nhãn phiên bản chưa bị đầu độc của cùng một nội dung đó.

Nhãn AI Content cũng tự động được áp dụng cho các bức ảnh gần đây được đăng lên Instagram bởi About Face, một công ty mỹ phẩm do ca sĩ Halsey thành lập. Khi một người bình luận hỏi về nhãn AI, người quản lý mạng xã hội ẩn danh của thương hiệu cho biết không có AI nào được sử dụng để tạo ra các hình ảnh đó. “Bức ảnh này được chụp trên iPhone của tôi và sau đó được tôi chỉnh sửa nhẹ trong ứng dụng ảnh. Thương hiệu của chúng tôi sử dụng nghệ sĩ thực và người thật để tạo ra mọi thứ bạn thấy trên tất cả các nền tảng của chúng tôi,” câu trả lời của About Face viết.

Tôi đã liên hệ với About Face để làm rõ những công cụ nào trong ứng dụng Ảnh của iPhone đã được sử dụng, nhưng công ty vẫn chưa phản hồi. Tuy nhiên, chỉ một số ít công cụ mới thêm siêu dữ liệu AI tạo sinh vào ảnh: Spatial Reframing, Extend và tính năng Clean Up được cập nhật trong iOS 18. Các công cụ này sử dụng Apple Intelligence và được nhúng hình mờ SynthID vô hình của Google; hai công cụ đầu tiên thêm các yếu tố tạo sinh mới, trong khi công cụ thứ ba cho phép người dùng xóa các đối tượng hoặc người gây xao nhãng. Các hình ảnh bị gắn nhãn không có SynthID được nhúng, theo xác minh dựa trên Gemini của Google, nhưng ngay cả khi các công cụ Apple Intelligence đó được sử dụng, cũng không rõ tại sao nhãn lại nói rằng nó phát hiện các tín hiệu “thường xác định nội dung hoàn toàn do AI tạo ra thay vì nội dung chỉ được sửa đổi bằng AI”.

Nghiêm túc mà nói, Meta thực sự đang quét những tín hiệu AI nào? Các công ty thường che giấu chi tiết chính xác về hệ thống kiểm duyệt của họ để ngăn chặn những kẻ xấu lợi dụng hệ thống, nhưng hiện tại, những người dùng bình thường đang thực sự bối rối.

Tín hiệu duy nhất mà tôi chắc chắn biết hiện sẽ kích hoạt Instagram gắn nhãn AI Content là tín hiệu do chính các hệ thống AI tạo sinh của Meta áp dụng. Tôi đã tự thực hiện các thử nghiệm với hầu hết các công cụ nêu trên, tải lên những bức ảnh được chỉnh sửa bằng Background Remover của Canva, công cụ xóa nền của Photoshop, các tính năng AI tạo sinh Firefly của Adobe, mô hình Nano của Google trong Gemini và các tính năng Apple Intelligence trên iOS. Một số được tạo hoàn toàn bằng AI, và tôi xác nhận rằng một vài trong số đó có chứa tín hiệu C2PA và SynthID. Tuy nhiên, trong trường hợp của tôi, Meta không gắn nhãn bất kỳ hình ảnh nào trong số đó.

Tôi đã đăng những bức ảnh đó trên một tài khoản Instagram hoàn toàn mới mà tôi thiết lập với thông tin tối thiểu, và tôi đăng chúng liên tiếp nhau. Tôi không thể cố gắng hơn để hành động giống như một bot hoặc một trang trại AI, điều mà bạn có thể nghĩ sẽ là ứng cử viên hàng đầu cho những gì Meta nên tìm kiếm. Tuy nhiên, ngay cả sau khi Meta thông báo trấn áp các tài khoản AI vào tuần trước, tài khoản của tôi cũng không bị gắn nhãn là hồ sơ do AI tạo ra, và các bức ảnh cũng không bị gắn nhãn. Đến thời điểm này, chúng đã tồn tại và công khai hoàn toàn trong gần hai tuần.

Kết quả khiến tôi tự hỏi liệu có bất kỳ sự hợp lý nào trong cách Meta áp dụng các nhãn “AI Content” hay không. Chúng được cho là giúp người dùng dễ dàng tin tưởng hơn vào những gì họ thấy trên Instagram, nhưng đến thời điểm này, tôi thậm chí sẽ không tin vào chính các nhãn đó nữa.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.