Instagram siết chặt quản lý tài khoản AI: Đổi nhãn 'AI creator' thành 'AI-generated profile'

Instagram thông báo vào thứ Hai rằng họ đang thay đổi cách gắn nhãn các hồ sơ do AI tạo ra và sẽ bắt đầu hạn chế phạm vi tiếp cận của các tài khoản có hình ảnh người do AI tạo ra mà không công khai điều đó.

Nền tảng này cho biết họ đang đổi tên nhãn “AI creator” hiện tại thành “AI-generated profile”, điều mà Instagram cho rằng sẽ giúp người dùng dễ hiểu hơn về việc công khai thông tin. Nhãn mới này nhằm thông báo cho người dùng biết rằng nhân vật xuất hiện trên hồ sơ được tạo ra hoặc được xây dựng chủ yếu bằng AI.

Theo chính sách mới, những người sáng tạo không gắn nhãn đúng cách cho hồ sơ do AI tạo ra có thể bị giảm phạm vi tiếp cận. Ngược lại, những người sử dụng nhãn mới sẽ không bị xử phạt chỉ vì có một nhân vật do AI tạo ra làm chủ thể cho hồ sơ của họ.

Nhãn này cũng không áp dụng cho mọi trường hợp sử dụng AI. Instagram cho biết những người sử dụng AI để chỉnh sửa ảnh, trau chuốt chú thích, tạo đồ họa hoặc thực hiện các tinh chỉnh sáng tạo khác không cần phải sử dụng nhãn “AI-generated profile”.

Instagram cho biết thay đổi này một phần là để phản hồi lại những người dùng đã vô tình bắt gặp các hồ sơ trông giống như của người thật, nhưng sau đó mới phát hiện ra rằng nhân vật đó hoàn toàn do AI tạo ra.

“Khi AI tạo sinh (generative AI) trở thành một phần quan trọng hơn trong cách mọi người sáng tạo, chúng tôi nhận thấy rằng người dùng không thích việc nhìn thấy một hồ sơ có vẻ là người thật, để rồi sau đó mới biết nhân vật đó là do AI tạo ra,” Instagram viết. “Họ muốn biết khi nào một hồ sơ có sự xuất hiện của một người do AI tạo ra.”

Thời điểm đưa ra thông báo này rất đáng chú ý. Sự thất vọng đối với nội dung do AI tạo ra đang ngày càng gia tăng khi các AI influencer (người có ảnh hưởng do AI tạo ra) trở nên phổ biến hơn trên các nền tảng mạng xã hội.

Ví dụ, đầu năm nay, ứng dụng hẹn hò dành cho người đồng tính Goose đã trở thành chủ đề của một cuộc điều tra từ Wired sau khi một mạng lưới các nam influencer dường như do AI tạo ra quảng bá ứng dụng này trên Instagram. Wired đã tìm thấy hơn hai chục tài khoản có vẻ như sử dụng AI influencer, một số trong đó được cho là đã tiếp cận người dùng tiềm năng thông qua tin nhắn trực tiếp để lôi kéo họ đăng ký.

Nội dung về sức khỏe và thể chất là một ví dụ đáng lo ngại khác. Tờ The New York Times đưa tin vào tháng 7 rằng họ đã tìm thấy hàng trăm bác sĩ, chuyên gia chữa lành và nhân vật về sức khỏe do AI tạo ra trên mạng xã hội đang quảng cáo các loại thực phẩm bổ sung hoặc đưa ra các tuyên bố về sức khỏe cho người dùng.

Thông báo này được đưa ra sau khi Instagram đối mặt với làn sóng phản đối về một công cụ AI cho phép người dùng tạo hình ảnh sử dụng chân dung của người khác. Người dùng phản đối việc nội dung Instagram công khai của họ bị sử dụng mà không có sự đồng ý rõ ràng. Sau đó, Meta đã gỡ bỏ tính năng này.

Tuần trước, Meta đã đạt được thỏa thuận trị giá 18 tỷ USD với các bang của Hoa Kỳ liên quan đến các cáo buộc về ảnh hưởng của Facebook và Instagram đối với trẻ em và thanh thiếu niên. Là một phần của thỏa thuận, Meta sẽ giới thiệu giới hạn sử dụng mặc định hai giờ mỗi ngày cho thanh thiếu niên trên Facebook và Instagram, tính năng chặn “Night Mode”, tắt thông báo trong giờ học và các hạn chế khác.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lauren phụ trách mảng truyền thông, phát trực tuyến, ứng dụng và các nền tảng tại TechCrunch.

Bạn có thể liên hệ hoặc xác minh thông tin từ Lauren bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tại laurenforris22.25 trên Signal.

Xem tiểu sử