Khi AI kiểm duyệt nội dung bất lực trước vấn đề sự đồng thuận

Meta gần đây đã ra mắt Muse Image, một công cụ tạo hình ảnh bằng trí tuệ nhân tạo cho phép bất kỳ ai cũng có thể thao túng hình ảnh của bất kỳ người dùng Instagram nào có hồ sơ công khai. Giống như kính Meta — phụ kiện được trang bị tính năng nhận diện khuôn mặt cho phép người đeo ghi hình bất kỳ ai mà không cần sự đồng ý của họ — đây là một tính năng cực kỳ đáng lo ngại vì lạm dụng hình ảnh là một trong những hình thức bạo lực trên cơ sở giới do công nghệ hỗ trợ phát triển nhanh nhất.

Những hình ảnh đời thường không chứa nội dung nhạy cảm cũng có thể dễ dàng bị vũ khí hóa — như chúng ta đã thấy với Grok — và tác hại này đang lan rộng nhanh hơn bất kỳ đạo luật hay biện pháp bảo vệ sản phẩm nào. Khoảng trống đó không chỉ tạo điều kiện cho việc bóc lột cá nhân mà còn cho cả các thị trường có tổ chức trục lợi từ hành vi này.

Còn một khoảng trống khác: Các chính sách của Big Tech về việc thế nào là lạm dụng hình ảnh phần lớn dựa trên quan điểm phương Tây về việc điều gì làm cho một hình ảnh trở nên “thân mật”, thường là nội dung khiêu dâm và khỏa thân. Giả định rằng chỉ những hình ảnh có nội dung nhạy cảm mới gây hại là hoàn toàn sai lệch, khiến hàng triệu phụ nữ và những người khác không được bảo vệ.

AI có thể giúp giải quyết một số khía cạnh của thách thức kiểm duyệt nội dung, nhưng không thể giải quyết tất cả.

Nghiên cứu gần đây của chúng tôi tại Pakistan và trong cộng đồng người Pakistan ở nước ngoài cho thấy đối với hàng triệu phụ nữ, việc lạm dụng hình ảnh không liên quan nhiều đến việc chia sẻ hình ảnh nhạy cảm hay khỏa thân. Thay vào đó, một bức ảnh của một người phụ nữ thường đội khăn trùm đầu nhưng bị chụp lại khi không có khăn, một video cô ấy nhảy múa tại đám cưới, hoặc một bức ảnh cô ấy đứng cạnh một nam sinh cùng lớp đều có thể gây ra những hậu quả nghiêm trọng. Đối với nhiều phụ nữ ở Nam Á, Trung Đông hoặc cộng đồng người gốc các khu vực này, những bức ảnh đời thường này có thể bị vũ khí hóa và sử dụng để ám chỉ nhân phẩm kém hoặc các mối quan hệ bất chính.

Một trong những nạn nhân mà chúng tôi trò chuyện đã bị chồng cũ vũ khí hóa những bức ảnh selfie của chính cô — khi cô ăn mặc kín đáo, chụp cùng bạn bè, khoe kẻ mắt mới hoặc kiểu tóc mới — trong một chiến dịch lạm dụng kéo dài. Anh ta chia sẻ những hình ảnh đã qua chỉnh sửa với các liên hệ trên WhatsApp của cô để hủy hoại danh tiếng tại nơi làm việc, khiến anh em trong nhà quay lưng và đe dọa mối quan hệ của cô với cha mẹ. WhatsApp và các quan chức địa phương cho biết những hình ảnh đó không cấu thành nội dung nhạy cảm nên họ không thể can thiệp. Nhưng tác hại là có thật, ngay cả khi các chính sách không công nhận điều đó.

Nhiều phụ nữ trong báo cáo của chúng tôi kể về việc bị bóc lột tình dục hoặc tống tiền qua những bức ảnh đời thường tương tự. Tại những cộng đồng mà việc tìm đến cảnh sát là điều cấm kỵ, hoặc nơi sự phản đối của gia đình và bạo lực là những rủi ro hiện hữu, các nạn nhân trông chờ vào Big Tech để có các quy trình dễ tiếp cận và hiệu quả nhằm gỡ bỏ hình ảnh và buộc thủ phạm phải chịu trách nhiệm. Nhưng Big Tech đang làm họ thất vọng.

Các công ty công nghệ cho rằng có một sự căng thẳng vốn có giữa việc ngăn chặn lạm dụng trên nền tảng và bảo vệ quyền tự do ngôn luận, giữa việc tin tưởng các báo cáo lạm dụng và nỗi lo sợ về các báo cáo ác ý. Những lo ngại này không phải là không có cơ sở, nhưng sự cân bằng giữa rủi ro và tác hại chưa được điều chỉnh phù hợp với thực tế.

Tình trạng tin cậy và an toàn hiện nay đầy rẫy những mâu thuẫn. Khi các quốc gia hành động chống lại các tác hại trực tuyến và đưa ra các đạo luật cụ thể về lạm dụng hình ảnh như Đạo luật Take It Down ở Mỹ hay Đạo luật An toàn Trực tuyến ở Anh, các công ty đang phải chật vật để đảm bảo tuân thủ. Đồng thời, việc đầu tư vào sự tin cậy và an toàn đang giảm sút, các đội ngũ kiểm duyệt nội dung đã bị cắt giảm, với Meta, Amazon, TikTok và Alphabet đều thực hiện các đợt sa thải đáng kể. Chính quyền Trump đã tuyên bố rằng những người tham gia vào công tác kiểm duyệt nội dung và an toàn trực tuyến sẽ phải đối mặt với sự giám sát chặt chẽ hơn và bị từ chối cấp thị thực, càng làm giảm ưu tiên cho những lĩnh vực công việc quan trọng này.

Big Tech cần giải quyết bối cảnh cũng nhiều như giải quyết nội dung.

Điều này đã đẩy nhanh quá trình chuyển đổi sang sử dụng AI để xác định, gắn cờ và kiểm duyệt nội dung, bao gồm tài liệu lạm dụng tình dục trẻ em và nội dung bạo lực hoặc cực đoan. Các nhóm nhân quyền và đại diện Liên Hợp Quốc đã bày tỏ lo ngại về sự phân biệt đối xử, kiểm duyệt và xóa bỏ các tài liệu quan trọng do AI trong kiểm duyệt nội dung gây ra. Các công ty cho rằng AI nhanh hơn, hiệu quả hơn và có thể trở nên chính xác hơn. Nó cũng giúp các kiểm duyệt viên con người tránh được sang chấn tâm lý khi phải xem xét các nội dung độc hại.

Nhưng AI không thể tính đến yếu tố sự đồng ý. Đối với phụ nữ và các cộng đồng yếu thế khác, điều quan trọng không phải là nội dung của hình ảnh, mà là sự thiếu đồng ý, tác hại phải gánh chịu và ý đồ của kẻ thực hiện hành vi lạm dụng. Việc chia sẻ một hình ảnh trong một bối cảnh nhất định không đồng nghĩa với việc đồng ý cho hình ảnh đó bị chuyển tiếp, chụp màn hình hoặc đặt vào một bối cảnh khác. Một người phụ nữ đăng ảnh đại diện lên Instagram không có nghĩa là cô ấy đồng ý để nó bị AI thao túng, tải lên các nhóm Facebook và chia sẻ trong các nhóm WhatsApp. Tác hại nằm ở việc lấy, thao túng, chia sẻ hoặc đe dọa chia sẻ hình ảnh mà không có sự biết đến hoặc đồng ý của người đó, thay vì nằm ở nội dung bức ảnh thể hiện.

Đây là lý do tại sao cần có các đội ngũ kiểm duyệt nội dung con người được đào tạo bài bản ở cả cấp độ địa phương và toàn cầu. Các công ty cần chuyển sang khung làm việc dựa trên sự đồng ý vì nó hiệu quả trên mọi biên giới và văn hóa. Đây là khoản đầu tư mà Big Tech cần thực hiện và các chính phủ cần phải quản lý. AI có thể giúp giải quyết một số khía cạnh của thách thức kiểm duyệt nội dung, nhưng không thể giải quyết tất cả.

Meta đã gỡ bỏ Muse Image trong vòng 72 giờ sau khi ra mắt do làn sóng phản đối về khả năng lạm dụng của nó. Mọi người đều có quyền đối với hình ảnh của chính mình, và tiền đề cơ bản này sẽ giúp giải quyết hiệu quả hơn các vấn đề deepfake, mạo danh người nổi tiếng để lừa đảo tình cảm và việc chia sẻ nội dung không có sự đồng ý. Để việc kiểm duyệt nội dung trở nên có ý nghĩa và người dùng cảm thấy an toàn hơn — bất kể tuổi tác, vị trí hay ngôn ngữ — Big Tech cần giải quyết bối cảnh cũng nhiều như giải quyết nội dung. Kính thông minh và các công cụ tạo hình ảnh có thể chờ đợi.