Chuyên gia: Video AI 18+ xuất hiện trên feed không đồng nghĩa với sở thích người dùng

Thuật toán không chỉ nhìn vào nút "thích"

Sau một vài lần vô tình bắt gặp quảng cáo phim AI có nội dung nhạy cảm, một số người dùng phản ánh với phóng viên Dân trí rằng những video tương tự dường như xuất hiện ngày càng thường xuyên.

Trong bài viết “Đỏ mặt” vì phim AI 18+ tràn lan mạng xã hội, phóng viên đã ghi nhận tình trạng người dùng liên tục bắt gặp các quảng cáo phim AI có yếu tố 18+, dù không chủ động tìm kiếm hay theo dõi loại nội dung này.

Để lý giải vì sao hiện tượng này xảy ra, phóng viên Dân trí đã trao đổi với chuyên gia an ninh mạng, ông Ngô Minh Hiếu (Hiếu PC). Theo ông Hiếu, hệ thống đề xuất của các nền tảng không chỉ dựa vào từ khóa mà người dùng chủ động tìm kiếm.

Lịch sử xem, khoảng thời gian dừng lại ở một video, việc xem lại, bình luận, chia sẻ hay tiếp tục xem nhiều nội dung tương tự đều có thể trở thành những tín hiệu giúp hệ thống đánh giá mức độ quan tâm.

Theo ông Hiếu, thời gian dừng xem, lịch sử xem và các tương tác đều có thể trở thành tín hiệu để hệ thống đề xuất nội dung (Ảnh: nhân vật cung cấp).

Do đó, ngay cả khi không bấm "thích", việc dừng lại xem một video có thể cung cấp thêm dữ liệu cho hệ thống đề xuất.

Các nền tảng lớn cũng công khai sử dụng nhiều loại tín hiệu khác nhau cho hệ thống này. YouTube cho biết hệ thống đề xuất có thể dựa trên lịch sử xem, lịch sử tìm kiếm, các kênh đăng ký, lượt thích, không thích và phản hồi "Không quan tâm".

Hệ thống còn so sánh thói quen xem với những người dùng có hành vi tương tự để tìm ra nội dung có khả năng phù hợp.

Điều này cũng lý giải phần nào việc một người chưa từng gõ từ khóa "phim AI 18+" vẫn có khả năng được hệ thống thử đề xuất nội dung tương tự.

Việc một video nhạy cảm xuất hiện không đồng nghĩa thuật toán đã xác định người dùng yêu thích nội dung 18+, bởi hệ thống dựa trên nhiều tín hiệu khác nhau (Ảnh minh họa: Đoàn Thủy).

Tuy nhiên, ông Hiếu lưu ý việc một vài video nhạy cảm xuất hiện chưa đủ cơ sở để kết luận thuật toán đã xác định người dùng "thích xem phim 18+".

Các hệ thống đề xuất phải xử lý rất nhiều tín hiệu cùng lúc. Một người dừng lại vì tò mò, bất ngờ hoặc thậm chí vì khó chịu cũng có thể tạo ra hành vi bề ngoài tương tự việc họ quan tâm tới video.

Ở chiều ngược lại, những tín hiệu chủ động như "Không quan tâm", "Không đề xuất kênh này" hay nút không thích cũng được một số nền tảng sử dụng để điều chỉnh nội dung được đề xuất.

Vì sao báo cáo rồi vẫn có thể gặp lại?

Một câu hỏi khác được đặt ra là vì sao người dùng đã ẩn hoặc báo cáo một video nhưng sau đó vẫn có thể bắt gặp những nội dung gần giống.

Theo ông Hiếu, cần phân biệt giữa việc xử lý một video cụ thể và nhận diện cả một nhóm nội dung.

Cùng một đoạn phim có thể được đăng lại bởi tài khoản khác, cắt thành phiên bản ngắn hơn, thay đổi hình ảnh, âm thanh hoặc chỉ sử dụng một vài phân cảnh. Với AI tạo sinh, số lượng biến thể có thể được tạo ra với tốc độ lớn hơn trước.

Theo chuyên gia, thời gian dừng xem, lịch sử xem và các tương tác đều có thể trở thành tín hiệu để hệ thống đề xuất nội dung (Ảnh: Đoàn Thủy).

Một video cũng có thể chỉ chứa hình ảnh nhạy cảm trong vài giây, được làm mờ, cắt ghép hoặc liên tục thay đổi chi tiết. Điều này tạo thêm thách thức cho các hệ thống kiểm duyệt tự động vốn phải xử lý lượng nội dung khổng lồ.

Vì vậy, theo chuyên gia, không thể mặc định mọi video lọt qua kiểm duyệt đều do người đăng cố tình "lách thuật toán". Tuy nhiên, khả năng tạo hàng loạt biến thể bằng AI đang khiến bài toán phát hiện và xử lý nội dung nhạy cảm trở nên phức tạp hơn.

Các nền tảng cũng thừa nhận vấn đề này trong chính sách của mình.

TikTok quy định một số nội dung mang tính gợi dục dù không nhất thiết bị xóa vẫn có thể bị loại khỏi bảng tin For You hoặc hạn chế theo độ tuổi. Meta cũng phân biệt giữa nội dung được phép tồn tại trên nền tảng và nội dung đủ điều kiện để hệ thống chủ động đề xuất cho người dùng.

Nội dung AI có thể được tạo thành nhiều phiên bản khác nhau, đặt ra thách thức cho cả hệ thống kiểm duyệt và đề xuất của các nền tảng (Ảnh minh họa: Getty Images).

Theo ông Hiếu, trách nhiệm vì thế không thể chỉ đặt lên người sử dụng.

Khi nền tảng xây dựng hệ thống lựa chọn và phân phối nội dung tới hàng triệu người, họ cũng cần đánh giá rủi ro, hạn chế việc khuếch đại nội dung nhạy cảm và xử lý hiệu quả khi người dùng báo cáo.

Đặc biệt với trẻ em, chuyên gia cho rằng cần kết hợp hệ thống nhận diện tự động với kiểm duyệt của con người, tăng khả năng phát hiện nội dung được đăng lại, hạn chế mạnh việc đề xuất nội dung tình dục và áp dụng những biện pháp xác minh độ tuổi phù hợp đối với nội dung người lớn.

"Việc người dùng nhìn thấy một vài video 18+ chưa đủ để kết luận thuật toán biết họ thích nội dung đó. Nhưng nếu nội dung nhạy cảm liên tục xuất hiện dù người dùng không có nhu cầu và đã phản hồi không quan tâm, nền tảng cần xem lại cả cơ chế kiểm duyệt lẫn hệ thống đề xuất", ông Hiếu nhận định.