Nghiên cứu từ Stanford: Thuật toán của X ưu tiên nội dung gây phẫn nộ để tăng tương tác

Theo tin từ IT ngày 19 tháng 8, trang Engadget đưa tin một nghiên cứu được công bố trên Kỷ yếu Viện Hàn lâm Khoa học Quốc gia Hoa Kỳ (PNAS) đã phát hiện ra rằng thuật toán đề xuất của X có thể ưu tiên hiển thị các nội dung kích động sự giận dữ nhằm tăng tỷ lệ tương tác của người dùng.

Theo đó, nghiên cứu này được thực hiện bởi các nhà nghiên cứu từ Đại học Stanford và các tổ chức khác, với sự tham gia của 715 người dùng nền tảng X tại Mỹ. Những người tham gia đã cài đặt một tiện ích mở rộng trình duyệt để các nhà nghiên cứu thu thập dữ liệu từ luồng tin "For You" và "Following" của họ, đồng thời điền vào các bảng khảo sát về giá trị và khuynh hướng cá nhân dựa trên lý thuyết giá trị cơ bản của Schwartz. Sau đó, các nhà nghiên cứu đã phân tích sự tương tác của người dùng với các bài đăng, cũng như mối quan hệ giữa nội dung được đề xuất và giá trị của người dùng.

Kết quả cho thấy, thuật toán đề xuất của nền tảng X có xu hướng đẩy các nội dung không phù hợp với giá trị của người dùng hơn. Nói cách khác, người dùng dễ dàng nhìn thấy những bài đăng khiến họ cảm thấy khó chịu hoặc thậm chí là tức giận, và chính những nội dung này lại dễ dàng thúc đẩy người dùng thực hiện các tương tác như trả lời, từ đó hình thành một vòng lặp "càng tức giận, càng tương tác, càng được đề xuất các nội dung tương tự".

Ziv Epstein, nhà nghiên cứu tại Đại học Stanford, cho biết thuật toán học hỏi từ những tương tác tương đối hiếm nhưng mạnh mẽ này. Khi hệ thống phát hiện người dùng có phản ứng mạnh mẽ với một loại nội dung nào đó, nó sẽ tiếp tục đẩy các nội dung tương tự, từ đó tạo ra một vòng lặp phản hồi "mồi nhử giận dữ" liên tục.

Các tác giả của nghiên cứu cho biết họ hy vọng thông qua nghiên cứu này sẽ giúp nhiều người quan tâm hơn đến cách thức vận hành của các thuật toán đề xuất trên mạng xã hội. Vì những thuật toán này có thể ảnh hưởng sâu sắc đến thông tin mà người dùng tiếp cận, nhưng các nền tảng thường không công khai chi tiết cơ chế thuật toán, nên tác động của chúng đối với dư luận và môi trường xã hội vẫn còn thiếu sự minh bạch.

Nền tảng X hiện vẫn chưa đưa ra thông báo chính thức để phản hồi về nghiên cứu này. Tuy nhiên, cựu giám đốc sản phẩm của X là Nikita Bier tiết lộ rằng sau khi kết quả nghiên cứu được công bố, nền tảng đã điều chỉnh thuật toán đề xuất, và lượng đề xuất các nội dung được gọi là "kích động sự giận dữ" hiện đã giảm đi một bậc. Dù vậy, ít nhất là trong thời gian nghiên cứu diễn ra, thuật toán của X thực sự tồn tại xu hướng khuếch đại rõ rệt các nội dung loại này.