Reddit dùng AI để dẹp loạn spam do chính AI tạo ra

Tóm tắt

Đăng lúc:

8:22 sáng giờ PDT · Ngày 6 tháng 7 năm 2026

Việc các đối tượng xấu phát tán thư rác (spam) trên internet trở nên dễ dàng hơn bao giờ hết khi các mô hình ngôn ngữ lớn (LLM) mạnh mẽ ngày càng trở nên dễ tiếp cận. Nếu bạn đã dành khoảng 10 phút lướt internet trong vài năm gần đây, bạn sẽ biết rằng điều này đồng nghĩa với việc spam và nội dung từ bot đã trở thành một vấn đề lớn hơn nhiều so với trước đây.

Reddit cho biết họ đã phát triển các công cụ sử dụng LLM để cắt giảm spam, mà phần lớn trong số đó cũng được tạo ra bởi chính LLM. Nghe có vẻ hơi mỉa mai, nhưng trong kỷ nguyên AI, các nền tảng không còn lựa chọn nào khác ngoài việc "lấy độc trị độc". Theo nền tảng này, Reddit chặn 23 triệu lượt xem spam mỗi ngày và phát hiện khoảng 25.000 bài đăng cũng như bình luận spam mới mỗi ngày.

Các nền tảng mạng xã hội đã xây dựng các công cụ giảm thiểu spam tự động trong nhiều năm, nhưng Reddit cho biết các công cụ cập nhật này đang phát hiện spam với tỷ lệ cao hơn.

"Chúng tôi tận dụng LLM để nắm bắt các mô hình hành vi giả mạo và sự thổi phồng nhân tạo tinh vi mà các hệ thống cũ từng bỏ lỡ", một bài đăng trên blog của Reddit cho biết. Công ty tuyên bố đã giảm 20% mức độ tiếp xúc với spam của người dùng từ tháng 1 đến tháng 3 so với ba tháng trước đó.

Các nền tảng như YouTube, Meta và Instagram cho phép người dùng đăng nội dung do AI tạo ra miễn là họ công khai điều đó, và TikTok thậm chí còn tiến xa hơn khi cho phép người dùng tùy chỉnh mức độ nội dung do AI tạo ra mà họ muốn xem.

Nếu các nền tảng có thể phát hiện nội dung do AI tạo ra nhanh hơn, điều đó cũng có nghĩa là họ có tiềm năng gắn cờ các nội dung vi phạm như ngôn từ kích động thù địch nhanh chóng hơn. Tuy nhiên, các chuyên gia về nền tảng liên tục nhắc nhở chúng ta rằng việc kiểm duyệt nội dung bằng AI phải đi đôi với sự kiểm duyệt của con người để đạt được kết quả hiệu quả nhất.

Chủ đề

Đăng ký để nhận những tin tức công nghệ lớn nhất trong ngành

Tin mới nhất về Mạng xã hội