VTV Trung Quốc phanh phui đường dây lừa đảo hẹn hò bằng AI nhắm vào phụ nữ trung niên

Theo tin từ CCTV News ngày 27/8, gần đây trong xã hội đã xuất hiện các vụ lừa đảo hẹn hò qua mạng sử dụng AI nhắm vào phụ nữ trung niên, trong đó các đối tượng bất hảo sử dụng AI để tạo ra các "đối tượng hẹn hò" giả nhằm chiếm đoạt tài sản. Mới đây, cảnh sát Thành Đô, Tứ Xuyên đã triệt phá một băng nhóm lừa đảo "hẹn hò AI", bắt giữ 28 nghi phạm bao gồm đối tượng họ Vương.

Theo thông tin từ IT, nạn nhân là bà Biện đã nhìn thấy một công ty môi giới hôn nhân trên nền tảng video trực tuyến. Sau khi bày tỏ ý định muốn tìm đối tượng hẹn hò, một tài khoản có biệt danh "Chủ nhiệm Vương trung tâm mai mối" đã gửi cho bà thông tin của một người tên "Anh Lý", kèm theo chi tiết về tình trạng cá nhân và một bức ảnh. Bà Biện đã đóng tổng cộng 2.000 nhân dân tệ phí dịch vụ mai mối, nhưng sau đó không thể liên lạc được với "Anh Lý", còn "Chủ nhiệm Vương" ở phía bên kia màn hình cũng bắt đầu không phản hồi tin nhắn.

Qua điều tra, cảnh sát phát hiện công ty ký hợp đồng với bà Biện không hề tồn tại, nhưng khi kiểm tra thực tế, họ tìm thấy một công ty có độ tương đồng rất cao. Công ty này kinh doanh dịch vụ mai mối, nhưng tại hiện trường không có người tham gia hẹn hò hay "bà mối" nào cả, chỉ có các vị trí nhân viên kinh doanh, nhân viên dựng phim và streamer. Trên máy tính của các nhân viên dựng phim, cảnh sát đã nhìn thấy những hình ảnh AI giống hệt với tư liệu về các nam khách mời mà người báo án đã cung cấp.

Những dấu hiệu bất thường này khiến cảnh sát nhận ra đây không phải là một công ty môi giới hôn nhân thông thường. Sau đó, cảnh sát đã liên lạc được với ông chủ họ Vương thông qua nhân viên tại hiện trường. Trong cuộc điện thoại, Vương bày tỏ ý định hoàn tiền nhưng luôn né tránh các câu hỏi về nội dung hợp đồng. Mặc dù yêu cầu hoàn tiền của bà Biện đã được giải quyết, nhưng các cảnh sát điều tra vẫn không dừng lại. Thông qua việc theo dõi tài khoản livestream của Vương trong nhiều ngày, cảnh sát phát hiện hình ảnh của "Anh Lý" thường xuyên xuất hiện trên sóng.

Sau khi nắm giữ bằng chứng xác thực, cảnh sát đã bắt giữ 28 nghi phạm bao gồm Vương. Tại hiện trường bắt giữ, nhóm đối tượng này vẫn đang sử dụng hình ảnh nam giới AI để livestream, đồng thời chuẩn bị sẵn nhiều kịch bản và lời thoại. Từ việc xây dựng hình tượng nhân vật AI cho đến các tương tác thoại, mọi khâu trong buổi livestream đều được thiết kế tỉ mỉ.

Để tăng thêm sự tin tưởng của cư dân mạng, các streamer còn sử dụng thiết bị thay đổi giọng nói để giả danh "nam giới chất lượng cao có nhu cầu hẹn hò" khi livestream kết nối. Theo điều tra, công ty môi giới hôn nhân này hoàn toàn không cung cấp dịch vụ mai mối thực sự. Sau khi nạn nhân đóng phí dịch vụ, người trò chuyện với họ không phải là những "nam giới chất lượng cao" kia, mà là các nhân viên hậu mãi của công ty đang diễn "vở kịch hai vai".

Trong chưa đầy một năm, số tiền liên quan đến các vụ lừa đảo của băng nhóm này lên tới hơn 1 triệu nhân dân tệ, với khoảng hơn 50 nạn nhân bị thiệt hại về tài sản. Hiện tại, 28 nghi phạm bao gồm Vương đã bị cơ quan công an áp dụng các biện pháp cưỡng chế hình sự theo quy định của pháp luật.

CCTV News cho biết, thủ đoạn lừa đảo sử dụng AI để tạo dựng nhân vật giả mạo này gây ra những tác hại rõ rệt, đáng lo ngại hơn là loại hình lừa đảo này vẫn đang tồn tại trên các nền tảng video ngắn. Các nền tảng cần tăng cường kiểm tra và cảnh báo, thiết lập cơ chế xử lý phân cấp rủi ro. Khi phát hiện các phòng livestream hoặc video ngắn có dấu hiệu do AI tạo ra, mang đặc điểm dẫn dụ người dùng hẹn hò, yêu cầu chuyển hướng sang nền tảng khác hoặc đòi phí dịch vụ, các nền tảng không nên chỉ dừng lại ở việc gắn nhãn nội dung mà còn phải áp dụng các biện pháp hạn chế theo từng cấp độ, đồng thời chuyển giao các manh mối lừa đảo cho cơ quan công an, quản lý không gian mạng và các cơ quan chức năng liên quan theo quy định.

Các chuyên gia khuyến nghị rằng có thể tìm ra giải pháp thông qua việc cập nhật các phương tiện kỹ thuật và tăng cường quản lý phối hợp giữa các nền tảng. Các nền tảng không chỉ cần thực hiện nghiêm túc nghĩa vụ gắn nhãn nội dung do AI tạo ra, mà còn phải hoàn thiện hệ thống kiểm soát rủi ro nhận diện nội dung AI, tăng cường giám sát, cảnh báo và xử lý liên đới đối với các nội dung có rủi ro lừa đảo cao, từ đó chặn đứng việc đề xuất từ thuật toán và thu hẹp không gian tồn tại của thông tin giả ngay từ nguồn. Đối với người dùng phổ thông, cần xây dựng ý thức phòng ngừa rủi ro cho bản thân, khi đối mặt với các nội dung nghi ngờ do AI tạo ra, cũng có thể sử dụng các công cụ kỹ thuật để kiểm tra và xác minh thật giả.