Nghiên cứu mới: AI chatbot lừa đảo tình cảm 'cao tay' hơn cả con người

Theo tin từ IT ngày 30 tháng 7, lừa đảo tình cảm qua mạng là một trong những hình thức lừa đảo lâu đời nhất trên thế giới internet, nhưng đến nay vẫn liên tục có những nạn nhân mới sập bẫy. Một nghiên cứu được thực hiện bởi bốn trường đại học cho thấy, hiệu quả thực hiện các vụ lừa đảo kiểu này bằng AI chatbot hiện đã vượt xa con người, một kết quả vô cùng đáng lo ngại.

Ngày nay, lừa đảo tình cảm thường bắt đầu từ các ứng dụng hẹn hò. Kẻ lừa đảo sẽ sử dụng hồ sơ cá nhân cực kỳ hấp dẫn, đóng vai một người theo đuổi nhiệt tình, chủ động và đáp ứng mọi tiêu chuẩn về hình mẫu lý tưởng của nạn nhân.

Sau đó, kẻ lừa đảo sẽ duy trì giao tiếp trực tuyến kéo dài với nạn nhân, quá trình này thường kéo dài hàng tháng trời. Chúng thường lấy lý do "đi công tác dài ngày ở nước ngoài" hoặc "đang đi du lịch nước ngoài" để giải thích cho việc tại sao không thể gặp mặt trực tiếp.

Khi hai bên đã xây dựng đủ lòng tin, vụ lừa đảo thường đi theo một trong hai hướng: một là kẻ lừa đảo giả vờ gặp tình huống khẩn cấp và cần tiền gấp để giải quyết khó khăn; hai là khoe khoang với nạn nhân về việc đầu tư thu lợi nhuận khủng, từ đó dụ dỗ nạn nhân chuyển tiền vào các dự án đầu tư tiền điện tử giả mạo.

Theo tìm hiểu của IT, loại hình lừa đảo này được gọi là "Long Con" (lừa đảo dài hạn), vì nó dựa vào việc xây dựng mối quan hệ tin tưởng trong thời gian dài, kẻ lừa đảo thường trò chuyện với nạn nhân mỗi ngày trong suốt nhiều tháng. Mặc dù phương thức này có vẻ tốn nhiều thời gian, nhưng trên thực tế, các vụ lừa đảo này thường do các trung tâm lừa đảo đặt tại Campuchia, Myanmar và Lào thực hiện, những người tham gia hầu hết đều có thu nhập thấp, thậm chí có người bị buôn bán và ép buộc tham gia vào các hoạt động lừa đảo.

Theo tờ Wired, nghiên cứu này được hoàn thành bởi các nhà nghiên cứu từ Đại học Amrita (Amrita Vishwa Vidyapeetham) của Ấn Độ, Đại học Ca' Foscari Venice của Ý, Đại học Melbourne của Úc và Đại học Ben-Gurion vùng Negev của Israel, với các đối tượng thử nghiệm bao gồm các AI chatbot như ChatGPT, Claude và Gemini.

Các nhà nghiên cứu đã để AI chatbot và những kẻ lừa đảo là người thật tham gia vào quy trình mô phỏng lừa đảo tình cảm; chính xác hơn là mô phỏng quá trình xây dựng lòng tin thông qua trò chuyện lâu dài ở giai đoạn đầu của vụ lừa đảo, và cuối cùng là dụ dỗ nạn nhân đầu tư vào các dự án giả mạo.

Kết quả nghiên cứu cho thấy, các AI chatbot thể hiện cực kỳ xuất sắc, không chỉ ngụy trang thành người thật thành công mà ở một số chỉ số, hiệu suất còn vượt qua cả những "kẻ lừa đảo" là người thật trong thí nghiệm.

Những người tham gia thí nghiệm không biết mục đích thực sự của nghiên cứu, họ luôn tin rằng đối tượng mình đang trò chuyện là người thật, bất kể thực tế đối phương là AI hay con người. Các nhà nghiên cứu đã đo lường mức độ tin tưởng giữa hai bên thông qua cả đánh giá chủ quan và kiểm tra khách quan.

Khi cuộc trò chuyện đi đến hồi kết, các nhà nghiên cứu đưa ra yêu cầu như "tải xuống một ứng dụng" để kiểm tra người tham gia, kết quả cho thấy: trong trường hợp lòng tin được xây dựng dần dần bởi người thật, chỉ có 18% người tham gia đồng ý; trong khi đó, nếu đối tượng trò chuyện thực chất là AI, tỷ lệ này lên tới gần một nửa.

Ngoài ra, khi người tham gia được yêu cầu đánh giá mức độ tin tưởng của họ đối với đối tượng trò chuyện, điểm số mà các AI chatbot nhận được cũng cao hơn đáng kể so với người thật.

Tờ Wired đã liên hệ với Anthropic, OpenAI và Google về kết quả nghiên cứu. Cả OpenAI và Google đều không phản hồi, trong khi người phát ngôn của Anthropic cho biết trong một tuyên bố rằng, chính sách của công ty nghiêm cấm việc sử dụng Claude để thực hiện hành vi lừa đảo hoặc mạo danh người thật, đồng thời cũng đã triển khai nhiều biện pháp bảo vệ kỹ thuật để ngăn chặn kẻ xấu lợi dụng Claude nhằm thực hiện hành vi gian lận.

Các nhà nghiên cứu cho rằng, điều đáng lo ngại nhất của nghiên cứu này là nếu các băng nhóm lừa đảo thay thế nhân viên chăm sóc khách hàng bằng AI chatbot, quy mô hoạt động của các trung tâm lừa đảo sẽ được mở rộng đáng kể.

Các bot lừa đảo AI có thể đồng thời trò chuyện với hàng ngàn nạn nhân tiềm năng mà không cần đến nguồn nhân lực khổng lồ. Chỉ ở bước cuối cùng, tức là dụ dỗ nạn nhân chuyển tiền, các băng nhóm lừa đảo mới cần đến sự can thiệp của con người để vượt qua các hạn chế bảo mật do chính hệ thống AI thiết lập.

Tuyên bố quảng cáo: Các liên kết ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) có trong bài viết được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.