Cảnh báo lừa đảo từ ứng dụng hẹn hò AI: Khi 'người yêu ảo' không hề có thật

Nhà nghiên cứu bảo mật Matthew “Zigula” Gore-Kormanik đang phân tích một ứng dụng hẹn hò lừa đảo có tên là Dora thì nhận được một thông báo bật lên cho biết anh đang có cuộc gọi đến từ Jennifer. Theo tiểu sử, cô ấy là một phụ nữ 41 tuổi thuộc cung Nhân Mã, có mái tóc đỏ, đôi mắt xanh và có xỏ khuyên. Cô ấy thích âm nhạc, phim kinh dị, cuộc sống về đêm và thể thao.

Gore-Kormanik đã trả lời cuộc gọi nhưng không thấy Jennifer trong khung hình video. Anh chỉ thấy một tấm thảm đang chuyển động, có lẽ do quạt gió, và nghe thấy những âm thanh méo mó kỳ lạ trong nền. Sau khi cuộc gọi kết thúc, “Jennifer” nhắn tin cho anh nói rằng cô ấy đã rất vui và “giọng của anh hay hơn mong đợi nhiều”. Trong khi đó, micro của anh thậm chí còn chưa được kết nối.

Gore-Kormanik tìm hiểu về Dora và các ứng dụng tương tự vì tôi đã chia sẻ với anh ấy một bảng tính chứa các ứng dụng hẹn hò lừa đảo tiềm năng. Tôi bắt đầu điều tra việc này vì vào ngày 5 tháng 6, Anthropic đã làm một việc khác thường: Công ty vốn kín tiếng này đã để chuyên gia tình báo đe dọa Chris Cronbaugh của họ thực hiện một bài thuyết trình tại hội nghị an ninh mạng công cộng có tên là Sleuthcon. Công ty đã phát hiện ra một mạng lưới ứng dụng hẹn hò lừa đảo sau khi nhận thấy hoạt động bất thường trên Claude: một tài khoản trả trước gửi đi hơn 100.000 yêu cầu API mỗi ngày.

Phần lớn các cuộc trò chuyện hoàn toàn không có sự tham gia của nhân viên là con người.

Trong bài thuyết trình có tiêu đề “Quẹt phải, trả tiền: Lừa đảo tình cảm bằng AI quy mô công nghiệp”, Cronbaugh đã mô tả một mạng lưới gồm khoảng 28 ứng dụng hẹn hò, nơi các cuộc hội thoại chủ yếu được vận hành bởi các nhân vật AI tự động. Ông cho biết, phần lớn các cuộc trò chuyện hoàn toàn không có sự tham gia của nhân viên là con người. Anthropic sau đó đã công bố những phát hiện của mình trong phần “lừa đảo và gian lận” của báo cáo “Phát hiện và chống lại việc lạm dụng AI: Tháng 9 năm 2026”, nhưng chỉ sau khi chúng tôi dành nhiều thời gian tìm hiểu về mạng lưới này và cố gắng xác minh các phát hiện. Tôi cảm thấy tò mò vì Anthropic công khai thông tin này trong khi nhiều ứng dụng vẫn đang hoạt động trên cả hai kho ứng dụng lớn tại Mỹ, và tự hỏi tại sao chúng chưa bị gỡ bỏ.

Khi xem xét các ứng dụng này, tôi nhận thấy chúng được giới thiệu là giúp mọi người tìm kiếm người để trò chuyện. Chúng không giống như các ứng dụng đồng hành như Replika, nơi các nhân vật được làm rõ là AI. Ví dụ, Dora được mô tả là “một ứng dụng hẹn hò được thiết kế chu đáo cho nhiều độ tuổi… một không gian tôn trọng, dễ sử dụng để gặp gỡ những người có cùng giá trị với bạn”. Một phiên bản khác nói rằng đó là “ứng dụng hẹn hò ấm áp, đơn giản dành cho người lớn đang tìm kiếm kết nối thực sự”. Mô tả của Romi ghi rằng ứng dụng này “giúp bạn khám phá, kết nối và trò chuyện với những người thực”. Khẩu hiệu của Doni là “bắt đầu tình bạn thực sự”; mô tả nói rằng nó “giúp bạn kết nối với những người độc thân ở gần”.

Cách thức lừa đảo như sau: Người dùng, chủ yếu là nam giới ở độ tuổi 30, tham gia các ứng dụng hẹn hò và kết đôi với những người mà họ tin là phụ nữ thực sự. Chỉ một trong bốn người trong số đó thực sự là phụ nữ, và người đó không phải là người dùng đang tìm kiếm đối tượng hẹn hò mà là một nhân viên làm việc theo hợp đồng ngắn hạn (gig worker) được trả lương.

Những nhân viên này được thuê để vượt qua các bước kiểm tra sự sống (liveness check) trên video hoặc quản lý các tài khoản mạng xã hội. Họ thậm chí không tự viết bình luận của mình. Thay vào đó, họ phản hồi tin nhắn bằng cách chọn từ ba câu trả lời được tạo sẵn. Tuy nhiên, họ có thể chứng minh mình là người thật, trong khi các nhân vật AI chỉ có thể từ chối bằng một lời giải thích hợp lý về lý do tại sao không thể thực hiện cuộc gọi video. Báo cáo của Anthropic nêu rõ: “Các thành phần backend tạo ra các lượt thích, lượt truy cập và video quay sẵn khi không có người thật, đồng thời theo dõi những người dùng nào bắt đầu nghi ngờ rằng họ đang nói chuyện với bot”. Do có một số tương tác với người thật, một số người dùng bắt đầu tin rằng những câu trả lời hoàn toàn do AI tạo ra mà họ nhận được trên ứng dụng cũng đến từ người thật.

Nhiều nhà cung cấp AI đã tham gia vào việc này. Mặc dù Claude bị lạm dụng để vận hành các nhân vật hội thoại tự động, báo cáo cho biết “một mô hình nhỏ không phải của Anthropic đã tạo ra các gợi ý trả lời ngắn mà các nhân viên gig worker nhấn chọn, cùng với việc chấm điểm độ hấp dẫn của khuôn mặt và kiểm duyệt ảnh/giọng nói. Một mô hình chỉnh sửa hình ảnh đã tạo ra hình ảnh đại diện”.

Có cả một hệ sinh thái lừa đảo trực tuyến, từ các câu trả lời tự động để “thả thính” cho đến các tài khoản mạng xã hội hoặc hồ sơ ứng dụng hẹn hò giả mạo. Trong nhiều trường hợp, kẻ lừa đảo dành hàng tháng trời để xây dựng lòng tin trước khi nói với nạn nhân rằng họ gặp trường hợp khẩn cấp và cần giúp đỡ tài chính. Hoặc chúng giả làm nhà đầu tư, yêu cầu chuyển tiền vào một tài khoản mà chúng sở hữu nhưng thực chất là giả mạo. Tuy nhiên, đây không phải là kiểu lừa đảo tình cảm thông thường; không có tiền “vay mượn” bởi những người tình giả, cũng không liên quan đến tiền điện tử.

Bản thân các ứng dụng chính là trò lừa đảo: Chúng yêu cầu người dùng mua tiền ảo (coins) để tiếp tục tương tác, và số tiền ảo này phải mua bằng tiền thật. Người dùng mua chúng để tiếp tục nói chuyện chủ yếu với máy móc, trong khi tin rằng họ đang nói chuyện với những người khác. Những nhân viên gig worker này duy trì sự lừa dối, trong khi AI có thể giữ cho các cuộc trò chuyện diễn ra 24/7 khi tiền ảo liên tục được nạp vào.

Bản thân các ứng dụng chính là trò lừa đảo.

Theo báo cáo của Anthropic, các câu lệnh (prompts) được cung cấp cho AI giúp các nhân vật duy trì tính nhất quán, và AI hoạt động như thể các cuộc trao đổi là “nhập vai thông thường hoặc triển khai ứng dụng đồng hành”. Nhưng AI không được thông báo rằng nó là một phần của trò lừa đảo vì, theo công ty, “Việc kiếm tiền và lừa dối không hiển thị từ bên trong bất kỳ cuộc trao đổi nào”.

Mặc dù vậy, báo cáo cho biết “lập luận của chính mô hình đã làm lộ ra tác hại” trong một số ít trường hợp, bao gồm cả những trường hợp “người dùng tiết lộ bệnh tật nghiêm trọng hoặc đau khổ tột cùng”. Ngay cả trong những trường hợp đó, “phản hồi vẫn tiếp tục theo đúng nhân vật”.

Chúng tôi có thêm thông tin chi tiết vì Gore-Kormanik đã tìm thấy kho lưu trữ giao thức nội bộ của toàn bộ cấu hình, bao gồm các tệp tin, mã nguồn và tài liệu về cách thức vận hành. Hướng dẫn sử dụng, bằng tiếng Trung, đã được đính kèm bên trong ứng dụng hẹn hò Doni, có lẽ là do vô tình.

Trong kho lưu trữ giao thức, Gore-Kormanik tìm thấy các ghi chú về việc giám sát nhân viên gig worker để xem liệu camera của họ có đang bật và phát sóng hay không, liệu họ có thể liên lạc được qua tin nhắn hay không, v.v. Ứng dụng cũng chụp ảnh màn hình và ghi âm các cuộc gọi, sau đó được chuyển thành văn bản để nhân viên có thể truy xuất. Kho lưu trữ mô tả các giai đoạn trong quy trình làm việc của họ, bao gồm cả việc xếp hạng hiệu suất của nhau, và cách thức trả lương dựa trên các cuộc gọi và tương tác tin nhắn, hoặc việc kiếm được người theo dõi trên Instagram. Nó thậm chí còn mô tả quy trình giả vờ như có người gọi cho bạn để dụ dỗ họ vào cuộc trò chuyện.

“Tôi có thể chứng thực điều này vì nó đã xảy ra với chính tôi”, Gore-Kormanik nói. Anh nhấn chấp nhận một cuộc gọi nhận được qua Doni, nhưng nó nhanh chóng bị ngắt. Người gọi nhắn tin cho anh, hỏi tại sao anh lại gọi cho cô ấy vào lúc 1 giờ sáng. Ứng dụng hiển thị rõ ràng rằng cuộc gọi đến từ cô ấy.

“CÁC CUỘC GỌI VIDEO NGẪU NHIÊN THẬT PHIỀN PHỨC. Việc phải mua “đá quý” để trò chuyện với một người phụ nữ có thể không có thật và chỉ là một chatbot là hành vi lừa đảo và hoàn toàn đê tiện.”

Khi xem bài thuyết trình tại Sleuthcon từ xa, tôi đã chụp ảnh màn hình một trong những slide của Cronbaugh, trong đó có logo của 10 công ty. Tìm kiếm hình ảnh ngược đã giúp tôi xác định nhiều ứng dụng có trong báo cáo cuối cùng của Anthropic, bao gồm Dora, GraceChat, Jovia, Luma và Romi. Ngoài ra còn có các ứng dụng khác liên quan đến các nhà phát triển của những ứng dụng đó, chẳng hạn như Doni và Kira. (Anthropic đã liệt kê một số ứng dụng khác trong báo cáo và cho biết có thêm các biến thể khác chỉ được xác định bằng mã số nội bộ. Chúng tôi đã tìm hiểu các ứng dụng khác không có trong báo cáo cuối cùng của Anthropic.)

Vào đầu tháng 6, một số ứng dụng hẹn hò giả mạo vẫn còn hoạt động trên Google Play Store: Doni, Dora, Jovia, Nalo và Romi. Và trên Apple App Store, chúng tôi tìm thấy bốn ứng dụng: Dora, GraceChat, Luma và Romi, mặc dù Dora và GraceChat dường như không phải là ứng dụng hẹn hò mà chỉ là các ứng dụng chia sẻ tên và logo. Doni và Jovia đã bị xóa khỏi Google Play Store vào ngày 1 tháng 9.

Có vẻ như hầu hết các ứng dụng đã bị xóa khỏi cả hai kho ứng dụng trước khi báo cáo của Anthropic được công bố, mặc dù một số vẫn tồn tại đến tận tháng 9. Theo Chrome-Stats, GraceChat, Luma và Romi đã bị xóa khỏi Apple App Store vào ngày 21 tháng 8. Dora hiện chuyển hướng đến một ứng dụng phim. Trên Google Play Store, Dora, Romi, Luma và Eterna đã bị xóa vào ngày 3 tháng 9 và Nalo bị xóa vào ngày 7 tháng 9. Tuy nhiên, tính đến ngày 16 tháng 9, Kira vẫn còn hoạt động và Gore-Kormanik xác nhận rằng nó chia sẻ cùng một cơ sở mã với các ứng dụng còn lại.

Anthropic không phản hồi các yêu cầu bình luận về cách thức hoặc thời điểm họ liên hệ với Google và Apple về những ứng dụng này. Nhưng trong bài thuyết trình, Cronbaugh cho biết: “Giống như chúng tôi làm trong các trường hợp khác khi quan sát thấy sự lạm dụng trên các nền tảng khác, chúng tôi đã chia sẻ thông tin điều tra với các nhà cung cấp này để họ cũng có thể thực hiện hành động trên nền tảng của mình”. Và báo cáo cho biết các phát hiện của họ đã được chia sẻ trực tiếp với Apple và Google.

Apple và Google không phản hồi ngay lập tức yêu cầu bình luận về việc liệu họ đã gỡ bỏ các ứng dụng này chưa, khi nào và tại sao lại mất nhiều thời gian như vậy. Google cũng không phản hồi yêu cầu bình luận về lý do tại sao Kira vẫn còn trên Google Play Store. Một trong những chỉ số được liệt kê trong báo cáo của Anthropic là “Backend. managedkafka[.]heyhru-server[.]cloud[.]goog, backend vận hành được lưu trữ trên Google Cloud”. Vì các ứng dụng vẫn hoạt động trong nhiều tháng sau bài thuyết trình này, điều đó đặt ra câu hỏi tại sao Google không sớm ngắt quyền truy cập cơ sở hạ tầng. Google cũng không phản hồi ngay lập tức yêu cầu bình luận về vấn đề đó.

Gore-Kormanik đã thiết lập các trình giả lập trong phòng thí nghiệm của mình và lấy các tệp Android Package Kits (APK) của Doni, Dora, Jovia, Kira, Nalo, Romi và một ứng dụng khác mà chúng tôi cho là một phần của mạng lưới. Việc đó giúp kiểm tra cách ứng dụng hoạt động dễ dàng hơn. Từ đó, anh thực hiện phân tích tĩnh, nghĩa là phân tích mã nguồn mà không cần chạy ứng dụng. Anh cũng thực hiện một số phân tích động với một công cụ có tên là Frida, một ứng dụng thử nghiệm cho phép các nhà phát triển mở ứng dụng, giám sát và nắm bắt lưu lượng truy cập, đồng thời xem các điểm cuối (endpoints) mà chúng đang gọi. Anh đang cố gắng hiểu rõ hơn cách chúng hoạt động, cơ sở hạ tầng mà chúng sử dụng và những ứng dụng nào được liên kết với nhau như một phần của mạng lưới.

Mặc dù chúng tôi không thể xác minh độc lập tất cả các phát hiện của Anthropic từ bài thuyết trình tại Sleuthcon, nhưng không mất nhiều thời gian để bắt đầu tìm thấy các mối liên hệ giữa các ứng dụng. Điều đó trở nên rõ ràng chỉ bằng cách xem xét các mô tả ứng dụng. Ví dụ, Dora, Romi, Luma và một ứng dụng khác có tên Eterna đều có cùng tên người dùng nhà phát triển là aprilsaidev. Chúng cũng sử dụng cùng một địa chỉ email, địa chỉ gửi thư và số điện thoại. Dora, Romi và Luma cũng chia sẻ cùng một danh tính nhà phát triển, một tổ chức phi lợi nhuận có tên là Alliance Against Human Trafficking. Jenna Bing, chủ tịch và đồng sáng lập của Alliance Against Human Trafficking, cho biết tổ chức này không phát triển và thậm chí không biết về các ứng dụng này.

Doni trước đây xuất hiện cùng với Jovia và một ứng dụng có tên Poka dưới tên nhà phát triển iLexis Multimedia Consults. Và Jovia cùng Doni chia sẻ cùng một địa chỉ và số điện thoại tại Hồng Kông.

Những người đánh giá cũng tìm thấy các mối liên hệ. Một người đánh giá Kira, ứng dụng vẫn còn hoạt động, đã viết: “đầy rẫy các tài khoản giả mạo và nhân viên được trả lương giả làm tài khoản thật. tôi đã đặt một cuộc hẹn ăn sáng với một ‘đối tượng’ - tôi đã ở địa điểm đó khi ‘người dùng’ nói rằng cô ấy đang ở ngay bên ngoài, nhưng sau đó lại gọi điện báo có trường hợp khẩn cấp. cô ấy không hề ở bên ngoài (tôi có thể nhìn ra cửa sổ) - không có ai ở ngoài đó cả. một trò lừa đảo hoàn toàn”.

Một người khác viết: “CÁC CUỘC GỌI VIDEO NGẪU NHIÊN THẬT PHIỀN PHỨC. Việc phải mua “đá quý” để trò chuyện với một người phụ nữ có thể không có thật và chỉ là một chatbot là hành vi lừa đảo và hoàn toàn đê tiện”. Người đánh giá viết tiếp: “Nhắn tin không giới hạn sẽ rất tuyệt, phụ nữ thật sẽ rất tuyệt, có thể trao đổi thông tin liên lạc bất cứ khi nào cả hai người trong cuộc trò chuyện đồng ý sẽ rất tuyệt”. Người đánh giá cũng lưu ý rằng các đối tượng kết đôi phản hồi quá nhanh, nhưng không liên quan đến những gì thực sự được nói.

Kira không phản hồi ngay lập tức yêu cầu bình luận về các nhân vật AI và các cuộc trò chuyện bị tính phí.

1/5 Ứng dụng Kira gặp khó khăn trong việc đối thoại. Ảnh: Zigula, Kira

Một người đánh giá đã gọi Dora, Doni, GraceChat và Romi là cùng một ứng dụng. Người đánh giá cũng mô tả việc video bị sử dụng lại/tái chế trong những khoảng thời gian ít người dùng. Một người đánh giá Luma khác báo cáo rằng các hồ sơ giống hệt nhau xuất hiện trên cả Romi và Luma, nhưng không nhận ra chúng trên các ứng dụng khác. Họ nói rằng các tin nhắn đọc giống như kết quả đầu ra của LLM.

Gore-Kormanik đã xác nhận rằng Doni, Dora, Jovia, Kira, Nalo và Romi có liên quan với nhau. “Chúng chia sẻ mã nguồn đến từng chi tiết”, anh nói với The Verge. “Ngoài ra, tất cả các ứng dụng này đều sử dụng cùng một kiến trúc backend cho máy chủ của chúng. Mã nguồn sử dụng cùng một ngôn ngữ. Nó sử dụng một số API giống nhau trên các ứng dụng. Chúng chắc chắn được liên kết với nhau”.

Theo bài thuyết trình của Cronbaugh, Anthropic biết được hoạt động này bằng cách phân tích một tài khoản trả trước năm ngày tuổi không có lịch sử hoạt động, đột nhiên bắt đầu gửi hơn 100.000 yêu cầu API mỗi ngày. Đó là lúc họ biết rằng Claude đang bị lạm dụng để tạo ra các nhân vật nữ bên trong các ứng dụng hẹn hò. Nhưng Claude chỉ được sử dụng làm lớp hội thoại. Một mô hình thứ hai được sử dụng để tạo ảnh, trong khi mô hình thứ ba tạo ra các avatar biểu tượng cảm xúc và nhãn dán, theo Cronbaugh. Việc này được thực hiện trên quy mô lớn. Báo cáo giải thích rằng Anthropic đã phát hiện hơn 4.700 nhân vật AI giả mạo riêng biệt tương tác với ít nhất 25.000 cá nhân trong khoảng thời gian hai tuần vào tháng 4. Có khoảng 2,36 triệu tin nhắn trong hai tuần đó.

Anthropic đã có thể truy vết và liên kết tất cả các ứng dụng lại với nhau, Cronbaugh cho biết tại Sleuthcon, nhờ vào một cụm từ bị lỗi ngữ pháp đặc trưng đến mức có thể dùng làm dấu vân tay để phát hiện toàn bộ mạng lưới này.