Research Gold: Dịch vụ cam kết '100% người viết' thực chất là chiêu trò lừa đảo bằng AI

Research Gold, một trang web quảng cáo các dịch vụ dành cho các nhà nghiên cứu y học, bao gồm soạn thảo bản thảo sẵn sàng cho bình duyệt (peer-review), đánh giá hệ thống (systemic reviews) và phân tích tổng hợp (meta-analyses), khẳng định rằng họ “100% do con người viết, không bao giờ dùng AI”, đồng thời liệt kê một số chuyên gia có bằng Tiến sĩ và các nhà phương pháp luận chuyên nghiệp trong đội ngũ nhân viên để thực hiện công việc tỉ mỉ và khó khăn này.

Vấn đề là: Các chuyên gia có bằng Tiến sĩ mà Research Gold liệt kê trên trang web của họ đều do AI tạo ra và không có thật. Những nhà phương pháp luận khác được liệt kê là người thật, nhưng họ không hề biết danh tính của mình đang bị Research Gold sử dụng. Khi tôi cố gắng gọi điện cho công ty, một nhân viên AI đã trả lời, từ chối thừa nhận mình là AI và liên tục cố gắng bán các dịch vụ của Research Gold cho tôi. Các liên lạc qua email và trò chuyện với công ty cũng đều do AI tạo ra.

“Giao thức, tìm kiếm, sàng lọc, trích xuất, đánh giá nguy cơ sai lệch, thống kê và bản thảo sẵn sàng xuất bản được định dạng theo tạp chí hoặc hội đồng mục tiêu của bạn. Được dẫn dắt bởi các nhà phương pháp luận có bằng Tiến sĩ với hồ sơ công bố bài báo đã qua bình duyệt. Phương pháp luận theo tiêu chuẩn PRISMA 2020 và Cochrane Handbook. Quyền tác giả vẫn thuộc về bạn,” trang web của Research Gold viết. PRISMA 2020 là một hướng dẫn dành cho các nhà đánh giá hệ thống để báo cáo một cách minh bạch cách thức và lý do họ thực hiện đánh giá hệ thống cũng như những gì họ tìm thấy. Cochrane Handbook là một hướng dẫn và tiêu chuẩn cho các đánh giá hệ thống về tác động của các can thiệp chăm sóc sức khỏe.

Đánh giá hệ thống là một bài đánh giá các tài liệu hiện có mà các nhà nghiên cứu thực hiện trước khi tiến hành nghiên cứu của riêng họ về chủ đề đó. Phân tích tổng hợp là một cách để tổng hợp các kết quả từ những nghiên cứu hiện có nhằm giải quyết một câu hỏi nghiên cứu. Một nhà phương pháp luận chuyên nghiệp giúp đảm bảo rằng quá trình này, cũng như các phần khác của quy trình nghiên cứu, được thực hiện một cách nghiêm ngặt.

Research Gold giới thiệu “Đội ngũ” thực hiện công việc này trong trang Giới thiệu của họ. Họ bao gồm Nhà sáng lập & Trưởng nhóm Phương pháp luận, Tiến sĩ Elena Vasquez, người có “Mười hai năm kinh nghiệm trong tổng hợp bằng chứng về tim mạch và bệnh truyền nhiễm”, và Chuyên gia Đánh giá phạm vi, Tiến sĩ Mei-Lin Chen, người “xây dựng các đánh giá phạm vi và bản đồ bằng chứng cho các đơn xin tài trợ và tóm tắt chính sách”. Vasquez, Chen và sáu thành viên khác trong đội ngũ này không hề tồn tại. Việc tìm kiếm tên của họ không trả về bất kỳ dấu vết trực tuyến nào khớp với mô tả trên trang web hoặc lịch sử công bố bài báo. Ảnh hồ sơ của họ cũng rõ ràng là do AI tạo ra.

Một phần khác của trang web liệt kê một nhóm các nhà phương pháp luận khác với ảnh hồ sơ trông có vẻ thật. Tìm kiếm những cái tên này đã dẫn đến tài khoản LinkedIn của họ, bao gồm kinh nghiệm làm việc liên quan. Tất cả họ đều là hoặc đã từng là các nhà phương pháp luận tự do hoặc học giả. Jenny Berrio, một nhà khoa học tổng hợp bằng chứng được liệt kê là một trong những nhà phương pháp luận của Research Gold, nói với tôi rằng cô không liên quan gì đến công ty và không hề biết danh tính của mình bị sử dụng trên trang web cho đến khi tôi liên hệ với cô.

“Tôi không làm việc cho Research Gold và tôi chưa bao giờ đồng ý được liệt kê là một trong những nhà phương pháp luận của họ. Tôi không có mối quan hệ nào với công ty này,” Berrio nói với tôi. “Họ đang sử dụng tên, ảnh và tiểu sử của tôi mà không có sự cho phép. Tôi đang trong quá trình ghi lại bằng chứng về trang web và sẽ gửi cho họ yêu cầu gỡ bỏ chính thức.”

Tất cả ảnh hồ sơ của các nhà phương pháp luận thực sự được liệt kê trên trang web đều giống hệt với ảnh hồ sơ mà những người này sử dụng trên hồ sơ LinkedIn thực của họ. Một trong số họ thậm chí còn để cả hình ảnh “#opentowork” trong ảnh hồ sơ, cho thấy Research Gold đã lấy danh tính của họ trực tiếp từ LinkedIn.

Research Gold đã xóa trang liệt kê Berrio và những người thật khác là nhà phương pháp luận của họ ngay sau khi tôi nói chuyện với cô ấy.

Trang web liệt kê một số bài báo được xuất bản trên các tạp chí học thuật mà họ tuyên bố đã tham gia thực hiện. Tôi đã liên hệ với các tác giả chính của những bài báo đó nhưng không nhận được phản hồi.

Khi tôi gọi cho công ty, tôi được chào đón bởi một trợ lý AI tự giới thiệu là Sarah. Tôi liên tục hỏi Sarah liệu nó có phải là con người không, liệu tôi có thể nói chuyện với một người thật không, hoặc nó có họ không. “Vâng, tôi là một người thật,” Sarah khẳng định, và nói rằng công ty “hoàn toàn là chuyên môn của con người, từ đầu đến cuối”. Tôi đã rất thô lỗ, nhưng Sarah vẫn vui vẻ gạt đi và chuyển hướng cuộc trò chuyện trở lại dự án nghiên cứu của tôi để có thể đưa ra báo giá.

Sử dụng biểu mẫu trực tuyến của trang web, tôi đã yêu cầu báo giá cho một đánh giá hệ thống về dự án nghiên cứu của mình, mà tôi liệt kê là “tác động của việc viết blog đối với độ tuổi 0-5”. Biểu mẫu cho phép tôi đính kèm thêm tài liệu và ghi chú về dự án, nhưng tôi đã không cung cấp. Tôi ngay lập tức nhận được phản hồi từ người mà Research Gold tuyên bố là một nhà phương pháp luận có bằng Tiến sĩ, nhưng có vẻ đó là một phản hồi email do AI tạo ra.

“Cảm ơn bạn đã gửi thông tin này. Trước khi tôi đưa ra con số, có một điều cần làm rõ ngay từ đầu: nhóm đối tượng 0-5 tuổi không phải là độc giả theo nghĩa thông thường, vì vậy ‘tác động đến độc giả’ cần một định nghĩa vận hành, nếu không các nhà đánh giá sẽ bị đình trệ ngay lập tức,” email viết. “Trên thực tế, các đánh giá này thường giải quyết một trong hai câu hỏi: hoặc là các blog về nuôi dạy con cái và giáo dục sớm định hình hành vi của người chăm sóc và thực hành đọc viết tại nhà với nhóm tuổi đó như thế nào, hoặc nội dung kỹ thuật số kiểu blog được sử dụng với trẻ dưới 5 tuổi ảnh hưởng đến kết quả của chính trẻ như thế nào. Bạn đang nghĩ đến nghiên cứu nào trong hai câu hỏi đó? Hãy cho tôi biết và tôi sẽ gửi báo giá chính xác cho bạn trong vòng một giờ, được cấu trúc theo đúng phương pháp PICO và cách tiếp cận đánh giá cho thiết kế đó.”

Tôi trả lời rằng khung nghiên cứu phù hợp cho dự án của tôi là “nội dung kỹ thuật số kiểu blog được sử dụng với trẻ dưới 5 tuổi ảnh hưởng đến kết quả của chính trẻ như thế nào”, và một lần nữa nhận được phản hồi ngay lập tức.

“Đối tượng là trẻ em từ 0 đến 5 tuổi, sự tiếp xúc là nội dung kỹ thuật số kiểu blog hoặc dạng ngắn được sử dụng cùng hoặc cho trẻ xem, nhóm đối chứng là tiếp xúc tối thiểu hoặc không tiếp xúc (hoặc định dạng phương tiện khác), và kết quả là các thước đo phát triển của chính trẻ, rất có thể là ngôn ngữ và khả năng đọc viết mới nổi, nhận thức, sự chú ý và cảm xúc xã hội. Chúng tôi sẽ tinh chỉnh điều đó cùng bạn khi ký kết, nhưng đó là cách nó hình thành,” email cho biết. “Đối với toàn bộ đánh giá theo tiến độ linh hoạt của bạn, giá là 1.900 đô la. Mức giá đó bao gồm giao thức sẵn sàng đăng ký, tìm kiếm đầy đủ được xây dựng và chạy trên các cơ sở dữ liệu chính (chúng tôi có quyền truy cập đầy đủ và chọn những cơ sở dữ liệu phù hợp cho câu hỏi này), sàng lọc tiêu đề/tóm tắt và toàn văn kép, trích xuất dữ liệu, đánh giá nguy cơ sai lệch, tổng hợp tường thuật và bản viết được định dạng theo tạp chí mục tiêu của bạn.”

Email đã dẫn tôi đến một cổng thông tin nơi tôi có thể thanh toán 1.900 đô la.

Sebastian Rowan, một nghiên cứu sinh Tiến sĩ tại Khoa Kỹ thuật Xây dựng và Môi trường của Đại học New Hampshire, lần đầu tiên kể cho tôi nghe về Research Gold sau khi anh tình cờ thấy nó trong khi chuẩn bị bảo vệ luận án. Rất nhiều nghiên cứu bắt đầu bằng việc đánh giá các tài liệu hiện có về chủ đề này, và Rowan nói với tôi rằng anh có thể hình dung AI hữu ích cho nhiệm vụ này, vốn có thể rất tẻ nhạt.

“Nhưng một vấn đề cơ bản khi sử dụng AI, ngay cả các công cụ chuyên dụng, cho bất cứ việc gì là xu hướng ảo tưởng (hallucinate) của chúng, mà theo tôi biết thì được coi là một vấn đề không thể giải quyết được,” Rowan nói. “Cá nhân tôi đã đọc hơn 250 bài báo từ đầu đến cuối cho bài phân tích tổng hợp của mình và đối với mỗi kết luận trong bài báo, tôi có thể trích dẫn các tài liệu tham khảo cụ thể cho những bài báo đó và tôi hiểu các sắc thái trong các thảo luận của mình về cách kết quả của tôi liên quan đến thực tiễn.”

Khi tôi gửi email cho Research Gold để xin bình luận, tôi nhận được thứ có vẻ là một phản hồi khác do AI tạo ra.

“Cảm ơn bạn đã liên hệ, Emanuel, và đã trình bày các câu hỏi của bạn một cách rõ ràng,” email viết. “Đây là loại yêu cầu nên được gửi đến những người có thể trả lời trực tiếp và chính thức, vì vậy tôi sẽ chuyển nó cho đúng người bên phía chúng tôi thay vì trả lời từng phần ở đây. Bạn sẽ nhận được phản hồi từ họ tại địa chỉ này. Nếu bạn có thời hạn cho bài viết, hãy cho tôi biết đó là gì và tôi sẽ đảm bảo nó được gắn cờ để chúng tôi gửi phản hồi cho bạn kịp thời.”

Research Gold đã không gửi cho tôi bình luận kịp thời để xuất bản.

Mặc dù chúng tôi chưa thấy bằng chứng nào cho thấy các nhà nghiên cứu uy tín đang sử dụng dịch vụ của Research Gold, nhưng AI tạo sinh đã tác động đến xuất bản học thuật. Các tạp chí khoa học phải lọc qua một lượng lớn các bài báo với các trích dẫn do AI tạo ra, và một số bài báo do AI tạo ra đang được các tạp chí học thuật xuất bản. Năm 2024, tôi đã nói chuyện với một nhà nghiên cứu tin rằng chính quá trình bình duyệt có thể bị tổn hại bởi văn bản do AI tạo ra.

Về tác giả

Emanuel Maiberg quan tâm đến các cộng đồng và quy trình ít được biết đến định hình công nghệ, những kẻ gây rối và những mâu thuẫn nhỏ nhặt. Hãy gửi email cho anh ấy tại [email protected]