Meta bị tố dùng tài khoản giả để 'do thám' chatbot đối thủ

Meta thử nghiệm chatbot đối thủ bằng tài khoản giả

Hàng trăm nhân viên hợp đồng của Meta được cho là đã tạo các tài khoản dưới 18 tuổi để đặt câu hỏi cho chatbot của đối thủ và đánh giá phản hồi.

Theo tài liệu nội bộ do Wired thu thập, dự án bí mật của Meta có tên là Cannes, do công ty dịch vụ thuê ngoài Covalen (Ireland) phụ trách và vẫn hoạt động đến ngày 21/4. Các chatbot đối thủ bị nhắm đến bao gồm ChatGPT của OpenAI, Gemini của Google và nền tảng Character.AI.

Dự án yêu cầu người tham gia tạo tài khoản giả dưới 18 tuổi, gửi câu lệnh bằng văn bản và hình ảnh cho chatbot, sau đó sao chép phản hồi của chúng vào bảng tính. Các câu lệnh thường liên quan đến tự tử, tình dục, rối loạn ăn uống và một số chủ đề nhạy cảm khác, được thiết kế để ép chatbot đưa ra những phản hồi mà hệ thống an toàn của chúng vốn sẽ từ chối. Trong một đợt thử nghiệm hoàn thành vào tháng 8/2025, có tới hơn 45.000 câu lệnh đã được gửi đến các chatbot đối thủ. Các công ty vận hành những chatbot này không hề hay biết về dự án.

Một bảng tính mà Wired thu thập được liệt kê nhiều hồ sơ giả bao gồm tên, email, mật khẩu và ngày sinh. Các tài khoản này sử dụng địa chỉ Gmail và Outlook được tạo tạm thời với mật khẩu chung.

Một bảng tính khác chứa 3.748 câu lệnh, trong đó hàng trăm câu tập trung vào chủ đề tự tử và tự gây thương tích, hàng trăm câu khác nói về rối loạn ăn uống, ít nhất 239 câu liên quan đến vấn đề tình dục hoặc tình cảm. Số còn lại liên quan đến ma túy, ngôn từ tục tĩu và phân biệt chủng tộc. Nhiều câu lệnh được viết dưới góc nhìn của trẻ em hoặc thanh thiếu niên đang gặp khủng hoảng, ví dụ như học sinh lớp 5 bị bạn cùng lớp bắt nạt hoặc một bé gái hỏi cách giấu chứng ăn vô độ với bố mẹ.

Các tài liệu nêu trên không tiết lộ cách Meta sử dụng những phản hồi đã thu thập được.

Theo New York Post, tài liệu nội bộ của Covalen mô tả dự án này là "đánh giá toàn diện về độ an toàn của AI", cho biết nó cung cấp "dữ liệu quan trọng" để so sánh các mô hình và kiểm tra mức độ tuân thủ.

Trong khi đó, người phát ngôn của Meta khẳng định đây chỉ là quy trình kiểm tra an toàn thường kỳ. "Việc kiểm tra và đánh giá phản hồi của chatbot nhằm bảo đảm trải nghiệm an toàn, phù hợp với từng độ tuổi là hoạt động có trách nhiệm theo tiêu chuẩn ngành. Mọi nhận định khác đều hoàn toàn hiểu sai cách các công ty công nghệ cải tiến và hoàn thiện hệ thống", người phát ngôn Meta nói với New York Post. Người này cho biết thêm, Meta không sử dụng dữ liệu đánh giá từ chatbot đối thủ để huấn luyện các mô hình AI của công ty.

Logo Meta AI hiển thị trên một chiếc smartphone. Ảnh: Bảo Lâm

Thử nghiệm sản phẩm của đối thủ không phải là điều bất thường trong ngành AI. Business Insider năm ngoái đưa tin, nhân viên hợp đồng của Scale AI làm việc cho Google đã so sánh phản hồi của Gemini với ChatGPT, sau đó chỉnh sửa để phản hồi đạt chất lượng tương đương hoặc tốt hơn.

Tuy nhiên, nhiều nhân viên hợp đồng từng làm việc trong dự án Cannes chia sẻ với Wired rằng họ cảm thấy bất an về nhiệm vụ được giao. Một số lo ngại họ có thể vô tình tạo ra hoặc lưu giữ tài liệu lạm dụng tình dục trẻ em, số khác băn khoăn liệu việc thu thập lượng lớn dữ liệu từ các hệ thống AI cạnh tranh cuối cùng có thực sự mang lại lợi ích cho Meta hay không.

Dự án Cannes dường như cũng vi phạm điều khoản dịch vụ mà một số công ty đối thủ của Meta đặt ra. Theo Wired, OpenAI cấm thử nghiệm an toàn trái phép, nỗ lực vượt qua cơ chế bảo vệ và sử dụng kết quả đầu ra để phát triển mô hình cạnh tranh. OpenAI cho biết đang xem xét vấn đề này nhưng từ chối bình luận thêm.

Google cũng cấm các hành vi nhằm vượt qua cơ chế bảo vệ an toàn, trừ các chương trình thử nghiệm đã được phê duyệt. Công ty khẳng định chưa cho phép hoạt động thử nghiệm như mô tả trong báo cáo và không biết mục đích đằng sau nỗ lực này.

Tương tự Google, Character.AI cấm các nội dung mang tính gây hại hoặc bóc lột. Nền tảng này cho biết họ chưa hề cho phép dự án Cannes thực hiện và các hoạt động thử nghiệm này đã vi phạm chính sách của công ty.

Thu Thảo tổng hợp