OpenAI thuê hàng trăm nhân sự đọc và đánh giá nội dung trò chuyện của người dùng ChatGPT

Theo một cuộc điều tra của 404 Media, OpenAI đang thuê hàng trăm nhân viên hợp đồng để đọc các cuộc hội thoại thực tế của người dùng ChatGPT nhằm cải thiện phản hồi của chatbot này.

Trang tin này đã thu thập được các tài liệu nội bộ bị rò rỉ và trao đổi với các nguồn tin bổ sung. Những người đánh giá sẽ chấm điểm phản hồi của ChatGPT trên thang điểm từ một đến bảy, đồng thời được giao nhiệm vụ giảm bớt sự tâng bốc thái quá và các hành vi giống con người trong kết quả đầu ra của mô hình.

Một người đánh giá chia sẻ với 404 Media rằng anh không nghĩ người dùng biết việc con người đang đọc các cuộc trò chuyện của họ. Các câu lệnh (prompt) được đánh giá đã chứng minh điều đó: Một số cuộc hội thoại bao gồm cả việc người dùng yêu cầu ChatGPT giữ bí mật nội dung. Các câu lệnh này đã được ẩn danh nhưng vẫn có thể chứa dữ liệu cá nhân nhạy cảm. OpenAI sử dụng một bộ lọc quyền riêng tư nhưng thừa nhận rằng bộ lọc này vẫn có thể xảy ra sai sót.

Theo 404 Media, các nhân viên hợp đồng này được tuyển dụng thông qua Crossing Hurdles ("Kết nối các chuyên gia lành nghề với tương lai của công việc AI") và được chi trả thông qua công ty đào tạo AI Mercor. Một người đánh giá tại Bắc Mỹ cho biết họ kiếm được hơn 50 USD mỗi giờ.

Người dùng có thể tắt cài đặt "Improve the model for everyone" (Cải thiện mô hình cho mọi người) – vốn được bật theo mặc định – để ngăn chặn việc các cuộc trò chuyện của họ bị sử dụng cho mục đích đào tạo mô hình và có khả năng bị con người đọc. Cài đặt này chỉ áp dụng cho các cuộc hội thoại mới. OpenAI cũng cung cấp chế độ trò chuyện tạm thời (temporary chat mode) mà theo công ty, sẽ không sử dụng dữ liệu đầu vào để đào tạo mô hình.

OpenAI chỉ đề cập đến việc đánh giá của con người trong một mục FAQ (Câu hỏi thường gặp) bị ẩn sâu.

Khi 404 Media đặt câu hỏi về việc người dùng được thông báo rõ ràng ở đâu về quy trình đánh giá của con người, OpenAI ban đầu đã không phản hồi. Trên một trang FAQ, công ty có giải thích rằng các nhân viên được ủy quyền và nhà cung cấp dịch vụ có thể xem dữ liệu người dùng để cải thiện hiệu suất mô hình, đồng thời khuyến cáo người dùng không nên nhập thông tin nhạy cảm. Thông báo đó đã xuất hiện trực tuyến từ ít nhất là năm 2023 và chỉ thay đổi đôi chút qua các năm.

404 Media lập luận rằng việc tiết lộ này quá ẩn khuất và mơ hồ, khiến người dùng không nhận thức được mức độ thực tế của việc đánh giá bởi con người. Và cụm từ "Improve the model for everyone" nghe giống như một sự đóng góp cộng đồng thân thiện hơn là sự đồng ý để con người đọc các cuộc hội thoại của bạn. Tuy nhiên, cách diễn đạt mơ hồ này có lẽ đã được tính toán kỹ lưỡng. Nếu OpenAI yêu cầu sự đồng ý rõ ràng, tỷ lệ từ chối tham gia có lẽ sẽ rất cao.

Tuy nhiên, đối với các phòng thí nghiệm AI, loại phản hồi từ con người này là một phần quan trọng để cải thiện mô hình của họ. Thực tiễn này cũng rất phổ biến. Anthropic xác nhận với 404 Media rằng họ sử dụng các đánh giá viên là con người để kiểm tra phản hồi của Claude và cải thiện các mô hình trong tương lai. Điều này áp dụng cho những người dùng đã bật tùy chọn "Help improve our AI models" (Giúp cải thiện các mô hình AI của chúng tôi) trong cài đặt quyền riêng tư. Anthropic cũng ẩn danh các cuộc hội thoại trước khi con người đánh giá bằng cách loại bỏ các chi tiết tài khoản như địa chỉ email. Google cũng sử dụng các đánh giá viên là con người và lưu ý trong Gemini rằng con người có thể xem lại các cuộc trò chuyện đã lưu.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người.

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay.