Bóc trần 'Dự án Lily': Những người đứng sau đọc lén nội dung chat ChatGPT của bạn

Theo thông tin mà 404 Media có được, OpenAI đang thuê hàng trăm nhân viên hợp đồng để đọc một lượng lớn các câu lệnh (prompt) từ người dùng thực tế của ChatGPT, trong đó đôi khi bao gồm cả những thông tin cá nhân nhạy cảm. Các câu lệnh mà những người này xem xét có thể bao gồm toàn bộ cuộc hội thoại giữa người dùng và chatbot, những cuộc trò chuyện mà phần lớn trong số hơn 900 triệu người dùng của ChatGPT có lẽ không hề biết rằng có thể đang bị con người thực sự đọc.

Mục tiêu của các đội ngũ đánh giá câu lệnh này là cải thiện phản hồi mà ChatGPT đưa ra cho người dùng, với việc các nhân viên hợp đồng sẽ xếp hạng và phê bình các câu trả lời do chatbot tạo ra. Các tài liệu nội bộ mà 404 Media thu thập được cho thấy các nhân viên hợp đồng đang huấn luyện ChatGPT không được nhân cách hóa bản thân và bớt xu nịnh hơn. Đây là một vấn đề then chốt đối với OpenAI, khi mà mô hình 4o quá xu nịnh của họ được cho là một phần nguyên nhân dẫn đến các vụ tự tử của nhiều người, theo các vụ kiện khác nhau.

💡

Bạn có đang làm công việc đánh giá câu lệnh cho OpenAI hoặc Anthropic không? Tôi rất muốn lắng nghe chia sẻ từ bạn. Hãy sử dụng thiết bị không phục vụ công việc để nhắn tin bảo mật cho tôi qua Signal tại joseph.404 hoặc gửi email cho tôi theo địa chỉ [email protected].

Tin tức này cho thấy một rủi ro quyền riêng tư lớn đối với người dùng ChatGPT, khi mọi người thường sử dụng ChatGPT như một chuyên gia trị liệu, trợ lý chuyên nghiệp hoặc bạn đồng hành kỹ thuật số, và cung cấp cho nó đủ loại chi tiết thân mật về cuộc sống của họ. Các nhân viên hợp đồng không nhìn thấy tên người dùng ChatGPT và OpenAI cho biết họ cố gắng loại bỏ thông tin cá nhân trước khi các câu lệnh đến tay người đánh giá, nhưng công ty cũng thừa nhận rằng các chi tiết nhạy cảm vẫn có thể bị lọt qua.

Tin tức này cũng xóa bỏ quan niệm sai lầm rằng các mô hình này chỉ cải thiện nhờ vào việc OpenAI quét dữ liệu hàng loạt trên internet, tài năng của các đội ngũ kỹ sư và AI được trả lương cao, hay sức mạnh của các mô hình mới hơn. Một phần quan trọng nhưng thường bị bỏ qua chính là các nhân viên hợp đồng bên ngoài được trả tiền để đọc và đánh giá các phản hồi của ChatGPT đối với các câu lệnh thực tế lặp đi lặp lại. Anthropic đã xác nhận với 404 Media rằng họ cũng đang sử dụng sự đánh giá của con người để cải thiện các mô hình của mình.

"Không," một người làm việc với các câu lệnh đã nói khi được hỏi liệu họ có nghĩ người dùng ChatGPT biết rằng con người đang đọc các cuộc trò chuyện của họ hay không. "Tôi không nghĩ họ có thể tưởng tượng được rằng một nhân viên hợp đồng nào đó ở đâu đó [...] đang phân tích các cuộc trò chuyện của mình."

Bài viết này chỉ dành cho thành viên trả phí.

Trở thành thành viên trả phí để có quyền truy cập không giới hạn, không quảng cáo vào các bài viết, nội dung podcast tặng kèm và nhiều hơn thế nữa.

Đăng ký

Đăng ký để truy cập miễn phí bài viết này.

Thành viên miễn phí có quyền truy cập vào các bài viết như thế này cùng với bản tin tổng hợp các câu chuyện trong tuần của chúng tôi qua email.

Đăng ký

Đã có tài khoản? Đăng nhập