404 Media phanh phui "Project Lily" của OpenAI: Con người trực tiếp kiểm duyệt lịch sử trò chuyện ChatGPT để tối ưu hóa mô hình

404 Media vừa đăng tải báo cáo tiết lộ quy trình kiểm duyệt thủ công nội bộ của OpenAI với mật danh "Project Lily": Con người đọc các câu lệnh (prompt) của người dùng ChatGPT để cải thiện mô hình, trong đó các đoạn hội thoại có thể chứa thông tin cá nhân nhạy cảm. Báo cáo này dựa trên các tài liệu nội bộ bị rò rỉ và các câu lệnh thực tế mà 404 Media thu thập được.

Dẫn nguồn từ cuộc điều tra của 404 Media, The Decoder cho biết OpenAI đang thuê hàng trăm nhân viên hợp đồng để đọc các đoạn hội thoại thực tế của người dùng ChatGPT nhằm cải thiện phản hồi của chatbot. Các kiểm duyệt viên này chấm điểm phản hồi của ChatGPT trên thang từ 1 đến 7, với nhiệm vụ giảm thiểu các biểu hiện quá nịnh nọt hoặc nhân cách hóa của mô hình. Các nhân viên hợp đồng được tuyển dụng thông qua Crossing Hurdles và nhận thù lao từ công ty đào tạo AI Mercor; một kiểm duyệt viên tại Bắc Mỹ cho biết mức lương theo giờ lên tới hơn 50 USD. Một kiểm duyệt viên chia sẻ với 404 Media rằng anh tin người dùng không hề biết có người đang đọc lịch sử trò chuyện của họ; điều này được xác nhận qua chính các câu lệnh được kiểm duyệt: trong một số đoạn hội thoại, người dùng đã yêu cầu ChatGPT giữ bí mật nội dung. Các câu lệnh đã được ẩn danh hóa nhưng vẫn có thể chứa dữ liệu cá nhân nhạy cảm; OpenAI sử dụng bộ lọc quyền riêng tư nhưng thừa nhận hệ thống này vẫn có thể xảy ra sai sót. Người dùng có thể tắt cài đặt "Cải thiện mô hình cho mọi người" (được bật mặc định) để ngăn chặn việc dữ liệu trò chuyện bị sử dụng cho mục đích đào tạo và có khả năng bị con người đọc, tuy nhiên cài đặt này chỉ áp dụng cho các cuộc hội thoại mới; OpenAI cũng cung cấp chế độ trò chuyện tạm thời (Temporary Chat), mà theo công ty này, dữ liệu đầu vào sẽ không được sử dụng để đào tạo mô hình.

Dẫn báo cáo từ 404 Media, IT cho biết dự án đánh giá nội bộ này của OpenAI có mật danh là Project Lily. Những người thực hiện công việc này được gọi là "kiểm duyệt viên câu lệnh", có nhiệm vụ xem xét các lịch sử trò chuyện thực tế đã được ẩn danh hóa, đánh giá chất lượng phản hồi của ChatGPT, kiểm tra xem có xuất hiện các vấn đề như "văn phong AI", giọng điệu giáo điều, sử dụng biểu tượng cảm xúc hoặc giọng điệu nịnh nọt quá mức hay không. Các phản hồi bị cấm sử dụng cách diễn đạt nhân cách hóa và không được phép bịa đặt "trải nghiệm cá nhân". IT cũng cho biết, Project Lily không chuyên trách việc kiểm tra tính chính xác của thông tin trong câu trả lời mà chỉ đánh dấu các lỗi hiển nhiên, điều này đồng nghĩa với việc có ít nhất một hoặc nhiều đội ngũ khác đang thực hiện các đánh giá hiệu quả độc lập. Hệ thống chấm điểm này cũng tách biệt hoàn toàn với quy trình kiểm duyệt an toàn thủ công nhằm phát hiện ý định gây hại cho bản thân hoặc người khác của người dùng.