404 Media: Nhiều nhân viên đào tạo AI của OpenAI bị sa thải vì dùng chính AI để làm việc

OpenAI sở hữu một đội ngũ đông đảo các nhà thầu chuyên đọc các câu lệnh (prompt) và dữ liệu thực tế từ người dùng ChatGPT để giúp cải thiện phản hồi của chatbot này. Ý tưởng ở đây là các nhà thầu sẽ mang đến một "chạm" của con người cho các mô hình của OpenAI. Tuy nhiên, không phải tất cả các nhà thầu đều làm như vậy. 404 Media đã phát hiện nhiều nhà thầu được thuê để cải thiện các mô hình của OpenAI đã bị sa thải vì sử dụng chính AI để huấn luyện AI. Điều này không chỉ gây hại cho bản thân các mô hình, mà còn tạo ra một sự trớ trêu lớn khi các công ty huấn luyện AI làm việc cho OpenAI lại sa thải nhân viên vì sử dụng AI, trong khi mục tiêu cốt lõi của OpenAI lại là thúc đẩy mọi người sử dụng AI trong công việc.

Một số mô hình AI đã bắt đầu xuất hiện dấu hiệu của "sự sụp đổ mô hình" (model collapse) – hiện tượng các mô hình AI được huấn luyện thêm bằng văn bản do chính AI tạo ra sẽ ngày càng trở nên tồi tệ hơn. Trong trường hợp này, một số người được thuê để ngăn chặn điều đó xảy ra lại đang sử dụng chính các phản hồi do AI tạo ra để huấn luyện các mô hình của OpenAI.

Một nhà thầu cho biết họ thấy mọi người sử dụng AI "mọi lúc và họ liên tục bị sa thải vì điều đó, đó gần như là lý do duy nhất khiến bạn bị loại ngay lập tức." Người này chia sẻ: "Trong một nhóm hàng ngàn người, có rất nhiều người đã bị bắt quả tang."

💡

Bạn có đang làm công việc đánh giá câu lệnh (prompt reviewer) cho OpenAI, Anthropic hoặc một công ty AI nào khác không? Tôi rất muốn lắng nghe chia sẻ từ bạn. Hãy sử dụng thiết bị không phục vụ công việc để nhắn tin bảo mật cho tôi qua Signal tại joseph.404 hoặc gửi email cho tôi theo địa chỉ [email protected].

Tuần trước, 404 Media đã tiết lộ về Dự án Lily (Project Lily), trong đó OpenAI thuê hàng trăm nhà thầu đọc các câu lệnh và cuộc hội thoại thực tế của người dùng ChatGPT, vốn có thể chứa thông tin cá nhân. Sau đó, các nhà thầu này sẽ đánh giá và phê bình các phản hồi mà ChatGPT tạo ra, bao gồm việc đảm bảo các phản hồi không quá nịnh nọt hoặc nhân hóa ChatGPT. Bài báo đó dựa trên các tài liệu nội bộ và các cuộc trò chuyện với một người làm công việc xử lý các câu lệnh này.

404 Media hiện đã thu thập được các tài liệu nội bộ khác và trao đổi với ba nhà thầu đang làm việc cho OpenAI trong nhiều dự án khác nhau. Theo một trong những tài liệu nội bộ, các dự án này có thể bao gồm hơn mười ngàn nhà thầu.

Một trong những tài liệu đó nêu rõ rằng các nhà thầu không được phép tự mình sử dụng AI cho công việc.

"Không sử dụng các công cụ phát hiện AI, hoặc tự mình sử dụng AI," một tài liệu mô tả công việc của các nhà thầu được thuê để đánh giá công việc của các nhà thầu khác (bao gồm cả việc bắt lỗi họ sử dụng AI) cho biết. "Không sử dụng GPTZero hay bất kỳ công cụ phát hiện AI nào khác. Chúng không đáng tin cậy. Người đánh giá cũng không được phép sử dụng AI, bao gồm cả Grammarly và các công cụ dịch thuật AI, để đánh giá, viết phản hồi hoặc viết bình luận."

Tài liệu tiếp tục: "Đừng nói cho các đánh giá viên biết lý do tại sao bạn nghi ngờ đó là AI. Họ sẽ dễ dàng che giấu hơn nếu biết bạn đang tìm kiếm điều gì. Hãy đánh giá dựa trên mô hình tổng thể, không phải dựa trên một manh mối duy nhất."

Cả ba nhà thầu đều cho biết người đánh giá được yêu cầu không sử dụng AI trong công việc. Hai trong số các nguồn tin cho biết đã có người bị sa thải hoặc bị chấm dứt hợp đồng vì sử dụng AI. 404 Media đã giữ ẩn danh cho các nhà thầu này vì họ không được phép phát ngôn với báo chí.

Các nhà thầu chuyên đánh giá công việc của những nhà thầu khác được yêu cầu phải cảnh giác với các dấu hiệu nhận biết việc sử dụng AI. Điều đó có thể bao gồm các từ ngữ lặp đi lặp lại, phong cách chấm câu kiểu AI — chẳng hạn như việc lạm dụng dấu gạch ngang (em dash) — và việc các nhà thầu hoàn thành công việc quá nhanh.

Trong các kênh Slack liên quan, nơi mọi người hỏi xin lời khuyên của nhau, rất nhiều người đăng một ví dụ kèm câu hỏi: 'Đây có phải là AI không?', một nhà thầu cho biết.

"Thông thường câu trả lời là có," người này nói.

Một nhà thầu cho biết họ đã sử dụng AI trong khi hỗ trợ huấn luyện các mô hình của OpenAI và chia sẻ những gì họ cho là thư thông báo sa thải của mình. Trong đó nêu rằng chủ lao động của họ đã xác định được các vấn đề liên quan đến "tính xác thực" trong công việc của họ.

"Tôi không phải là người xấu hay nhân viên tồi. Tôi chỉ cần một chút hỗ trợ và đã tìm đến AI để giúp đỡ, điều đó cuối cùng dẫn đến sự sụp đổ của tôi," nhà thầu này nói với 404 Media. "Tôi không cảm thấy niềm vui trong công việc hay cảm thấy mình đang đóng góp cho xã hội theo bất kỳ cách nào."

Hai trong số các nhà thầu mà 404 Media trao đổi làm việc cho Mercor, một công ty huấn luyện AI chuyên thuê các nhà thầu để đánh giá các tài liệu liên quan đến ChatGPT. Một phát ngôn viên của Mercor cho biết trong một tuyên bố: "Các chuyên gia của chúng tôi được thuê vì chuyên môn và khả năng phán đoán của họ, điều này rất cần thiết cho sự tiến bộ không ngừng của AI. Hợp đồng của chúng tôi nghiêm cấm việc sử dụng các mô hình ngôn ngữ lớn (LLM) để hoàn thành dự án và chúng tôi thực thi điều đó. Chúng tôi đầu tư mạnh mẽ vào các công cụ và hệ thống để phát hiện hành vi lạm dụng và đảm bảo các chuyên gia tuân thủ các quy tắc dự án và điều khoản hợp đồng. Khi xác nhận một chuyên gia đã sử dụng AI để hoàn thành nhiệm vụ, chúng tôi sẽ ngay lập tức loại họ khỏi dự án."

404 Media đã trao đổi với một nhà thầu thứ tư từng làm việc trong việc huấn luyện các mô hình cho nhiều công ty AI khác nhau. Họ cho biết đôi khi họ cố tình chọn những phản hồi tệ nhất vì muốn chủ động phá hoại quá trình huấn luyện của các mô hình.

"Ban đầu tôi cảm thấy tội lỗi khi làm công việc này," họ nói. "Tôi hoặc là không hề chú ý đến kết quả và chọn ngẫu nhiên, hoặc cố tình chọn kết quả [tệ nhất]. Tôi không chắc điều đó thực sự tạo ra khác biệt bao nhiêu vì có hàng trăm người khác cũng đang đánh giá kết quả của các câu lệnh, nhưng cảm giác giống như tôi đang được trả tiền để làm cho AI trở nên tồi tệ hơn vậy."

OpenAI từ chối bình luận về việc các nhà thầu của họ bị sa thải vì sử dụng AI.

Về tác giả

Joseph là một nhà báo điều tra từng đoạt giải thưởng, tập trung vào việc tạo ra tác động. Các tác phẩm của anh đã dẫn đến các khoản tiền phạt trị giá hàng trăm triệu đô la, đóng cửa các công ty công nghệ và nhiều hơn thế nữa.