Mỗi ngày, các nhà nghiên cứu OpenAI 'đốt' 7.000 USD tiền token AI

Nhà nghiên cứu tại OpenAI tiêu tốn 7.000 USD tiền token mỗi ngày

Khoảng 10% nhà nghiên cứu sử dụng tác nhân lập trình (coding agent) nhiều nhất tại OpenAI tiêu thụ 7.000 USD tiền token mỗi ngày, cho thấy phương thức làm việc đã thay đổi đáng kể.

Trong bài đăng trên blog cuối tuần qua, OpenAI cho biết nhờ sự phát triển của các tác nhân lập trình, nhân viên có thể triển khai mã nhanh hơn, thực hiện nhiều thí nghiệm hơn và giao phó các nhiệm vụ ngày càng phức tạp cho chúng.

Cụ thể, mức sử dụng tác nhân lập trình của nhóm nhà nghiên cứu đã tăng vọt trong ba tháng qua và vượt xa tốc độ tăng trưởng của các nhóm khác. Tính đến giữa tháng 8, mỗi nhà nghiên cứu dùng trung bình hơn 600 USD tiền token mỗi ngày - đơn vị dữ liệu đầu vào cơ bản của AI, tăng mạnh so với mức 162 USD hồi tháng 7; riêng nhóm 10% có mức sử dụng cao nhất đã tiêu tốn hơn 7.000 USD tiền token. Số liệu này được tính theo chi phí suy luận thông qua giao diện lập trình ứng dụng (API), tức là chi phí ước tính theo giá niêm yết, không phải số tiền thực tế OpenAI đã chi trả.

Nhà phát triển ChatGPT cho biết, các tác nhân của họ được sử dụng ngày càng nhiều để khắc phục sự cố kỹ thuật, đến mức số bài đăng hàng ngày trên kênh hỗ trợ kỹ thuật nội bộ do con người điều hành đã giảm hơn một nửa kể từ tháng 1.

Công ty cũng tuyên bố đã đạt được mục tiêu mà CEO Sam Altman đặt ra năm ngoái là phát triển một "thực tập sinh nghiên cứu tự động", có thể thực hiện nhiệm vụ dưới sự hướng dẫn của con người, và đang đi đúng lộ trình để tạo ra "nhà nghiên cứu AI hoàn toàn tự động" vào tháng 3/2028.

Giao diện website OpenAI. Ảnh: Bảo Lâm

Business Insider nhận định, sự phổ biến và hiệu quả ngày càng tăng của các tác nhân lập trình đã khiến ngành kỹ thuật phần mềm thay đổi đáng kể trong năm qua. Nhiều lập trình viên giao phó nhiệm vụ cho tác nhân, sau đó chỉ cần xem lại kết quả đầu ra. Một số cho rằng điều này giúp họ làm việc hiệu quả hơn, trong khi số khác chia sẻ vẫn gặp nhiều rắc rối khi chỉnh sửa mã.

Theo báo cáo công bố giữa tháng 6 của Viện nghiên cứu AI Công việc (WAI) thuộc công ty Glean (Mỹ) cùng Đại học Notre Dame, Đại học Stanford và Đại học California Berkeley, nhân viên văn phòng dành trung bình 6,4 tiếng mỗi tuần để cung cấp ngữ cảnh, kiểm tra đầu ra, sửa lỗi và xử lý các sai sót của bot AI.

Báo cáo sử dụng thuật ngữ "bảo mẫu bot" (bot babysitting) để mô tả nhiệm vụ không được đánh giá cao nhưng lại thiết yếu này. Rebecca Hinds, người đứng đầu WAI, mô tả công việc bảo mẫu bot là tẻ nhạt, mệt mỏi, không được khen thưởng, đánh giá cao, cũng như không được ghi nhận hay đo lường.

Chi phí cao cho token cũng là vấn đề khiến nhiều công ty lo ngại. Theo The Verge hồi tháng 5, Microsoft đã hủy phần lớn giấy phép sử dụng trực tiếp Claude Code, công cụ AI lập trình do Anthropic phát triển, và kêu gọi nhân viên chuyển sang GitHub Copilot CLI để ưu tiên sản phẩm nội bộ. Tuy nhiên, một số nguồn tin cho biết lý do thực sự là chi phí cho Claude Code tăng cao khi lượng người dùng ngày càng lớn.

Thu Thảo tổng hợp