OpenAI tiết lộ: Nhân viên chi tới 7.000 USD mỗi ngày để AI tự viết code

Theo tin từ IT ngày 7 tháng 9, OpenAI lần đầu tiên tiết lộ quy mô sử dụng và chi phí mà các nhà nghiên cứu của họ đã bỏ ra cho các AI coding agent (tác nhân lập trình AI).

Trong một bài đăng trên blog vào Chủ nhật tuần trước theo giờ địa phương, công ty AI này cho biết những người dùng thường xuyên nhất trong số các nhà nghiên cứu của OpenAI hiện đang tiêu tốn lượng Token trị giá hơn 7.000 USD mỗi ngày (IT lưu ý: tỷ giá hối đoái hiện tại tương đương khoảng 47.036 Nhân dân tệ). Token là đơn vị cơ bản được các mô hình AI sử dụng để đọc và tạo văn bản.

OpenAI cho biết, trong năm qua, công nghệ này đã thay đổi đáng kể cách làm việc của các nhà nghiên cứu tại công ty. Nhân viên viết và bàn giao mã nguồn nhanh hơn, có thể thực hiện nhiều thử nghiệm hơn, đồng thời bắt đầu giao các nhiệm vụ ngày càng cao cấp và phức tạp cho các AI coding agent.

Công ty cho biết, trong ba tháng qua, quy mô sử dụng AI coding agent của các nhà nghiên cứu đã tăng trưởng bùng nổ, tốc độ tăng trưởng thậm chí còn vượt xa các nhóm khác trong nội bộ OpenAI.

Theo dữ liệu do OpenAI công bố, tính đến giữa tháng 8, giá trị Token trung vị mà một nhà nghiên cứu bình thường tại bộ phận nghiên cứu của công ty sử dụng mỗi ngày đã vượt quá 600 USD (tỷ giá hiện tại tương đương khoảng 4.032 Nhân dân tệ), trong khi con số này vào tháng 7 chỉ là 162 USD (tỷ giá hiện tại tương đương khoảng 1.089 Nhân dân tệ). Đối với nhóm 10% nhà nghiên cứu sử dụng nhiều nhất, giá trị Token tiêu thụ mỗi ngày lên tới hơn 7.000 USD (tỷ giá hiện tại tương đương khoảng 47.036 Nhân dân tệ).

Cần lưu ý rằng, những con số này được ước tính dựa trên giá suy luận công khai của API, do đó phản ánh chi phí lý thuyết tính theo giá thị trường chứ không đại diện cho số tiền thực tế mà OpenAI phải chi trả.

OpenAI cũng cho biết các agent của họ ngày càng được sử dụng nhiều hơn để xử lý các vấn đề kỹ thuật, đến mức kể từ tháng 1, số lượng bài đăng hàng ngày trên các kênh hỗ trợ kỹ thuật nội bộ do con người vận hành đã giảm hơn một nửa.

OpenAI cho biết công ty đã đạt được mục tiêu mà CEO Sam Altman đề ra vào năm ngoái, đó là tạo ra một "thực tập sinh nghiên cứu tự động" có khả năng hoàn thành nhiệm vụ dưới sự hướng dẫn của con người. Theo tiến độ hiện tại, công ty dự kiến sẽ tạo ra một nhà nghiên cứu AI hoàn toàn tự động trước tháng 3 năm 2028.

Ngành lập trình đón nhận "cú tái thiết lớn"

Trong năm qua, cùng với sự phổ biến nhanh chóng và năng lực ngày càng nâng cao của các AI coding agent, phương thức làm việc trong ngành kỹ thuật phần mềm đã có những thay đổi sâu sắc.

Ngày nay, nhiều lập trình viên đã bắt đầu giao các nhiệm vụ lập trình cụ thể cho các AI agent, trong khi bản thân họ chịu trách nhiệm kiểm tra và rà soát kết quả được tạo ra. Một số lập trình viên cho rằng cách làm này giúp cải thiện đáng kể hiệu suất công việc, nhưng cũng có những người không hoàn toàn đồng tình với quan điểm này.

Đồng thời, việc sử dụng AI với cường độ cao cũng mang lại áp lực chi phí không nhỏ cho một số công ty.

Đầu năm nay, một số công ty đã khuyến khích nhân viên tích cực thử nghiệm sử dụng AI, thậm chí còn tung ra các bảng xếp hạng để thống kê xem nhân viên nào sử dụng AI thường xuyên nhất. Điều này đã làm nảy sinh một hiện tượng được gọi là "Tokenmaxxing", tức là không quá chú trọng vào kết quả thực tế mà cố gắng sử dụng AI nhiều nhất có thể.

Tuy nhiên, đến mùa hè năm nay, chi phí sử dụng ngày càng tăng của các mô hình AI hàng đầu đã bắt đầu gây ra lo ngại. Ngày càng nhiều công ty nhận thấy rằng việc chỉ đơn thuần theo đuổi tối đa hóa lượng Token sử dụng để tăng năng suất có thể không đủ để biện minh cho các khoản chi phí khổng lồ.

Các công ty bao gồm Meta và Amazon sau đó đã đóng cửa các bảng xếp hạng sử dụng Token nội bộ. Phó chủ tịch cấp cao của Amazon, Dave Treadwell, cũng nhắc nhở nhân viên không nên "sử dụng AI chỉ vì mục đích sử dụng AI".

Ngược lại, OpenAI trước nay vẫn giữ thái độ khá tích cực đối với việc sử dụng Token ở mức cao. Tháng 6 năm nay, Altman từng cho biết một người dùng sử dụng Token nhiều nhất trong nội bộ công ty đã tiêu thụ tới 100 tỷ Token mỗi tháng.

Peter Steinberger, nhà sáng lập OpenClaw, đã gia nhập OpenAI vào tháng 2 năm nay. Vào tháng 5, ông từng đăng một ảnh chụp màn hình cho thấy hóa đơn Token trong một tháng của mình lên tới 1,3 triệu USD (tỷ giá hiện tại tương đương khoảng 8,735 triệu Nhân dân tệ). Tuy nhiên, giống như các nhân viên khác của OpenAI, bản thân ông không cần phải thực sự chi trả khoản phí này.