Lập trình viên OpenAI Codex cảnh báo: Dùng quá nhiều AI Agent cùng lúc là 'bẫy' lãng phí token

Eric Provencher, một nhà phát triển Codex tại OpenAI, đang đưa ra cảnh báo về việc tiêu tốn token một cách thiếu kiểm soát trong các quy trình làm việc của tác nhân (agentic workflows). Trong các bài đăng trên X, ông lập luận rằng việc sử dụng hơn hai tác nhân phụ song song hầu như luôn gây lãng phí token mà không cải thiện được chất lượng. Các tác nhân không tin tưởng lẫn nhau, dẫn đến việc chúng cứ mãi "kiểm tra lại bài tập của nhau".

Provencher gọi đây là "thuế điều phối" (coordination tax) và cho biết "rất khó để duy trì nhiều luồng song song mà không bị mất kiểm soát và đốt sạch token vào việc xác minh quá mức". Khi một dự án xuất hiện với việc ai đó đã chi 20.000 USD tiền token chỉ để tái cấu trúc một tệp Python duy nhất bằng 1.393 tác nhân Fable, ông đã bình luận rằng một tác nhân Astra đơn lẻ có thể thực hiện việc đó với "chi phí chỉ bằng một phần nhỏ". Ông viết, các bầy tác nhân (agent swarms) có thể tiết kiệm thời gian, nhưng chi phí token phát sinh lại là một "cái bẫy".

Để khắc phục, ông khuyến nghị nên ủy quyền các tác vụ cho những luồng riêng biệt, chỉ thông báo cho tác nhân chính khi hoàn thành thay vì liên tục kiểm tra trạng thái. Các câu lệnh hệ thống (system prompts) cũng bị thực thi nhiều lần trên các tác nhân phụ, và các tác nhân phụ thường thiếu ngữ cảnh cần thiết, dẫn đến công việc bị trùng lặp. Provencher thừa nhận rằng OpenAI vẫn cần phải đưa ra các giải pháp tốt hơn cho vấn đề này.

Tin tức AI không cường điệu – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay