Chi phí AI tăng vọt dù giá token giảm 98%: Microsoft siết chặt quy định sử dụng

Mặc dù giá đã rẻ hơn rất nhiều so với trước đây, nhưng hóa đơn mà Microsoft và các doanh nghiệp phải chi trả lại tăng vọt đến mức không thể kiểm soát.

Cuối năm 2022, khi ChatGPT vừa ra mắt và các công ty đua nhau tích hợp AI vào quy trình làm việc, chi phí để xử lý một triệu token – đơn vị tính toán cơ bản của các mô hình ngôn ngữ lớn – ở mức rất cao. Kể từ đó, giá token đã giảm khoảng 98% nhờ sự cạnh tranh khốc liệt giữa các nhà cung cấp và những cải tiến kỹ thuật liên tục.

Theo logic thông thường, hóa đơn AI của doanh nghiệp lẽ ra phải giảm theo. Tuy nhiên, thực tế lại hoàn toàn ngược lại: hóa đơn AI trung bình của doanh nghiệp đã tăng gấp ba lần trong cùng khoảng thời gian đó.

Đây là nghịch lý mà Jay Parikh, Phó Chủ tịch điều hành Microsoft, đang phải đối mặt. Trong một email nội bộ được tờ 404 Media tiết lộ, ông Parikh thông báo Microsoft sẽ thiết lập ngân sách token theo bộ phận cho toàn công ty kể từ tháng 7 năm 2026, đồng thời chuyển mô hình AI mặc định nội bộ sang phiên bản OpenAI rẻ hơn.

Lý do được ông nêu thẳng thắn: "Tokenmaxxing không phải là điều chúng ta đang tối ưu hóa." Nhân viên Microsoft hiện có thể theo dõi mức tiêu thụ token cá nhân qua một dashboard nội bộ, và nhiều kỹ sư đang chi từ vài trăm đến vài nghìn USD mỗi tháng chỉ cho việc sử dụng AI trong công việc hàng ngày.

Tokenmaxxing, thuật ngữ mà ông Parikh dùng trong email, mô tả hành vi sử dụng AI tối đa mà không quan tâm đến chi phí. Hiểu đơn giản hơn: đây là cách dùng AI như thể nó miễn phí. Và đây chính là chìa khóa để giải thích nghịch lý giá giảm nhưng hóa đơn lại tăng. Khi AI chỉ là công cụ gợi ý mã lệnh hay viết email, mỗi tương tác tiêu thụ lượng token tương đối nhỏ và có thể dự đoán được.

Khi AI trở thành tác nhân tự động thực hiện chuỗi tác vụ – dạng AI đang được quảng bá rầm rộ nhất hiện nay – mỗi nhiệm vụ có thể tiêu thụ lượng token gấp hàng chục đến hàng trăm lần so với tương tác cũ. Giá mỗi token rẻ hơn 98%, nhưng số lượng token tiêu thụ lại tăng nhanh hơn nhiều so với mức giảm giá đó.

Một nhân viên Microsoft ẩn danh đã chia sẻ email của ông Parikh với báo chí và mô tả ngân sách token này là "lời thừa nhận cuối cùng" rằng công ty không thể để nhân viên tự do sử dụng các sản phẩm AI của chính mình mà không có giới hạn.

Đây là nhận xét đáng chú ý từ một công ty đang tạo ra lợi nhuận kỷ lục, với doanh thu, lợi nhuận vận hành và lợi nhuận ròng đều vượt kỳ vọng của Phố Wall trong quý gần nhất. Điều đó cho thấy vấn đề không phải là Microsoft thiếu tiền, mà là chi tiêu cho AI đang tăng với tốc độ không thể dự đoán và không tương xứng với lợi ích năng suất mang lại.

Tại Microsoft, thời kỳ sử dụng AI bừa bãi đã qua.

Microsoft thực ra đã bắt đầu siết chặt từ trước khi email của ông Parikh được gửi đi. Từ tháng 5, công ty đã âm thầm hủy hầu hết giấy phép Claude Code trong nhóm Experiences and Devices, yêu cầu các kỹ sư chuyển sang GitHub Copilot CLI trước khi kết thúc năm tài chính. Quyết định này không được thông báo rộng rãi và chỉ được biết đến qua các nguồn tin nội bộ, phản ánh một chiến lược điều chỉnh từ từ thay vì thay đổi đột ngột.

Điều khiến câu chuyện của Microsoft có ý nghĩa lớn hơn một quyết định nội bộ chính là bức tranh toàn ngành mà nó phản ánh. AT&T, Meta, Uber, Walmart, Amazon, Adobe, Atlassian và Citigroup đều đã triển khai một số hình thức giới hạn hoặc theo dõi chi tiêu AI của nhân viên trong những tháng gần đây. Tất cả đều đối mặt với cùng một vấn đề: các công cụ AI được định giá theo token hoạt động hoàn toàn khác với phần mềm doanh nghiệp truyền thống định giá theo số ghế (per-seat), và đội ngũ tài chính không có mô hình dự báo phù hợp cho loại chi phí biến động này.

Dấu hiệu này cho thấy ngành AI doanh nghiệp đang bước qua một ngưỡng quan trọng. Mười tám tháng trước, thông điệp chủ đạo từ Microsoft và hầu hết các công ty công nghệ lớn là "AI cho tất cả mọi người", khuyến khích nhân viên thử nghiệm và áp dụng AI càng rộng càng tốt.

Hôm nay, chính những công ty đó đang xây dựng dashboard theo dõi token, đặt trần ngân sách cấp bộ phận và thay thế các mô hình đắt tiền bằng mô hình rẻ hơn để sử dụng mặc định. Sự chuyển dịch đó không phải là dấu hiệu cho thấy AI đang thất bại, mà là dấu hiệu AI đang trưởng thành từ một thí nghiệm tổ chức thành một khoản chi phí vận hành cần được quản lý như điện, nước hay băng thông mạng.