Đừng tính phí theo token: Các ứng dụng AI nên định giá dựa trên giá trị thực tế

Mỹ | Công nghệ | Ý kiến | Văn hóa | Biểu đồ

Việc định giá theo token đã bắt đầu đúng chỗ: tại tầng mô hình (model layer). Khi OpenAI ra mắt API vào năm 2020, việc tính phí dựa trên khối lượng tính toán mà một mô hình tiêu thụ là cách hợp lý để đo lường mức độ suy luận (inference) thô. Tuy nhiên, sự xuất hiện của ChatGPT hai năm sau đó đã châm ngòi cho một làn sóng các ứng dụng được xây dựng trên hạ tầng đó với khả năng làm được nhiều việc hơn thế. Những sản phẩm mới này kết hợp dữ liệu độc quyền, công cụ, khả năng điều phối, tích hợp và logic quy trình làm việc để hoàn thành công việc thay cho khách hàng.

Khi một ứng dụng định giá công việc đó bằng token, nó sẽ đưa cấu trúc chi phí của nhà cung cấp mô hình vào mối quan hệ với khách hàng và neo giá trị sản phẩm vào một đơn vị mà chi phí của nó liên tục giảm. Dựa trên công việc của chúng tôi, việc áp dụng logic định giá của tầng mô hình vào tầng ứng dụng thường là một sai lầm.

Thay vào đó, chúng tôi tin rằng các công ty nên định giá ở tầng giá trị cao nhất mà họ có thể đo lường, quy đổi và bảo vệ một cách đáng tin cậy.

Nếu bạn bán quyền truy cập mô hình, hãy định giá theo token.

Nếu bạn biến các mô hình thành công việc hữu ích, hãy định giá theo đơn vị giá trị dễ nhận biết, thường là thông qua tín dụng (credits).

Nếu bạn mang lại kết quả kinh doanh rõ ràng và có thể quy đổi, hãy định giá theo kết quả.

Sai lầm trong việc này rất khó để sửa chữa. Giá dựa trên token huấn luyện khách hàng so sánh một ứng dụng với năng lực tính toán thô. Nó làm mất đi giá trị của dữ liệu, quy trình làm việc và khả năng điều phối; khiến khách hàng phải đối mặt với sự phức tạp kỹ thuật mà họ không thể dự báo; và có thể khiến nhà cung cấp bị kẹt trong biên lợi nhuận thấp. Tín dụng không tự giải quyết được vấn đề đó nếu chúng chỉ đơn thuần là token cộng thêm chi phí; chúng vẫn đo lường hạ tầng thay vì giá trị.

Định giá xoay quanh công việc dễ nhận biết sẽ mang lại kết quả ngược lại. Nó làm cho giá trị trở nên rõ ràng, chi phí có thể dự báo và các cải tiến sản phẩm trở nên có giá trị kinh tế cho cả hai bên. Trong khảo sát của chúng tôi với 50 người mua công nghệ AI, 27 người thích tín dụng gắn liền với công việc dễ nhận biết, trong khi chỉ có 14 người thích token.

Hai đầu của hệ thống khá đơn giản. Các nhà cung cấp mô hình bán khả năng suy luận, có thể được đo lường bằng token. Một số ứng dụng mang lại kết quả đủ rõ ràng và có thể quy đổi để định giá trực tiếp.

Phần giữa thì khó hơn. Đó là nơi hầu hết các ứng dụng AI đang tồn tại.

Ví dụ, một tác nhân (agent) nghiên cứu tài khoản không bán các lượt tìm kiếm hay các lệnh gọi mô hình. Nó bán một bản tóm tắt tài khoản đã hoàn thiện. Một tác nhân lập trình bán một thay đổi đã được triển khai. Một nền tảng dữ liệu có thể bán một truy vấn, đường ống (pipeline) hoặc một lượt chạy tác nhân đã hoàn tất. Công việc của ứng dụng là trừu tượng hóa sự phức tạp bên dưới đơn vị công việc đó.

Vì mỗi danh mục đóng gói giá trị theo cách khác nhau, không có thước đo ứng dụng AI phổ quát nào. AI giọng nói có thể bắt đầu bằng số phút, sau đó chuyển sang số cuộc hội thoại được giải quyết. Copilot có thể bắt đầu bằng số lượng người dùng (seats), sau đó thêm định giá dựa trên mức sử dụng khi công việc của tác nhân tạo ra sự khác biệt lớn hơn về chi phí và giá trị.

Câu hỏi đúng không phải là: "Thước đo định giá AI là gì?" mà là: "Đơn vị giá trị nào mà khách hàng đã hiểu rõ, và chúng ta có thể đo lường nó một cách nhất quán hay không?"

Khách hàng vẫn sẽ hỏi về token. Thông thường, họ đang yêu cầu một trong hai điều: khả năng so sánh hoặc khả năng kiểm soát.

Thứ nhất, người mua muốn có một tiêu chuẩn chung. Token dường như cho phép họ so sánh một ứng dụng chuyên biệt với một API mô hình đa năng hoặc một hệ thống xây dựng nội bộ. Nhưng sự so sánh đó thường là sự chính xác giả tạo. Mỗi ứng dụng kết hợp các mô hình, dữ liệu, công cụ và mức độ tự động hóa khác nhau. Một token chạy qua sản phẩm này không tạo ra cùng một công việc như một token chạy qua sản phẩm khác.

Thứ hai, người mua muốn phân bổ chi tiêu. Các nhóm tài chính và CNTT cần truy xuất chi tiêu AI cho một bộ phận, dự án, khách hàng hoặc hóa đơn, thường là trên một danh mục ứng dụng ngày càng tăng. Việc yêu cầu họ dự báo token riêng biệt cho từng sản phẩm sẽ tái tạo lại sự phức tạp mà các sản phẩm đó vốn dĩ được thiết kế để che giấu.

Cả hai nhu cầu đều hợp lý. Tuy nhiên, định giá bằng token thường tạo ra nhiều ma sát hơn là sự rõ ràng.

Một trưởng bộ phận hỗ trợ có thể ước tính công ty xử lý bao nhiêu cuộc hội thoại. Nhưng rất khó để dự đoán độ dài ngữ cảnh, khối lượng truy xuất, số lần thử lại, thời gian suy luận hoặc số token đầu ra. Điều lẽ ra là một phép tính ROI đơn giản lại trở thành một bài tập dự báo tính toán riêng biệt cho mọi ứng dụng AI mà công ty triển khai.

Câu trả lời tốt hơn là cung cấp đủ chi tiết về mức sử dụng cơ bản để xây dựng niềm tin mà không biến mức sử dụng đó thành đơn vị thương mại. Hãy cho khách hàng thấy công việc nào đã được hoàn thành, năng lực đã được sử dụng vào đâu và tại sao một số tác vụ lại tiêu tốn nhiều hơn những tác vụ khác. Hãy cung cấp cho bộ phận tài chính và CNTT các báo cáo họ cần cho ngân sách và việc tính phí ngược (chargebacks).

Sự minh bạch không yêu cầu thước đo thanh toán và thước đo chi phí cơ bản phải là một.

Trong các thị trường cạnh tranh cao hoặc đòi hỏi kỹ thuật phức tạp, các công ty vẫn có thể cần cung cấp tùy chọn chuyển tiếp chi phí token (token pass-through), đặc biệt là đối với việc sử dụng mô hình đắt đỏ hoặc biến động bất thường. Nhưng đây nên là một thành phần rõ ràng của mô hình lai, không phải là cách thể hiện mặc định cho giá trị của sản phẩm.

Đối với phần lớn các ứng dụng AI, tín dụng có thể là một cách hiệu quả để đóng gói công việc biến đổi. Nhưng tín dụng là một loại tiền tệ, không phải là thước đo giá trị. Điều quan trọng là tín dụng đó mua được gì.

Một hệ thống tín dụng yếu kém sẽ chuyển đổi số lượng token thành một loại tiền tệ nội bộ mơ hồ. Nó che giấu thước đo mà không cải thiện nó.

Một hệ thống tín dụng mạnh mẽ ánh xạ tới công việc mà khách hàng công nhận. Nó có thể sử dụng một vài dải nỗ lực trực quan: một bản sửa lỗi nhỏ tốn ít hơn một tính năng đa tệp; tóm tắt một điều khoản hợp đồng tốn ít hơn việc xem xét toàn bộ thỏa thuận; làm giàu một bản ghi tốn ít hơn việc chạy một quy trình nghiên cứu tài khoản nhiều bước.

Các hệ thống tín dụng tốt nhất thực hiện ba điều:

Trừu tượng hóa sự phức tạp của hạ tầng. Khách hàng mua công việc, không phải các thành phần cấu thành.

Giải thích nỗ lực tương đối. Công việc đơn giản tiêu tốn ít; công việc tiêu chuẩn tiêu tốn một lượng có thể dự đoán; công việc phức tạp tiêu tốn nhiều hơn.

Tạo sự linh hoạt về thương mại. Một quỹ tín dụng có thể bao gồm nhiều khối lượng công việc, tác nhân hoặc tự động hóa trong khi bộ phận mua sắm chỉ cần quản lý một hợp đồng.

Phép thử là sự thấu hiểu. Người mua thường biết khối lượng công việc của họ trước khi họ biết khối lượng tính toán. Nếu khách hàng không thể hiểu hệ thống tín dụng trong vài câu, thì nó quá phức tạp.

Tín dụng làm được nhiều điều hơn là chỉ làm cho mức sử dụng trở nên dễ hiểu. Nếu được thiết kế tốt, chúng còn bảo vệ biên lợi nhuận gộp của bạn.

Trong SaaS truyền thống, một người dùng bổ sung thường không làm tăng đáng kể chi phí biên. Trong các ứng dụng AI, mỗi người dùng có thể tạo ra các lệnh gọi suy luận, truy xuất, tìm kiếm, công cụ, dữ liệu bên thứ ba, tạo phương tiện, thử lại và các lượt chạy thất bại. Sự tăng trưởng nhanh có thể che giấu một doanh nghiệp yếu kém nếu mỗi đô la doanh thu mới nhanh chóng bị trả lại cho các nhà cung cấp mô hình, đám mây hoặc dữ liệu.

Hệ thống định giá cần tách biệt hai quyết định:

Công việc đó đáng giá bao nhiêu? Giá trị khách hàng, mức độ sẵn sàng chi trả và sự cạnh tranh quyết định giá của quỹ tín dụng.

Chi phí để thực hiện công việc đó là bao nhiêu? Chi phí tương đối và độ phức tạp quyết định mỗi tác vụ tiêu tốn bao nhiêu tín dụng.