Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
54

Mô hình

Đừng nhìn giá mỗi triệu token: Chi phí thực tế trên mỗi tác vụ mới là thước đo chuẩn

(giờ Việt Nam)

Tóm tắt AI

Do sự khác biệt về tokenizer và hiệu suất suy luận giữa các mô hình, giá niêm yết mỗi triệu token không còn phản ánh chính xác chi phí thực tế. Thay vào đó, người dùng nên đánh giá dựa trên chi phí hoàn thành mỗi tác vụ cụ thể để tối ưu hóa ngân sách.

Bản dịch AI

5 tháng 7, 2026 · 4 phút đọc

Mọi thứ không còn chỉ là cảm tính khi hóa đơn API gửi đến bạn. Nhiều công ty hiện đang nhận ra rằng AI thực sự có thể rất đắt đỏ. Một thói quen có thể đang làm tăng hóa đơn AI của bạn là so sánh các mô hình dựa trên giá $X cho mỗi 1 triệu token. Con số thấp hơn đồng nghĩa với chi phí thấp hơn, phải không? Chà, không hẳn là vậy.

$X cho mỗi 1 triệu token là không thể so sánh được

Mỗi phòng thí nghiệm tiên phong đều có bộ tokenizer (bộ tách token) riêng, quyết định số lượng token mà một văn bản sẽ được chia thành. Ví dụ, toàn bộ văn bản trong bài viết này cho đến thời điểm hiện tại sẽ được chia thành 160 token đối với gpt-4o, nhưng cùng dữ liệu đầu vào đó sẽ tiêu tốn của bạn 200 token đối với gpt-4 (phiên bản 1106-preview, tạo bằng tiktokenizer.vercel.app). Ngay cả trong cùng một phòng thí nghiệm, trong trường hợp này là OpenAI, giá mỗi token của các mô hình cũng không thể so sánh được với nhau. Việc so sánh các con số giữa các phòng thí nghiệm khác nhau, đặc biệt là khi họ liên tục tinh chỉnh các bộ tokenizer độc quyền, sẽ tạo ra một sai số khó có thể đo lường một cách đáng tin cậy. Anthropic gần đây đã sửa đổi bộ tokenizer của họ, dẫn đến việc Claude chia cùng một văn bản thành nhiều hơn 30% số token. Nếu các yếu tố khác không đổi, điều này tương đương với một đợt tăng giá khá mạnh; tuy nhiên, có một yếu tố quan trọng khác cần phải tính đến.

Sự chênh lệch cực lớn về hiệu suất token

Ngay cả khi chúng ta bỏ qua ảnh hưởng của bộ tokenizer, yếu tố quan trọng khác chính là giá trị thực sự của một token bổ sung. Tôi không nói đến giá của token, mà là những gì bạn thực sự đạt được với nó. Nếu bạn đang sử dụng AI cho công việc nghiêm túc, rất có thể phần lớn lượng tiêu thụ token của bạn dành cho việc "suy nghĩ" (thinking), vốn thường bị ẩn đi hoặc làm mờ nhưng lại bị tính phí với cùng mức giá như các token đầu ra hiển thị. Kỹ thuật này có thể cải thiện đáng kể chất lượng đầu ra; tuy nhiên, độ dài của cái gọi là "chuỗi suy nghĩ" (chain of thought) đó có thể trở thành yếu tố chính ảnh hưởng đến tổng chi phí sử dụng AI của bạn — và điều này có thể thay đổi rất lớn.

Tôi đã chọn một số mô hình AI tốt nhất hiện nay từ các phòng thí nghiệm tiên phong của Mỹ cũng như các sản phẩm tốt nhất từ các phòng thí nghiệm Trung Quốc (thường được quảng cáo là tốt gần bằng các mô hình của Mỹ nhưng với chi phí bằng 1/x, thường là x > 10) và đưa chúng vào bảng dưới đây. Tôi cũng đã bao gồm điểm số của từng mô hình trong bài kiểm tra đánh giá Artificial Analysis, nơi đưa ra các tác vụ để các mô hình AI hoàn thành. Mục tiêu của các nhà nghiên cứu tại AA một phần là để đo lường khả năng của mô hình và một phần là để đo lường số tiền họ phải trả cho mỗi tác vụ hoàn thành.

Lưu ý rằng mặc dù GPT-5.5 có giá niêm yết đắt hơn Claude Opus 4.8, nhưng nó lại hoàn thành bài kiểm tra với chi phí mỗi tác vụ gần bằng một nửa so với mô hình của Anthropic. GLM-5.2 có giá mỗi token rẻ hơn nhiều so với cả GPT (3,57 lần/5,68 lần) và Claude (3,57 lần/6,82 lần); tuy nhiên, chi phí mỗi tác vụ của nó lại không thấp hơn tương ứng, cho thấy rằng nó kém hiệu quả về token hơn so với các mô hình tiên phong từ phương Tây.

Một mô hình khiến tôi bối rối là Sonnet 5, vì nó dường như hoạt động kém hơn Opus 4.8 trong khi lại đòi hỏi chi phí mỗi tác vụ cao hơn do hiệu suất token thấp hơn nhiều. Nếu ai đó đang sử dụng nó có thể giải thích cho tôi mục đích của mô hình này là gì, tôi rất sẵn lòng lắng nghe. (Thuyết âm mưu: có lẽ đây là một kiểu thao túng tâm lý của Anthropic nhằm đưa ra mức giá niêm yết thấp hơn để dụ dỗ mọi người sử dụng một mô hình kém hiệu quả về token, thứ mà cuối cùng sẽ làm tăng hóa đơn của họ?)

DeepSeek V4 Pro có vẻ là mô hình ngoại lệ mạnh nhất về hiệu quả chi phí. Mặc dù điểm số trên bài kiểm tra trí tuệ thấp hơn rõ rệt, nhưng chi phí mỗi tác vụ của nó lại cực kỳ thấp. Fable 5 (Mythos với một lớp kiểm soát an ninh) dường như cho thấy sự cải thiện khiêm tốn với mức tăng giá hơn 3 lần so với GPT-5.5.

Nhìn chung, tôi nghĩ bảng này cho thấy giá mỗi triệu token không phải là một chỉ số chi phí có ý nghĩa. Nếu bạn không xem xét chi phí thực tế cho mỗi tác vụ, bạn sẽ đưa ra các quyết định chọn mô hình tồi tệ hơn và phải chấp nhận hiệu suất kém hơn với mức giá cao hơn.

Chi phí AITối ưu hóaMô hình ngôn ngữKinh nghiệm AI
Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung). Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.