Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
85

Thủ thuật

Ai sợ mô hình Trung Quốc? Kimi K3 thách thức SOTA và cuộc chiến chi phí API

(giờ Việt Nam)

Tóm tắt AI

Kimi K3 đang tiến gần đến trình độ SOTA với mức giá API cạnh tranh. Tuy nhiên, hiệu quả thực tế không chỉ nằm ở giá token mà còn phụ thuộc vào khả năng suy luận và tối ưu hóa hệ thống.

Bản dịch AI

Who’s Afraid of Chinese Models?

Hãy lắng nghe bài viết này:

Tôi thường kể một câu chuyện về ngày đầu tiên mình học lớp STRT-431 tại Trường Quản lý Kellogg, lớp học nhập môn mà mọi sinh viên năm nhất MBA đều bắt buộc phải tham gia; tôi lật xem các tài liệu đọc và nghiên cứu tình huống rồi cảm thấy thất vọng vì không có công ty công nghệ nào trong danh sách. Với bản tính của mình, tôi đã nói chuyện với giáo sư sau giờ học để hỏi lý do, và được giải thích rằng mục tiêu của khóa học không nhất thiết là tìm hiểu về các ngành cụ thể, mà là khám phá các nguyên lý phổ quát có thể áp dụng cho bất kỳ công ty nào trong bất kỳ ngành nào.

Như tôi vẫn thường kể, tôi không thấy câu trả lời này thỏa đáng: đối với tôi, bản chất của công nghệ, đặc biệt là thực tế rằng phần mềm và phân phối có chi phí biên bằng không (và chi phí giao dịch bằng không), là một thứ gì đó hoàn toàn khác biệt; việc đưa số không vào các công thức thường gây ra sự hỗn loạn! Tuy nhiên, tôi sớm nhận ra đó chính là cơ hội của mình. Thông tin chi tiết cốt lõi làm nền tảng cho Lý thuyết Tổng hợp (Aggregation Theory) là chi phí biên bằng không dẫn đến các chuỗi giá trị khác biệt hoàn toàn so với những gì mọi người từng kỳ vọng từ Internet: sự tập trung hóa và quy mô trong một thế giới mà việc kiểm soát nhu cầu quan trọng hơn việc phân phối nguồn cung.

Tuy nhiên, điều thú vị về AI là mức độ mà các nguyên lý phổ quát cũ đó đang quay trở lại vị trí trung tâm. Điều này chưa bao giờ rõ ràng hơn vào cuối tuần qua, khi các cuộc tranh luận nổ ra trên X về những tác động của Kimi K3, một mô hình mã nguồn mở (open weights) khác từ Trung Quốc, đang tiệm cận trình độ tiên tiến nhất (state-of-the-art) về khả năng. Tóm lại là thế này: chi phí biên đang quay trở lại một cách mạnh mẽ, cả về tác động ngắn hạn của các mô hình miễn phí tiên tiến nhất, lẫn về cấu trúc dài hạn của ngành.

COGS so với R&D

Một trong những quan niệm sai lầm phổ biến nhất trong các cuộc thảo luận về các mô hình mã nguồn mở là chúng rẻ hơn — thậm chí là miễn phí. Xét cho cùng, bạn chỉ cần tải xuống các trọng số (weights) và bỏ qua thời gian, chi phí cũng như năng lực cần thiết để tự tạo ra mô hình của riêng mình. Tất nhiên, điều đó đúng, nhưng từ "miễn phí" trong trường hợp này là đề cập đến số tiền bạn cần chi cho nghiên cứu và phát triển; R&D là một khoản chi phí cố định độc lập với doanh thu bạn tạo ra. Nếu bạn chi 1 triệu đô la cho R&D, thì dù bạn tạo ra 100 nghìn đô la hay 100 triệu đô la doanh thu cũng không quan trọng; bạn vẫn đã chi 1 triệu đô la cho R&D (tất nhiên, điều đó ảnh hưởng đến lợi nhuận của bạn).

Điều liên quan đến doanh thu là COGS — giá vốn hàng bán — và COGS là một thực tế đối với AI theo cách mà nó chưa từng xảy ra với phần mềm trong một thời gian dài. Cụ thể, việc chạy suy luận (inference) trên một mô hình — dù đó là Kimi hay Fable — đều tốn tiền, và số tiền mà một nhà cung cấp AI chi cho suy luận, ít nhất là trong hầu hết các mô hình kinh doanh, có mối tương quan trực tiếp với doanh thu. Để sử dụng lại ví dụ trên, việc tạo ra 100 triệu đô la so với 100 nghìn đô la doanh thu có khả năng sẽ đòi hỏi COGS gấp 1.000 lần. Cụ thể, nếu tốn 50 xu để tạo ra các token mang lại 1 đô la doanh thu, thì 100 triệu đô la doanh thu sẽ có 50 triệu đô la COGS; 100 nghìn đô la doanh thu sẽ chỉ có 50 nghìn đô la COGS.

Điểm mấu chốt đối với các mô hình mã nguồn mở là chúng không miễn phí để vận hành. Kimi K3 tốn 3 đô la cho mỗi triệu token đầu vào và 15 đô la cho mỗi triệu token đầu ra; con số đó rẻ hơn mức 5 đô la cho mỗi triệu token đầu vào và 30 đô la cho mỗi triệu token đầu ra của Sol, nhưng đó có thể thậm chí không phải là thước đo đúng.

Token so với Trí tuệ

CEO Nvidia Jensen Huang đã mô tả những gì Nvidia đang xây dựng là các "nhà máy token", và từ góc độ của Nvidia, cách định nghĩa đó rất hợp lý. GPU của Nvidia là mô hình bất khả tri (model agnostic): chúng tạo ra token và thực hiện việc đó theo cách nhanh nhất và hiệu quả nhất có thể. Điều đó dẫn đến các phép đo như token mỗi giây, thời gian đến token đầu tiên, token mỗi watt, chi phí token, v.v., và Huang lập luận rằng các chỉ số này sẽ là cơ sở cho việc ra quyết định.

Đây là một cách định nghĩa chắc chắn có ý nghĩa trong thời kỳ đầu của AI, kỷ nguyên ChatGPT, khi các token được chuyển thẳng đến người dùng cuối. Tuy nhiên, kỷ nguyên thứ hai của AI, kỷ nguyên suy luận (reasoning era), lại làm đảo lộn phép đo này. Suy luận kéo theo sự bùng nổ của các token chuỗi suy nghĩ (chain-of-thought tokens), và các mô hình khác nhau cần lượng token suy luận khác nhau để đưa ra câu trả lời đúng. Ví dụ, Kimi được cho là sử dụng nhiều token hơn đáng kể so với Sol, khiến lợi thế về giá của nó trở nên vô nghĩa. Các tác nhân (agents) cũng tạo ra một động lực tương tự: một số mô hình hiệu quả hơn các mô hình khác về số lượng token cần thiết để thực hiện các quy trình làm việc của tác nhân.

Điều này có nghĩa là token không phải là một loại hàng hóa thông thường (commodity). Đặc điểm xác định của một loại hàng hóa là tính thay thế được (fungible): một gallon dầu là một gallon dầu; một tấn đồng là một tấn đồng; một giạ lúa mì là một giạ lúa mì. Tuy nhiên, một token từ mô hình này không giống với một token từ mô hình khác. Thứ có thể thay thế được là thứ được xây dựng từ các token, đó chính là trí tuệ. Nói cách khác, nếu cả Kimi và Sol đều tạo ra câu trả lời đúng, thì câu trả lời đó có thể thay thế được; sự khác biệt về số lượng token được tạo ra để đạt được câu trả lời đúng đó là một yếu tố đóng góp vào sự khác biệt trong COGS.

COGS cho trí tuệ là một hàm số của một vài yếu tố khác nhau:

Lý do điều này quan trọng là vì chúng ta đang nhanh chóng tiến tới trạng thái mà trí tuệ cho nhiều tác vụ mang lại lợi ích kinh tế thực chất là một loại hàng hóa. Ví dụ, bất kỳ ai xây dựng một ứng dụng CRUD cơ bản đều có thể thực hiện việc đó bằng cách sử dụng các mô hình từ nhiều nhà cung cấp. Và, trong một thị trường hàng hóa, con đường dẫn đến lợi nhuận không phải là thông qua việc tính giá cao hơn — một lần nữa, bạn có thể (hoặc sẽ sớm có thể) tạo ra cùng một ứng dụng chính xác bằng cách sử dụng nhiều mô hình — mà là thông qua việc có một cấu trúc chi phí vượt trội.

Hiểu về thị trường hàng hóa

Rất đáng để xem xét các cơ chế ở đây, bởi vì, như tôi đã lưu ý vài tháng trước trong bài "Amazon’s Durability", động lực của thị trường hàng hóa không phải là thứ mà những người trong ngành công nghệ thường quen thuộc:

Điều quan trọng cần hiểu là chi phí biên để sản xuất hàng hóa khác nhau tùy theo nhà cung cấp. Trong thực tế, điều này có nghĩa là nhà cung cấp có cấu trúc chi phí tệ nhất cuối cùng sẽ bán hàng hóa ở mức chi phí biên của họ (nếu họ có thể sản xuất); lợi nhuận của những người khác phụ thuộc vào mức độ cấu trúc chi phí của họ tốt hơn nhà cung cấp biên (nhà cung cấp có chi phí cao nhất).

Ví dụ:

Giả sử độ co giãn của giá là nhu cầu cho 25 đơn vị hàng hóa ở mức giá 20 đô la. Điều đó có nghĩa là:

Điều này không hoàn toàn chính xác: lý do tại sao Nhà cung cấp C sẽ chịu sự thiếu hụt là vì Nhà cung cấp A và B sẽ có thể giảm giá nhẹ so với họ, điều này tất nhiên sẽ ảnh hưởng đến nhu cầu (vốn có tính co giãn), nhưng nó làm rõ vấn đề. Nhà cung cấp A có một doanh nghiệp tuyệt vời, Nhà cung cấp B có một doanh nghiệp tốt, và Nhà cung cấp C sẽ phá sản.

Rủi ro phá sản là nơi các chi phí cố định quay trở lại vị trí trung tâm: Nhà cung cấp C có cả chi phí cố định (như chi phí R&D tiềm năng) và cũng có thể đã vay nợ để tài trợ cho thiết bị cần thiết để sản xuất hàng hóa. Họ không thể định giá hàng hóa của mình với những chi phí này trong đầu — hãy nhớ rằng, giá thanh toán thị trường xấp xỉ chi phí biên của đơn vị có chi phí cao nhất cần thiết để đáp ứng nhu cầu — nhưng những chi phí đó hoàn toàn có thể khiến nhà cung cấp phá sản. Và, nếu nhà cung cấp đó phá sản, thì giá sẽ tăng lên, cho đến khi một nhà cung cấp khác quyết định tham gia (hoặc các nhà cung cấp khác mở rộng).

Thị trường trí tuệ

Hãy quay lại với các mô hình. Hiện tại, không có phân tích nào ở trên áp dụng được vì nhu cầu vượt quá nguồn cung đối với các mô hình tiên phong (frontier models), và nguồn cung bị hạn chế do thiếu hụt năng lực tính toán (compute). Sự thiếu hụt năng lực tính toán này không chỉ có nghĩa là một nhà cung cấp năng lực tính toán như Nvidia có biên lợi nhuận rất lớn, mà còn có nghĩa là khách hàng của Nvidia, như SpaceXAI, có thể quay lại và bán lại năng lực tính toán với biên lợi nhuận cao cho một công ty như Anthropic. Trong khi đó, Anthropic có thể trả mức giá chênh lệch đó vì họ có thể bán các token với mức chênh lệch cao hơn nữa.

Tuy nhiên, không chỉ nhu cầu dư thừa mới mang lại cho Anthropic biên lợi nhuận tuyệt vời: Anthropic và OpenAI có khả năng có chi phí trên mỗi đơn vị trí tuệ chất lượng tiên phong thấp nhất, nhờ vào khả năng của mô hình, quy mô phục vụ và hiệu quả token. Họ đang phục vụ các mô hình ở một mức độ năng lực cụ thể trong nhiều tháng trước các đối thủ cạnh tranh, và đồng thời áp dụng các mô hình tốt nhất để tối ưu hóa các chi phí đó.

Cũng cần lưu ý rằng thị trường vẫn chưa coi trí tuệ như một loại hàng hóa: nhu cầu dành riêng cho Anthropic và OpenAI, và ít hơn nhiều đối với các mô hình không tốt bằng (do đó SpaceXAI và Meta bán năng lực cho Anthropic); một cách để nghĩ về việc thúc đẩy tối ưu hóa chi phí là đó là một hàm số của việc xác định các công việc cần làm theo cấp độ trí tuệ, sao cho những người mua trí tuệ có thể tạo ra một thị trường nơi trí tuệ được thương mại hóa. Tuy nhiên, về lâu dài, bất kỳ ai ở vị trí tiên phong đều là người có vị thế tốt nhất để thống trị cả các thị trường không tiên phong, vốn chỉ là thị trường tiên phong trừ đi n-tháng, tức là những tháng mà các nhà sản xuất mô hình tiên phong đã tối ưu hóa chi phí phục vụ của họ.

Tất cả những điều này có nghĩa là tôi nghĩ phản ứng đối với Kimi và các mô hình Trung Quốc nói chung là khá thổi phồng, ít nhất là từ góc độ kinh tế. Hiện tại có một "chiếc ô giá" (price umbrella) là hệ quả của việc thiếu hụt năng lực tính toán; tôi rất nghi ngờ rằng các mô hình Trung Quốc rẻ hơn để vận hành trên cơ sở chi phí biên, chúng chỉ có vẻ rẻ hơn vì Anthropic và OpenAI bị hạn chế nguồn cung đến mức họ đang tính giá cao hơn nhiều so với mức họ sẽ tính nếu có đủ nguồn cung để đáp ứng nhu cầu về trí tuệ.

Sự hoang tưởng của các phòng thí nghiệm tiên phong

Vậy tại sao, các nhà sản xuất mô hình lại có vẻ hoảng loạn về các mô hình Trung Quốc?

Thứ nhất, tôi nghĩ các phòng thí nghiệm tiên phong đang bị neo giữ trong một thế giới mà chi phí đào tạo thống trị mô hình tài chính của họ. Chừng nào việc đào tạo còn tiêu tốn nhiều GPU hơn việc suy luận, thì việc tối đa hóa doanh thu suy luận để giúp tài trợ cho đợt đào tạo tiếp theo là rất quan trọng, điều đó có nghĩa là phải tính giá rất cao cho suy luận.

Tuy nhiên, trong tương lai, tôi kỳ vọng thị trường suy luận sẽ tăng trưởng nhanh hơn nhiều so với chi phí đào tạo (và điều đó bao gồm giả định rằng chi phí đào tạo sẽ tiếp tục tăng vọt), điều đó có nghĩa là họ thực sự có thể bù đắp bằng khối lượng. Điều này không rõ ràng ngay cả cách đây tám tháng, nhưng sự mở khóa của mô hình tác nhân (agent paradigm) là quá lớn đến mức các phòng thí nghiệm tiên phong nên tự tin hơn rằng họ không chỉ có thể tồn tại mà còn phát triển mạnh với mức giá thấp hơn (một khi họ có đủ năng lực tính toán).

Thứ hai, trí tuệ thực tế không phải là một loại hàng hóa hoàn hảo, một phần vì trí tuệ ứng dụng tự làm cho nó thông minh hơn. Cụ thể, bất kỳ ai đang chạy suy luận cũng đang thu thập dữ liệu, và dữ liệu đó góp phần làm cho phiên bản tiếp theo của mô hình tốt hơn. Một mặt, đây là lý do khiến các phòng thí nghiệm tiên phong càng nên giảm giá và tăng mức sử dụng khi có nhiều năng lực tính toán hơn; mặt khác, đây là lý do tại sao các công ty như Microsoft ngày càng bị ám ảnh bởi việc giúp các công ty chạy mô hình của riêng họ. Điều đó khả thi hơn nhiều nếu các mô hình Trung Quốc là một sự thay thế khả thi.

Thứ ba, cách khác mà các phòng thí nghiệm tiên phong có thể không chỉ tạo sự khác biệt với các mô hình Trung Quốc mà còn với nhau là tiếp tục tích hợp vào trải nghiệm khách hàng. Thật ấn tượng khi thấy mức độ mà Claude Code và Codex đang chứng tỏ là khá "dính" (sticky); bất kỳ công cụ nào bạn bắt đầu làm việc cùng có khả năng sẽ là công cụ bạn gắn bó, và điều đó càng đúng hơn với những người dùng không chuyên về kỹ thuật. Và, về lâu dài, mệnh lệnh phải di chuyển lên trên chuỗi giá trị (up the stack) này có nghĩa là các mô hình tiên phong hoàn toàn là mối đe dọa đối với các nhà cung cấp phần mềm, bao gồm cả Microsoft. Ngược lại, mức độ mà các công ty phần mềm hiện đang sở hữu trải nghiệm khách hàng có quyền truy cập vào các mô hình cạnh tranh là mức độ mà họ có thể chống lại sự xâm lấn của các phòng thí nghiệm tiên phong.

Cuối cùng, khía cạnh tư tưởng của Anthropic đặc biệt không thể bỏ qua. Đây là một công ty tin rằng chỉ mình họ mới có thể được tin tưởng với AI, và sự tồn tại của các lựa chọn thay thế mã nguồn mở giáng một đòn chí mạng vào giả định đó.

Động lực của Trung Quốc

Kimi không phải là mô hình Trung Quốc mới duy nhất; theo Bloomberg:

Cổ phiếu của Alibaba Group Holding Ltd. đã tăng tới 5,4% vào thứ Hai sau khi công ty ra mắt phiên bản xem trước của mô hình hàng đầu Qwen3.8 Max, mô tả nó chỉ đứng sau Fable 5 của Anthropic PBC. Bản phát hành vào Chủ nhật chỉ diễn ra vài ngày sau khi công ty khởi nghiệp Moonshot AI công bố một sản phẩm mới mạnh mẽ đã làm chao đảo thị trường và gây lo ngại ở Mỹ về việc Trung Quốc đang thu hẹp khoảng cách với các nhà lãnh đạo toàn cầu như Anthropic và OpenAI. Qwen3.8 Max có 2,4 nghìn tỷ tham số, gia nhập phân khúc hạng nặng cùng với Kimi K3 của Moonshot. Với 2,8 nghìn tỷ tham số, K3 cạnh tranh với các sản phẩm hàng đầu và Alibaba cũng đang đặt ra những kỳ vọng cao tương tự.

Các nhà phát triển hiện có thể truy cập Qwen3.8 Max thông qua các nền tảng lập trình của Alibaba, bao gồm Qoder. Alibaba có kế hoạch sớm mở mã nguồn cho mô hình này, mở rộng quyền truy cập ngoài bản phát hành xem trước. Sự quan tâm đến các hệ thống và mô hình trí tuệ nhân tạo "made-in-China" này cao đến mức Moonshot đã buộc phải tạm dừng nhận đăng ký mới vào cuối Chủ nhật để quản lý nhu cầu quá tải.

Việc Qwen3.8 Max cũng sẽ có mã nguồn mở là điều đáng chú ý. Alibaba đã ngừng phát hành trọng số cho các mô hình tiên tiến nhất của mình vào đầu năm nay, nhưng có vẻ như đã đảo ngược thay đổi đó; tôi nghi ngờ rằng sự thay đổi đó liên quan đến bài phát biểu của Tập Cận Bình vào tuần trước về AI, trong đó nhấn mạnh vào cách tiếp cận mã nguồn mở:

Chúng ta nên tuân thủ nguyên tắc cởi mở và đôi bên cùng có lợi, thúc đẩy phát triển dựa trên đổi mới. Là động cơ mới của tăng trưởng kinh tế thế giới và là chất xúc tác cho sự chuyển dịch các động lực tăng trưởng, AI đang chuyển từ thế giới kỹ thuật số sang thế giới vật lý. Chúng ta nên nắm bắt cơ hội lịch sử hiếm có này để khuyến khích mã nguồn mở, sự cởi mở, hợp tác và chia sẻ. Chúng ta nên tạo điều kiện cho đổi mới công nghệ, phát triển công nghiệp và ứng dụng AI dựa trên kịch bản. Chúng ta nên thực hiện các bước tiến phối hợp trong việc chuyển đổi và nâng cấp các ngành công nghiệp truyền thống, nuôi dưỡng và phát triển các ngành công nghiệp mới nổi và lập kế hoạch hướng tới tương lai cho các ngành công nghiệp tương lai, để tất cả các lĩnh vực và doanh nghiệp đều có thể hưởng lợi từ AI.

Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.