Vì sao các nhà đầu tư GPU tiên phong chuyển hướng sang chip suy luận trong thương vụ 400 triệu USD?

General Compute, một startup về hạ tầng đám mây phục vụ suy luận AI (AI inference cloud), vừa nhận được khoản vay trị giá 400 triệu USD từ Upper90, một công ty đầu tư công nghệ. Đây có thể là thương vụ đầu tiên sử dụng các con chip chuyên dụng cho suy luận làm tài sản thế chấp — loại chip được thiết kế để chạy các mô hình AI đã qua huấn luyện một cách nhanh chóng và hiệu quả, thay vì các loại chip đắt tiền hơn vốn được dùng để xây dựng mô hình ngay từ đầu.

Khoản tài chính này là tín hiệu mới nhất cho thấy thị trường đang phản ứng với những lo ngại về chi phí của các công cụ và token AI bằng cách chuyển hướng sang hạ tầng có khả năng vận hành các mô hình mã nguồn mở với chi phí rẻ hơn so với các LLM mới nhất từ các phòng thí nghiệm tiên phong.

Được thành lập bởi CEO Finn Puklowski, General Compute đã huy động được 15 triệu USD trong vòng gọi vốn hạt giống vào tháng 5 để xây dựng một "neocloud" phục vụ suy luận dựa trên nền tảng silicon từ SambaNova, một nhà sản xuất chip được Intel hậu thuẫn. (Neocloud là hạ tầng được xây dựng chuyên biệt cho các khối lượng công việc AI, khác với hạ tầng đa năng được cung cấp bởi các nhà cung cấp dịch vụ đám mây quy mô lớn truyền thống như AWS hay Azure.)

Các con chip SN50 của công ty được thiết kế dành riêng cho suy luận. Chúng tiết kiệm điện năng và không yêu cầu hệ thống làm mát bằng nước đắt tiền, đồng nghĩa với việc chúng có thể được triển khai nhanh chóng hơn trên nhiều loại trung tâm dữ liệu khác nhau. General Compute cho biết các con chip mới này sẽ cung cấp tốc độ suy luận nhanh gấp 16 lần so với các đám mây dựa trên GPU.

Thách thức nằm ở việc làm sao để có được số lượng lớn các con chip này, đặc biệt là khi bạn là một công ty hoàn toàn mới.

Đồng sáng lập kiêm CEO của Upper90, ông Billy Libby, một cựu chuyên gia giao dịch định lượng tại Goldman Sachs, đã có sẵn một chiến lược cho việc này: Vào năm 2021, công ty của ông đã tài trợ cho việc mua GPU của Crusoe, một startup trung tâm dữ liệu tập trung vào năng lượng, thương vụ mà ông tin là khoản vay đầu tiên dựa trên giá trị của các con chip tiên tiến.

Các bên cho vay truyền thống vào thời điểm đó đã tránh né những thương vụ như vậy do rủi ro và sự không chắc chắn về việc khấu hao GPU. Tuy nhiên, khi CoreWeave biến các khoản vay dựa trên chip thành một mô hình kinh doanh và sau đó là nền tảng cho một đợt IPO đình đám, hình thức tài chính này đã trở nên phổ biến.

"Khi chúng tôi tài trợ cho các GPU Nvidia với tư cách là nhóm đầu tiên thực hiện điều đó, thị trường vẫn còn kém hiệu quả," Libby chia sẻ với TechCrunch. "Chúng tôi thực sự có thể thiết lập một điều gì đó với tư cách là người tham gia sớm và được đền bù xứng đáng cho rủi ro đó."

Giờ đây, khi GPU đã trở nên tương đối phổ biến và có lẽ là bị mua quá mức, Upper90 đang chuyển hướng sang các công ty như General Compute để đón đầu làn sóng tiếp theo của sự bùng nổ AI. "Chúng tôi tin rằng các mô hình mã nguồn mở sẽ rất quan trọng, và năm ngoái chúng tôi đã tìm kiếm một đơn vị hoạt động trong lĩnh vực suy luận," Libby cho biết. "Không phải ai cũng cần một siêu máy tính, nhưng họ chắc chắn cần suy luận và AI."

Luận điểm đó ngày càng trở nên vững chắc, khi các công ty cung cấp quyền truy cập vào các mô hình mở như OpenRouter và Fireworks huy động được các vòng vốn mới với định giá khổng lồ. Các mô hình mới như K3 của Kimi, vừa xuất hiện trong tuần này, đã chứng minh khả năng cạnh tranh với các bản phát hành mới nhất từ Anthropic và OpenAI trên các bài kiểm tra lập trình. Và các nhà sản xuất chip mới như Groq và Cerebras cũng đã thu hút sự quan tâm từ cả các bên mua lại lẫn thị trường đại chúng.

Khả năng tiếp cận các con chip bên ngoài hệ sinh thái của Nvidia của General Compute cũng quan trọng vì lý do tương tự. TensorWave, một công ty hạ tầng AI khác, cũng đang đặt cược tương tự vào mối quan hệ đối tác với AMD. Khi ngày càng có nhiều giải pháp thay thế cho Nvidia xuất hiện, các nhà cung cấp hạ tầng tính toán không bị ràng buộc bởi các thỏa thuận với Nvidia có thể có lợi thế trong việc cung cấp dịch vụ suy luận tiết kiệm chi phí.

"Có rất nhiều loại chip đang bắt đầu mở rộng quy mô với [tổng chi phí sở hữu] tuyệt vời, hoặc có thể vận hành nhanh hơn nhiều so với Nvidia, nhưng lại không có quá nhiều người mua chúng," Puklowski nói. "Việc hợp tác với Upper90 không chỉ đơn thuần là 'một startup thú vị nhận được tiền để mua hạ tầng tính toán'. Đây là tín hiệu đầu tiên cho thấy nguồn vốn đang tự tổ chức và sự rạn nứt trong thế độc quyền của Nvidia."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Tim Fernholz là một nhà báo viết về công nghệ, tài chính và chính sách công. Ông đã theo sát sự trỗi dậy của ngành công nghiệp vũ trụ tư nhân và là tác giả cuốn "Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race". Trước đây, ông là phóng viên cấp cao tại Quartz, trang tin tức kinh doanh toàn cầu, trong hơn một thập kỷ, và bắt đầu sự nghiệp của mình với tư cách là phóng viên chính trị tại Washington, D.C. Bạn có thể liên hệ hoặc xác minh thông tin từ Tim bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tới tim_fernholz.21 trên Signal.

Xem tiểu sử