Baseten chính thức gia nhập hệ sinh thái Hugging Face Inference Providers

Quay lại các bài viết

Chúng tôi rất vui mừng thông báo rằng Baseten hiện đã trở thành một Inference Provider (Nhà cung cấp suy luận) được hỗ trợ trên Hugging Face Hub!

Baseten gia nhập hệ sinh thái đang ngày càng phát triển của chúng tôi, giúp mở rộng phạm vi và khả năng suy luận serverless trực tiếp trên các trang mô hình của Hub. Các Inference Provider cũng được tích hợp liền mạch vào các client SDK của chúng tôi (cho cả JS và Python), giúp việc sử dụng đa dạng các mô hình với nhà cung cấp mà bạn ưa thích trở nên vô cùng dễ dàng.

Baseten là một nền tảng cơ sở hạ tầng AI bao gồm AI serverless, huấn luyện mô hình và nhiều dịch vụ khác. Với danh mục gồm nhiều mô hình tiên phong, Baseten giúp các nhà phát triển dễ dàng tích hợp hàng loạt khả năng AI vào ứng dụng của họ với thiết lập tối thiểu.

Baseten hỗ trợ nhiều loại mô hình khác nhau - từ LLM đến chuyển đổi văn bản thành giọng nói (text-to-speech) và hơn thế nữa. Là một phần của đợt tích hợp ban đầu này, Baseten ra mắt tính năng hỗ trợ cho các tác vụ hội thoại và tạo văn bản trên Hugging Face, cho phép truy cập vào các LLM mã nguồn mở phổ biến như Kimi K3, DeepSeek V4 Flash mới nhất, GLM-5.2 và nhiều mô hình khác. Hỗ trợ cho các tác vụ bổ sung sẽ sớm được triển khai!

Xem danh sách đầy đủ các mô hình được Baseten hỗ trợ tại đây.

Theo dõi Baseten trên Hugging Face: https://huggingface.co/baseten.

Cách thức hoạt động

Trên giao diện website

Từ các client SDK

Baseten khả dụng thông qua các SDK của Hugging Face - huggingface_hub (>= 1.26.1) cho Python và @huggingface/inference cho JavaScript.

Các ví dụ sau đây cho thấy cách sử dụng DeepSeek V4 Flash mới nhất thông qua Baseten. Hãy sử dụng Hugging Face token để xác thực - yêu cầu sẽ được tự động định tuyến đến Baseten.

Từ Agent Harness yêu thích của bạn

Các Inference Provider của Hugging Face được tích hợp trong hầu hết các Agent Harness - bao gồm Pi, OpenCode, Hermes Agents, OpenClaw và nhiều công cụ khác. Điều này có nghĩa là bạn có thể kết nối trực tiếp các mô hình được lưu trữ trên Baseten vào các công cụ yêu thích của mình mà không cần thêm bất kỳ mã trung gian nào. Duyệt danh sách đầy đủ các tích hợp tại đây.

từ Python

từ JS

Thanh toán

Đối với các yêu cầu trực tiếp, tức là khi bạn sử dụng khóa từ một nhà cung cấp suy luận, bạn sẽ được tính phí bởi nhà cung cấp tương ứng đó. Ví dụ: nếu bạn sử dụng API key của Baseten, bạn sẽ được tính phí trên tài khoản Baseten của mình.

Đối với các yêu cầu được định tuyến, tức là khi bạn xác thực thông qua Hugging Face Hub, bạn sẽ chỉ phải trả mức phí API tiêu chuẩn của nhà cung cấp. Chúng tôi không thu thêm bất kỳ khoản phí chênh lệch nào; chúng tôi chỉ chuyển tiếp chi phí của nhà cung cấp trực tiếp đến bạn. (Trong tương lai, chúng tôi có thể thiết lập các thỏa thuận chia sẻ doanh thu với các đối tác nhà cung cấp của mình.)

Lưu ý quan trọng ‼️ Người dùng PRO nhận được 2 USD tín dụng suy luận mỗi tháng. Bạn có thể sử dụng chúng trên các nhà cung cấp khác nhau. 🔥

Đăng ký gói Hugging Face PRO để nhận quyền truy cập vào tín dụng suy luận, ZeroGPU, Spaces Dev Mode, giới hạn cao hơn gấp 20 lần và nhiều tính năng khác.

Chúng tôi cũng cung cấp suy luận miễn phí với hạn mức nhỏ cho người dùng miễn phí đã đăng nhập, nhưng vui lòng nâng cấp lên PRO nếu bạn có thể!

Phản hồi và các bước tiếp theo

Chúng tôi rất mong nhận được phản hồi từ bạn! Hãy chia sẻ suy nghĩ và/hoặc bình luận của bạn tại đây: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49