Ramp ra mắt dịch vụ Router: Tối ưu hóa điều hướng đa mô hình AI cho doanh nghiệp

Nền tảng quản lý chi phí doanh nghiệp Ramp đang bám sát Stripe trong việc thiết lập các "trạm thu phí" cho hoạt động suy luận AI (AI inference).

Vào tối thứ Tư, Ramp đã ra mắt dịch vụ định tuyến mô hình AI của riêng mình, có tên là Router, cho phép người dùng và các công ty sử dụng cũng như chuyển đổi giữa nhiều mô hình ngôn ngữ lớn khác nhau thông qua API. Công ty cho biết họ đã sử dụng bộ định tuyến do chính mình xây dựng để phục vụ nhu cầu AI nội bộ trong suốt ba năm qua.

Dịch vụ này hiện chỉ khả dụng tại Hoa Kỳ. Người dùng được sử dụng miễn phí trong phần còn lại của năm 2026 (tuy nhiên vẫn phải trả chi phí suy luận cho mô hình AI) và đi kèm với ưu đãi tín dụng ra mắt trị giá 26 USD. Công ty chưa tiết lộ mức phí của dịch vụ này trong năm tới.

Về chức năng, Router khá giống với cách vận hành của OpenRouter, mặc dù OpenRouter cung cấp nhiều tùy chọn mô hình AI hơn so với các dịch vụ hiện tại của Ramp.

Router cung cấp quyền truy cập vào các mô hình từ OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI và Z.ai. Dịch vụ này cũng cung cấp một số “chiến lược” để giúp khách hàng định tuyến các yêu cầu AI dựa trên tùy chọn của họ. Ví dụ, một chiến lược cho phép người dùng ưu tiên các tầng sử dụng linh hoạt (flex usage tiers) của nhà cung cấp mô hình, trong khi một chiến lược khác cho phép Router chọn mô hình để định tuyến truy vấn dựa trên tối đa ba tiêu chuẩn đánh giá do người dùng chỉ định. Người dùng cũng có thể chọn chỉ định tuyến các vấn đề khó đến các mô hình đắt tiền hoặc thử nghiệm mô hình một cách dễ dàng mà không cần phải chuyển đổi thủ công.

Người dùng cũng được cung cấp một bảng điều khiển (dashboard) để theo dõi mức tiêu thụ token, chi phí, độ trễ, các lần thử dự phòng (fallback attempts) và các thông tin chi tiết khác.

Đáng chú ý, Router có chính sách lưu giữ dữ liệu theo cơ chế chọn không tham gia (opt-out): theo mặc định, hệ thống sẽ ghi lại dữ liệu đầu vào, đầu ra và các lệnh gọi công cụ của mô hình trong một năm, mặc dù công ty cho biết họ sẽ xóa “thông tin nhận dạng cá nhân trước khi sử dụng nội dung đó để cải thiện sản phẩm.”

Đối với Ramp, việc tham gia vào lĩnh vực định tuyến mô hình mang lại cơ hội kép: họ vừa có thể khai thác thị trường suy luận AI đang bùng nổ, vừa cung cấp cho khách hàng hiện tại một dịch vụ định tuyến mô hình tích hợp hoàn hảo với các sản phẩm sẵn có, bao gồm giám sát sử dụng token AI và quản lý chi tiêu token.

Và nếu Router chứng tỏ được sức hút như một nền tảng thử nghiệm mô hình giống như OpenRouter, Ramp cũng có thể xây dựng mối quan hệ lâu dài với các phòng thí nghiệm AI và các nhà cung cấp dịch vụ suy luận trên toàn thế giới. Điều này có thể giúp Ramp, công ty đã huy động được 750 triệu USD với mức định giá 44 tỷ USD vào tháng 6, thu hút thêm khách hàng mới và tạo ra một điểm tiếp cận mới để bán các sản phẩm quản lý chi phí của mình.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Ram là một phóng viên và biên tập viên mảng tài chính và công nghệ. Anh từng đưa tin về M&A, vốn cổ phần, tin tức pháp lý và thị trường nợ tại Bắc Mỹ và Châu Âu tại Reuters và Acuris Global, đồng thời cũng từng viết về du lịch, giải trí và sách.

Bạn có thể liên hệ hoặc xác minh thông tin từ Ram bằng cách gửi email đến [email protected].

Xem tiểu sử