OpenRouter ra mắt định tuyến tại Mỹ, đảm bảo lưu trữ dữ liệu theo khu vực

Hôm nay, chúng tôi ra mắt tính năng Định tuyến theo khu vực (In-Region Routing) tại Hoa Kỳ, tiếp nối tính năng định tuyến tại EU mà chúng tôi đã triển khai vào tháng 10 năm ngoái, nhằm mang đến cho bạn quyền kiểm soát đảm bảo đối với nơi xử lý các khối lượng công việc AI của mình. Các yêu cầu gửi đến us.openrouter.ai sẽ được giải mã bên trong Hoa Kỳ và chỉ được định tuyến đến các điểm cuối (endpoint) của nhà cung cấp tại Hoa Kỳ, vì vậy các câu lệnh (prompt) và phản hồi (completion) của bạn sẽ luôn nằm trong khu vực đó trong suốt vòng đời của yêu cầu. eu.openrouter.ai cũng thực hiện cơ chế tương tự cho khu vực EU.

Các công ty cần những đảm bảo mạnh mẽ hơn về vấn đề lưu trữ và xử lý dữ liệu. Tính năng Định tuyến theo khu vực của OpenRouter giúp việc thiết lập cho Hoa Kỳ hoặc EU trở nên dễ dàng.

Cách thức hoạt động

Gửi các yêu cầu API thông qua URL cơ sở dành riêng cho khu vực thay vì openrouter.ai:

Khóa API, nội dung yêu cầu và ID mô hình của bạn vẫn giữ nguyên, đồng thời các tùy chọn nhà cung cấp, cơ chế dự phòng và cài đặt quyền riêng tư cũng được chuyển đổi từ tài khoản của bạn. Bạn có thể trỏ một dịch vụ vào us.openrouter.ai trong khi phần lưu lượng truy cập còn lại vẫn tiếp tục sử dụng openrouter.ai.

Các yêu cầu gửi đến us.openrouter.ai hoặc eu.openrouter.ai sẽ được giải mã và xử lý bên trong khu vực đó, và chỉ những nhà cung cấp đang hoạt động trong khu vực đó mới có thể phục vụ các yêu cầu này. Nếu không có nhà cung cấp nào trong khu vực hỗ trợ mô hình đó, yêu cầu sẽ thất bại với mã lỗi 404 (Không tìm thấy điểm cuối nào hỗ trợ khu vực dữ liệu của bạn) thay vì bị định tuyến ra bên ngoài khu vực.

Các điểm cuối theo khu vực phục vụ một tập hợp con của danh mục toàn cầu dưới cùng các ID mô hình. Một mô hình được liệt kê cho một khu vực nếu có ít nhất một nhà cung cấp có thể phục vụ nó từ bên trong khu vực đó. Để xem danh sách trực tiếp, hãy gọi /api/v1/models thông qua tên miền khu vực, hoặc lọc trang mô hình theo Định tuyến theo khu vực (US hoặc EU). Chúng tôi sẽ tiếp tục bổ sung thêm các mô hình và nhà cung cấp cho cả hai khu vực. Hãy cho chúng tôi biết bạn muốn có những mô hình nào tiếp theo trong khu vực tại mục #feedback trên Discord.

Bạn cũng có thể thực thi Định tuyến theo khu vực cho một không gian làm việc, nhóm hoặc khóa API cụ thể bằng Guardrails. Hãy đặt các khu vực dữ liệu được phép của guardrail thành một khu vực, và OpenRouter sẽ từ chối bất kỳ yêu cầu nào được bao phủ bởi quy tắc này nếu nó đến từ một tên máy chủ (hostname) khác. Cấu hình tính năng này trong phần Guardrails trong cài đặt của bạn hoặc thông qua Management API.

Định tuyến theo khu vực khả dụng trên các gói Business và Enterprise.

Các mô hình US/EU được phục vụ trong khu vực

Nếu không có Định tuyến theo khu vực, việc sử dụng một mô hình từ một phòng thí nghiệm có trụ sở tại Hoa Kỳ hoặc EU không đảm bảo rằng một trung tâm dữ liệu trong khu vực đó sẽ phục vụ yêu cầu của bạn. Tại các điểm cuối toàn cầu, các mô hình từ OpenAI, Anthropic, Google, xAI, Meta, NVIDIA, Thinking Machines hoặc Mistral có thể chạy ở bất cứ nơi nào mà nhà cung cấp phục vụ yêu cầu đó đang hoạt động. Một bài đánh giá về lưu trữ dữ liệu sẽ đặt câu hỏi về nơi yêu cầu của bạn được giải mã và nơi thực hiện suy luận (inference), vì vậy một nhóm tại Hoa Kỳ sử dụng GPT-5.6, Claude Opus 5 hoặc Gemini 3.6 Flash trên một điểm cuối toàn cầu vẫn có thể không vượt qua được bài đánh giá tuân thủ. Định tuyến theo khu vực của OpenRouter đảm bảo yêu cầu luôn nằm trong khu vực bạn chỉ định: Hoa Kỳ hoặc EU.

Các mô hình mã nguồn mở (open-weight) của Trung Quốc khả dụng trong khu vực

Các mô hình mã nguồn mở đang cải thiện nhanh chóng và việc chuyển hướng lưu lượng truy cập sang các mô hình này có thể giảm đáng kể chi phí. Trên OpenRouter, tỷ lệ token dành cho các mô hình mã nguồn mở đã tăng đều đặn đối với các yêu cầu bắt nguồn từ cả Hoa Kỳ và EU:

Các mô hình từ các phòng thí nghiệm tại Hoa Kỳ, như Nemotron 3 Ultra của NVIDIA và Inkling của Thinking Machines, là một phần của sự tăng trưởng đó. Tuy nhiên, các mô hình từ các phòng thí nghiệm Trung Quốc vẫn chiếm phần lớn khối lượng, và việc phê duyệt mua sắm cho các mô hình đó có thể gặp khó khăn.

Định tuyến theo khu vực cho phép các nhóm có yêu cầu về lưu trữ dữ liệu tận dụng được lợi thế về giá cả và hiệu suất từ các mô hình mã nguồn mở của Trung Quốc. Khi một nhà cung cấp tại Hoa Kỳ hoặc EU lưu trữ một mô hình, các yêu cầu sẽ đi đến nhà cung cấp đó và phòng thí nghiệm không tham gia vào quá trình này. DeepSeek V4 Pro, Kimi K3 và GLM 5.2 đều khả dụng cho Định tuyến theo khu vực tại Hoa Kỳ vì Baseten, Fireworks và Azure phục vụ chúng từ các trung tâm dữ liệu tại Hoa Kỳ. Gửi câu lệnh đến bất kỳ mô hình nào trong số đó thông qua us.openrouter.ai, yêu cầu sẽ được giải mã và chạy tại Hoa Kỳ. GLM 5.2 cũng khả dụng tại eu.openrouter.ai, được phục vụ từ các trung tâm dữ liệu tại EU của Mistral.

Đảm bảo định tuyến khu vực từ đầu đến cuối

Khi một cổng kết nối (gateway) cung cấp định tuyến khu vực, điều đó có thể mang một trong hai ý nghĩa. Sự khác biệt nằm ở việc liệu câu lệnh của bạn có bao giờ tồn tại dưới dạng văn bản thuần (plaintext) bên ngoài khu vực đó hay không.

Khi bạn đánh giá tuyên bố về lưu trữ dữ liệu của bất kỳ cổng kết nối nào, hãy đặt hai câu hỏi. Yêu cầu được giải mã và xử lý ở đâu? Và các công cụ của nó chạy ở đâu?

Bắt đầu

Định tuyến theo khu vực khả dụng trên các gói Business và Enterprise của chúng tôi. Hãy nâng cấp lên gói Business từ cài đặt gói của bạn, hoặc liên hệ với đội ngũ doanh nghiệp.

Sau đó, chọn một mô hình từ danh sách US hoặc EU và gửi yêu cầu của bạn đến https://us.openrouter.ai/api/v1 hoặc https://eu.openrouter.ai/api/v1.

Đọc tài liệu để biết thêm thông tin.