Hướng dẫn thiết lập kiểm soát chi phí sử dụng AI cho nhóm trên OpenRouter

Khi đội ngũ của bạn phát triển trên OpenRouter, việc có nhiều API key hơn và quyền truy cập vào nhiều mô hình hơn khiến bạn khó kiểm soát ai đang chi tiêu bao nhiêu. Năm công cụ kiểm soát sau đây sẽ giải quyết vấn đề đó. Tổ chức cung cấp cho mọi người một quỹ tín dụng chung. Presets giới hạn các mô hình theo từng khối lượng công việc. Per-key limits (giới hạn theo từng key) giúp khống chế chi tiêu trên mỗi key. Guardrails (hàng rào bảo vệ) thực thi ngân sách theo từng thành viên và danh sách mô hình cho phép. Và bảng điều khiển Activity cho thấy tiền đã được sử dụng vào việc gì.

Hướng dẫn này thiết lập tất cả các công cụ trên theo thứ tự: tổ chức, presets, giới hạn key, guardrails, sau đó là kiểm tra trong Activity. Nếu bạn vẫn đang cân nhắc xem mình cần những công cụ kiểm soát nào, hãy đọc hướng dẫn quản trị chi tiêu AI cho đội ngũ trước. Trang này tập trung vào chính quá trình thiết lập.

Trước khi bắt đầu

Hãy đảm bảo bạn đã chuẩn bị sẵn các mục sau trước khi bắt đầu:

Bước 1: Tạo tổ chức và nạp tín dụng

Truy cập Settings > Preferences, mở phần Organization và nhấp vào Create Organization. Sau khi nhập thông tin chi tiết về tổ chức, hãy mời các thành viên trong nhóm và chuyển sang ngữ cảnh tổ chức bằng trình chuyển đổi org (org switcher) ở đầu ứng dụng.

Xác nhận rằng trình chuyển đổi hiển thị tên tổ chức của bạn trước khi tiếp tục. Trong tài khoản cá nhân, mức sử dụng, API key và tín dụng thuộc về tài khoản cá nhân của bạn. Trong ngữ cảnh tổ chức, chúng thuộc về tài khoản tổ chức chung. Trình chuyển đổi org là nguồn gốc phổ biến gây ra lỗi phân bổ mức sử dụng.

Quyền thanh toán phụ thuộc vào vai trò được gán cho người dùng trong quá trình mời:

Nạp tiền vào quỹ tín dụng chung

Mua tín dụng từ trang thanh toán khi bạn đang ở trong ngữ cảnh tổ chức. Tín dụng sẽ đi vào một quỹ chung mà mọi API key trong tổ chức đều sử dụng, vì vậy bạn chỉ cần nạp tiền cho cả nhóm tại một nơi thay vì nạp lẻ tẻ cho từng kỹ sư.

Nếu bạn cần chuyển tín dụng cá nhân hiện có vào tổ chức, hãy sử dụng tùy chọn chuyển đổi trên trang tín dụng. Việc chuyển đổi có các quy tắc đủ điều kiện (xác thực hai yếu tố trên tài khoản của bạn, tuổi của tài khoản và tư cách thành viên, tín dụng mới mua gần đây và thời gian chờ giữa các lần chuyển), vì vậy nếu việc chuyển đổi chưa khả dụng, trang web sẽ cho bạn biết lý do. Các tổ chức thanh toán theo hóa đơn không thể nhận chuyển đổi.

Bước 2: Giới hạn mô hình và nhà cung cấp bằng presets

Preset là một cấu hình có thể tái sử dụng giúp cố định mô hình và nhà cung cấp mà một khối lượng công việc sử dụng. Trên tài khoản tổ chức, các preset được chia sẻ cho tất cả thành viên.

Tạo preset

Truy cập Presets Settings và tạo một preset cho mỗi đường dẫn khối lượng công việc, ví dụ: support-bot, internal-search, hoặc eval-runner.

Đối với mỗi preset:

Các preset được đánh phiên bản, mỗi lần lưu được chỉ định là phiên bản hoạt động mới mà các yêu cầu API sẽ trỏ tới, và lịch sử phiên bản được lưu giữ để bạn có thể hoàn tác. Các tham số ở cấp độ yêu cầu (request-level) sẽ ghi đè nông (shallow-override) lên các giá trị của preset.

Tham chiếu preset từ mã nguồn

Tham chiếu preset theo ba cách: dưới dạng mô hình với @preset/{slug}, thông qua trường preset riêng biệt, hoặc dưới dạng model@preset/{slug}. Cả ba cách đều được giải quyết ở phía máy chủ, vì vậy cùng một preset hoạt động trên mọi SDK.

Khi bạn tạo hoặc cập nhật một preset thông qua API, chỉ các trường cấu hình mới được lưu trữ, chẳng hạn như model, temperature, top_p, provider, system và tools. Các trường tạm thời như messages, input, prompt và stream sẽ bị bỏ qua.

Một preset chỉ ảnh hưởng đến các yêu cầu tham chiếu trực tiếp đến nó. Nếu bạn cần một hạn chế về mô hình mà một key không thể vượt qua, hãy sử dụng danh sách mô hình cho phép (allowlist) của guardrail ở Bước 4.

Bước 3: Khống chế chi tiêu theo key với giới hạn và thiết lập lại

Bạn có thể giới hạn mỗi API key bằng một hạn mức tín dụng và limit_reset, để mỗi khối lượng công việc nhận được một khoản ngân sách mới theo lịch trình định kỳ. Bạn tạo và quản lý các key này thông qua một Management API key, loại key chỉ tồn tại để quản trị các key khác.

Tạo Management API key

Truy cập Management Keys và nhấp vào Create New Key.

Một Management API key xử lý các hoạt động quản trị, chẳng hạn như quản lý key trong /api/v1/keys và quản lý guardrail trong /api/v1/guardrails. Nó không thể gọi các endpoint hoàn thiện (completion endpoints), vì vậy nó an toàn để sử dụng trong các hệ thống cung cấp và quy trình tự động hóa. Hãy sử dụng nó để tạo một key cho mỗi dịch vụ, môi trường hoặc kỹ sư, để quyền truy cập và chi tiêu được tách biệt theo từng khối lượng công việc.

Cấu hình giới hạn, thiết lập lại và kiểm soát vòng đời

Khi tạo hoặc cập nhật key thông qua /api/v1/keys, bạn kiểm soát cả hạn mức chi tiêu và cách thức thiết lập lại:

Tạo một key với hạn mức tín dụng hàng ngày:

Cập nhật một key để thắt chặt hạn mức hoặc thay đổi chu kỳ thiết lập lại:

Vô hiệu hóa một key ngay lập tức để dừng chi tiêu hoặc cắt quyền truy cập của một khối lượng công việc đang hoạt động bất thường:

Theo dõi mức sử dụng và tự động hóa quản trị

Mỗi key báo cáo mức sử dụng riêng thông qua các trường usage, usage_daily, usage_weekly, usage_monthly, limit_remaining và các giá trị tương đương của BYOK. Bạn có thể thăm dò các giá trị này từ một cron job hoặc background worker và vô hiệu hóa key khi nó gần đạt đến hạn mức.

Trường limit giới hạn key, không phải cá nhân. Khi bạn cần thực thi trên tất cả các key thuộc về một thành viên, hãy sử dụng guardrail được gán cho thành viên ở Bước 4. Để xoay vòng key và đảm bảo an toàn cho bí mật, hãy xem hướng dẫn quản lý API key.

Bước 4: Thực thi ngân sách theo thành viên và danh sách mô hình cho phép với guardrail

Guardrail thực thi chính sách ở cấp độ cá nhân, bất kể thành viên đó tạo bao nhiêu API key. Nó biến các mặc định mô hình của Bước 2 và các hạn mức theo key của Bước 3 thành các giới hạn cứng mà thành viên không thể vượt qua. Chỉ quản trị viên tổ chức mới có thể tạo và quản lý guardrails.

Tạo guardrail

Truy cập Settings > Privacy, cuộn xuống Guardrails và nhấp vào New Guardrail.

Cấu hình các mục sau: