Artificial Intelligence News
85

Sản phẩm

Okta tối ưu chi phí token cho AI Agent thông qua phân quyền MCP

(giờ Việt Nam)

Tóm tắt AI

Okta giới thiệu giải pháp sử dụng phạm vi định danh (identity scoping) trong giao thức MCP để cắt giảm 'thuế công cụ' - lượng token dư thừa phát sinh khi AI Agent phải xử lý quá nhiều mô tả công cụ không cần thiết.

Bản dịch AI

Okta targets AI agent token costs with MCP scoping

Okta cho biết danh sách công cụ Model Context Protocol (MCP) được giới hạn theo danh tính (identity-scoped) có thể giúp giảm chi phí token cho các AI agent.

Mỗi lệnh gọi mô hình do AI agent thực hiện có thể bao gồm các lược đồ (schema), tên, mô tả và tham số cho mọi công cụ được MCP server cung cấp. Okta gọi chi phí phát sinh từ prompt này là "thuế công cụ" (tool tax): số lượng token bị tiêu tốn khi mô hình xem xét các công cụ, bao gồm cả những công cụ mà nó sẽ không bao giờ gọi đến.

Công ty lập luận rằng chi phí này xuất hiện trước khi agent cố gắng thực hiện lệnh gọi công cụ. Do đó, việc từ chối một yêu cầu trái phép sau đó không thể thu hồi lại số token prompt đã tiêu tốn. Cơ chế kiểm soát mà Okta đề xuất sẽ lọc danh sách công cụ trước khi chúng đến được mô hình, dựa trên các quyền được gán cho danh tính của agent và người dùng liên kết với nó.

Mô hình nội bộ của Okta cho thấy một số kịch bản phân quyền đã giảm số lượng công cụ hiển thị xuống hơn 90%. Công ty cho biết chi phí cho lược đồ công cụ cũng giảm theo tỷ lệ tương đương, mặc dù họ không cung cấp con số cụ thể về token hay chi phí bằng đô la.

Các lược đồ công cụ MCP tạo ra chi phí prompt trong mỗi lượt tương tác.

Các MCP server đã trở thành một lộ trình để kết nối AI agent với các công cụ và dữ liệu. Okta dẫn chứng các kết nối với Google Workspace, Slack và các MCP server nội bộ làm ví dụ. Một MCP server có thể cung cấp một số lượng lớn công cụ, và mô hình sẽ nhận được thông tin đại diện của từng công cụ khả dụng trong prompt của nó ở mỗi lượt tương tác.

Thông tin đại diện đó bao gồm lược đồ, cùng với tên công cụ, mô tả và các tham số.

Okta cho biết chi phí sẽ tăng lên khi một MCP server được sử dụng rộng rãi cung cấp quá nhiều công cụ. Mỗi người dùng đang hoạt động sẽ phải chịu chi phí prompt mỗi khi agent của họ thực hiện một lệnh gọi mô hình. Công ty coi đây là vấn đề về cả số lượng công cụ lẫn số lượng người dùng.

Vấn đề này còn có khía cạnh kiểm soát truy cập. Một agent nhìn thấy các công cụ nằm ngoài phạm vi ủy quyền của nó có thể cố gắng sử dụng chúng. Một cơ chế kiểm soát từ chối lệnh gọi tại thời điểm thực thi (runtime) có thể chặn hành động đó, nhưng mô hình đã nhận được định nghĩa công cụ và sử dụng token để xử lý nó.

Okta lọc các công cụ trước khi prompt của agent được xây dựng.

Okta định vị khả năng này trong "bản thiết kế cho doanh nghiệp sử dụng agent an toàn" (blueprint for the secure agentic enterprise) của mình, trong đó yêu cầu các tổ chức phải xác định rõ các agent, các kết nối được phép và các hành động được ủy quyền của chúng.

Cách tiếp cận của họ thu hẹp phạm vi kết nối từ việc truy cập toàn bộ MCP server sang truy cập từng công cụ riêng lẻ trên server đó. Quản trị viên sẽ cấu hình các công cụ mà một danh tính cụ thể được phép sử dụng trong bảng điều khiển của Okta. Sau đó, Okta sẽ trả về tập hợp công cụ đã được giới hạn thay vì toàn bộ danh mục của server.

Agent nhận được danh sách rút gọn này trong prompt của nó cho mỗi lượt tương tác. Okta cho biết họ kiểm tra lại phạm vi một lần nữa tại thời điểm thực thi trước khi lệnh gọi công cụ được thực hiện.

Thiết kế này áp dụng nguyên tắc đặc quyền tối thiểu (least-privilege access) ở cấp độ công cụ. Công ty cho rằng một agent không nên biết về các tài nguyên, cơ sở dữ liệu hoặc công cụ mà nó không được ủy quyền rõ ràng để sử dụng. Việc loại bỏ các công cụ không khả dụng khỏi prompt cũng giúp loại bỏ chi phí lược đồ của chúng khỏi lệnh gọi mô hình.

Okta không mô tả một triển khai thực tế cho khách hàng trong bài viết. Bằng chứng cho mức giảm chi phí được tuyên bố đến từ mô hình nội bộ sử dụng dữ liệu sản phẩm của Okta và tài liệu công khai của nhà cung cấp, không sử dụng dữ liệu khách hàng.

Mô hình nội bộ sử dụng các phạm vi OAuth và các vai trò đại diện.

Okta đã mô hình hóa một MCP client duy nhất có quyền truy cập vào danh mục các công cụ doanh nghiệp. Họ so sánh số lượng công cụ mà mô hình nhìn thấy trước và sau khi áp dụng giới hạn dựa trên danh tính.

Để ước tính mức độ hiển thị sau khi giới hạn, công ty đã ánh xạ các công cụ của Okta MCP Server với các phạm vi OAuth mở khóa chúng. Sau đó, họ xác định các phân khúc người dùng đại diện, bao gồm người dùng chỉ đọc (read-only) tại bộ phận hỗ trợ và các nhân viên vận hành bộ phận hỗ trợ.

Các phân khúc khác bao gồm quản trị viên ứng dụng, quản trị viên thương hiệu và email, và siêu quản trị viên (super administrators). Okta đã tính trọng số cho từng phân khúc dựa trên tỷ trọng lưu lượng truy cập hàng tháng giả định.

Công ty tính toán mức giảm số lượng công cụ bằng một trừ đi tỷ lệ giữa số công cụ đã giới hạn và số công cụ chưa giới hạn. Họ cho biết một số kịch bản đã loại bỏ hơn 90% số công cụ hiển thị. Bài viết nêu rõ rằng chi phí token cho lược đồ công cụ tỉ lệ thuận gần như tuyến tính với số lượng công cụ, vì mỗi công cụ đều đóng góp tên, mô tả và lược đồ tham số vào mọi prompt.

Okta cho biết kết quả thực tế sẽ thay đổi tùy theo danh mục công cụ, sự phân bổ quyền hạn và mô hình được chọn. Kích thước lược đồ trung bình, khối lượng yêu cầu và giá của mô hình cũng ảnh hưởng đến chi phí token và chi phí bằng đô la thực tế.

Okta đối chiếu quyền hạn danh tính với các biện pháp kiểm soát chi tiêu tại cổng kết nối (gateway).

Bài viết phân biệt việc giới hạn dựa trên danh tính với các biện pháp kiểm soát tại cổng kết nối. Okta cho biết các cổng kết nối có thể giới hạn chi tiêu theo khóa, nhóm hoặc đội ngũ, đồng thời hỗ trợ định tuyến và giới hạn tốc độ (rate limiting).

Một cổng kết nối có thể đo lường số lượng token ra vào hệ thống, cũng như số tiền đã chi tiêu. Okta cho biết các biện pháp kiểm soát đó có thể hạn chế chi phí sau khi quyết định của mô hình trở nên đắt đỏ.

Quyền hạn danh tính cung cấp một đầu vào khác biệt. Okta cho biết quyền hạn theo từng người dùng và từng agent có thể xác định các công cụ khả dụng cho một agent cụ thể hoặc người đứng sau agent đó, thay vì áp dụng thông tin truy cập ở cấp độ nhóm.

Paul Webber, Chuyên gia phân tích ngành an ninh mạng tại Software Analyst Cyber Research, cho biết: "Việc kiểm soát chi phí cho các agent được thực hiện tốt nhất bằng cách sử dụng các công cụ quản trị danh tính, vốn cung cấp khả năng kiểm soát chi tiết và chính xác hơn mà không làm gián đoạn quy trình kinh doanh."

"Cách tiếp cận của Okta là một phương pháp tinh tế để thực hiện điều này vì nó tận dụng chính dữ liệu quyền hạn đang quản lý bảo mật, thay vì một lớp đo lường riêng biệt thiếu đi sự thấu hiểu đó."

Cách giải thích của Okta trình bày cổng kết nối như một biện pháp kiểm soát những gì đi qua nó. Lớp danh tính sẽ lọc tập hợp công cụ khả dụng trước khi các công cụ đó cần được đo lường.

Khả năng hiển thị công cụ cũng ảnh hưởng đến rủi ro tấn công qua MCP.

Bài viết liên kết cơ chế tương tự với rủi ro bảo mật. Okta cho biết việc loại bỏ các công cụ khỏi tầm nhìn của một danh tính không được ủy quyền cũng đồng nghĩa với việc loại bỏ các hành động mà danh tính đó có thể thực hiện nếu bị xâm nhập.

Việc kiểm tra phạm vi mà họ đề xuất hoạt động tại hai thời điểm. Lần thứ nhất xảy ra khi danh sách công cụ được tập hợp cho prompt của agent. Lần thứ hai xảy ra khi agent cố gắng thực hiện một lệnh gọi công cụ.

Okta mô tả kết quả này là bán kính ảnh hưởng nhỏ hơn đối với một danh tính bị xâm nhập. Các công cụ còn lại được hiển thị sẽ xác định tập hợp các hành động khả dụng cho danh tính đó. Trong mô hình của công ty, prompt chỉ chứa các công cụ liên kết với các phạm vi OAuth được ủy quyền của danh tính đó.

Đối với các tổ chức đang đánh giá quyền truy cập MCP, kiểm kê công cụ và ánh xạ quyền hạn là những đầu vào vận hành chính. Phương pháp của Okta ánh xạ các công cụ của MCP Server với các phạm vi OAuth mở khóa chúng, sau đó so sánh danh mục công cụ đầy đủ với danh mục đã được giới hạn hiển thị cho từng phân khúc người dùng đại diện.

Okta là nhà tài trợ chính của sự kiện AI & Big Data Expo Europe năm nay, được tổ chức tại Amsterdam vào ngày 19-20 tháng 10 năm 2026.

Xem thêm: Meta Muse Glimmer mang các AI agent cục bộ lên GPU người dùng.

Banner for the AI & Big Data Expo event series.

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy tham khảo sự kiện AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng địa điểm với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.

Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Artificial Intelligence News. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.