Databricks chính thức ra mắt Unity AI Gateway: Giải pháp quản trị AI tập trung cho doanh nghiệp

Sáu tháng qua đã chứng kiến sự gia tăng nhanh chóng của năng suất làm việc nhờ AI và sự bùng nổ của các tác nhân (agent) trên toàn doanh nghiệp. Mặc dù các tác nhân này có thể thay đổi cách thức làm việc với tri thức, chúng cũng đặt ra những thách thức quan trọng tại điểm giao thoa giữa chi phí, quyền kiểm soát và sự lựa chọn:

Những thách thức này càng trở nên trầm trọng hơn do tình trạng "agent sprawl" (sự tràn lan của các tác nhân) diễn ra phổ biến, khi các tổ chức phải chật vật quản lý nhiều công cụ AI và hàng ngàn tác nhân tùy chỉnh trên các nền tảng rời rạc.

Các hệ thống doanh nghiệp hiện nay vẫn chưa bắt kịp với những thách thức này. Đó là lý do chúng tôi rất vui mừng thông báo về việc phát hành chính thức (General Availability) Unity AI Gateway. Unity AI Gateway cung cấp cho doanh nghiệp các đòn bẩy về chi phí, quyền kiểm soát và sự lựa chọn cần thiết để quản lý ngân sách AI và thực thi bảo mật trên mọi tác nhân và tài sản AI, bất kể đó là tác nhân lập trình, MCP, tác nhân bên ngoài, kỹ năng (skill) hay mô hình. Hàng ngàn khách hàng như Rivian, Asana và Edmunds đã và đang sử dụng Unity AI Gateway để triển khai AI một cách có trách nhiệm trên toàn tổ chức, và hơn một triệu tỷ token đã đi qua cổng kết nối của chúng tôi trong năm qua. Tại Databricks, chúng tôi cũng sử dụng Unity AI Gateway nội bộ để quản lý chi tiêu cho hàng ngàn nhân viên, những người đều có quyền truy cập vào nhiều công cụ AI hàng đầu.

Chi phí: Khả năng quan sát AI toàn diện và kiểm soát chi phí

Các tổ chức cần có cái nhìn toàn diện về việc từng đồng chi phí cho AI đang được sử dụng vào đâu, khả năng ngăn chặn chi phí vượt mức trong thời gian thực, và phương thức để liên tục tối ưu hóa việc sử dụng ngân sách AI mà không làm chậm hay gây gánh nặng cho các lập trình viên.

Unity AI Gateway đóng vai trò là trung tâm cho mọi tài sản AI, bao gồm các tác nhân bên ngoài, MCP, kỹ năng và trợ lý lập trình, đồng thời cung cấp khả năng quan sát từ đầu đến cuối và phân bổ chi phí chi tiết theo mô hình, nhà cung cấp, nhóm và ứng dụng. Bằng cách tập trung dữ liệu này vào Unity Catalog, chúng tôi cung cấp các bảng điều khiển có sẵn và phân tích dựa trên Genie, mang đến cho bạn những thông tin chuyên sâu và tức thì về khoản đầu tư AI của mình. Hơn nữa, các nhóm có thể thiết lập ngân sách chủ động và thực thi các giới hạn chi tiêu cứng để đảm bảo sự đổi mới AI luôn có thể dự đoán được và phù hợp với các mục tiêu kinh doanh.

Một kỹ thuật giúp kiểm soát chi phí AI là điều hướng (route) giữa các mô hình tiên phong (frontier models), bao gồm cả mô hình độc quyền và mã nguồn mở. Smart Routing, hiện đang ở giai đoạn Beta, giúp các tổ chức tối đa hóa giá trị từ ngân sách AI mà không làm hạn chế năng suất của lập trình viên. Unity AI Gateway tự động điều hướng từng yêu cầu đến mô hình phù hợp dựa trên các yếu tố như chất lượng, chi phí, hiệu suất, tính khả dụng và ngân sách, dành các mô hình mạnh mẽ và đắt tiền nhất cho những tác vụ cần thiết, đồng thời điều hướng các công việc khác đến những tùy chọn hiệu quả hơn. Kết quả là mang lại giá trị tốt hơn từ mỗi đồng chi phí AI mà không buộc các lập trình viên phải thỏa hiệp về công cụ họ sử dụng hay chất lượng họ cần. Nếu bạn muốn tham gia chương trình Beta, vui lòng liên hệ với đội ngũ phụ trách tài khoản của bạn.

Kiểm soát: Quản trị dữ liệu và AI thông qua một mặt phẳng kiểm soát thống nhất

Chúng tôi tin rằng dữ liệu và AI phải được quản trị cùng nhau. Xét cho cùng, các tác nhân tương tác với dữ liệu doanh nghiệp nhạy cảm nhất của bạn, đồng thời gọi các máy chủ MCP và công cụ để thực hiện hành động thay cho người dùng, từ đó tạo ra dữ liệu và các hệ thống ghi chép. Các dấu vết (trace) của tác nhân được tạo ra cũng chứa đầy thông tin bảo mật, dữ liệu PII hoặc các bí mật khác có thể vô tình bị rò rỉ. Doanh nghiệp cần một cách thống nhất để kiểm soát những gì tác nhân có thể truy cập và thực hiện, đồng thời duy trì danh tính, dấu vết kiểm toán và các chính sách cần thiết để quản trị mọi hành động.

Với Unity Catalog và Unity AI Gateway, các tổ chức có thể quản trị dữ liệu và AI tại một nơi duy nhất. Unity Catalog cung cấp danh tính, quyền hạn, nguồn gốc (lineage) và kiểm toán để quản lý quyền truy cập vào dữ liệu và tài sản AI, trong khi Unity AI Gateway thực thi các rào chắn bảo mật (guardrails) thời gian thực và các chính sách theo ngữ cảnh trong suốt quá trình tương tác AI. Cùng nhau, chúng mang đến cho các nhóm khả năng hiển thị và kiểm soát tập trung để bảo vệ dữ liệu nhạy cảm, thực thi chính sách và điều tra hoạt động AI mà không cần phải chắp vá các hệ thống quản trị và bảo mật riêng biệt.

Sự lựa chọn: Truy cập AI mở, đa dạng mà không bị phụ thuộc vào một nhà cung cấp (lock-in)

Các lập trình viên muốn có sự tự do để chọn lựa các mô hình, nhà cung cấp, tác nhân lập trình và công cụ AI phù hợp nhất cho nhóm của họ, mà không bị trói buộc vào một hệ sinh thái AI duy nhất. Unity AI Gateway cung cấp phương pháp tiếp cận quản trị AI mở, đa dạng, mở rộng danh tính, quyền hạn, chính sách và khả năng quan sát của Unity Catalog đến bất cứ nơi nào các nhóm xây dựng ứng dụng.

Với Unity Catalog, các tổ chức có thể đăng ký và khám phá các mô hình do Databricks lưu trữ hoặc bên ngoài, các tác nhân lập trình, máy chủ MCP và kỹ năng trong một nguồn dữ liệu duy nhất (single source of truth). Sau đó, Unity AI Gateway thực thi quản trị trên các tương tác với những tài sản AI đó, mở rộng các quyền hạn, chính sách và kiểm soát nhất quán đến bất cứ nơi nào chúng được sử dụng. Các nhà cung cấp danh tính và công cụ bảo mật hiện có có thể mở rộng vào các quy trình làm việc AI này, mang lại cho các nhóm sự linh hoạt để áp dụng các công nghệ AI mới mà không cần xây dựng lại hệ thống quản trị hoặc thay thế các kiểm soát doanh nghiệp đáng tin cậy.

Unity AI Gateway cũng cung cấp quyền truy cập gốc vào các mô hình tiên phong, bao gồm Anthropic, OpenAI, Gemini, Kimi, GLM và nhiều mô hình khác, thông qua một API truy vấn duy nhất. Điều này giúp việc thay đổi mô hình và cập nhật những công nghệ mới nhất, tốt nhất trở nên vô cùng dễ dàng.

Bắt đầu với Unity AI Gateway

Unity AI Gateway hiện đã được phát hành chính thức, mang đến cho các tổ chức một phương pháp tiếp cận thống nhất đối với quản trị AI, giúp cân bằng giữa chi phí, quyền kiểm soát và sự lựa chọn khi việc áp dụng AI ngày càng mở rộng.

Để tìm hiểu thêm: