Databricks ra mắt Omnigent: Hợp nhất quy trình vận hành AI Agent, tăng độ chính xác tìm kiếm lên 71%

Một tác nhân (agent) cần thế giới bên ngoài

Một kỹ sư tại một công ty phần mềm đang xây dựng một tác nhân để cập nhật góc nhìn của công ty về thị trường. Nó theo dõi vài trăm nghìn khách hàng tiềm năng và tài khoản khách hàng để tìm kiếm các tín hiệu cho thấy một tài khoản sẵn sàng tương tác: một vòng gọi vốn mới, thay đổi nhân sự lãnh đạo, ra mắt sản phẩm hoặc đợt tuyển dụng ồ ạt cho thấy ngân sách đang tăng.

Các hồ sơ tài khoản vốn đã nằm trong Databricks, trong các bảng Delta được quản lý bởi Unity Catalog và được kết hợp với dữ liệu sử dụng và quy trình bán hàng của chính công ty. Tuy nhiên, các tín hiệu thúc đẩy một tài khoản lại nằm bên ngoài công ty, trên web. Công việc của tác nhân là kết hợp hai nguồn này một cách liên tục thành một bức tranh mạch lạc và cập nhật từng phút về mọi tài khoản, để nó có thể cho nhân viên kinh doanh biết nên gọi cho những khách hàng nào trong tuần này.

Phiên bản 1.0: một mớ hỗn độn có thể vận hành

Phiên bản đầu tiên không phải là một hệ thống duy nhất. Đó là cùng một logic làm giàu dữ liệu (enrichment logic), được xây dựng lại từ đầu ba lần riêng biệt, mỗi lần trên một công cụ mà kỹ sư đó chọn. Lần đầu tiên chạy trong Claude Code, nơi các phần tác nhân (quyết định tài khoản nào cần xem xét mới, chuỗi tìm kiếm, viết tóm tắt) chiếm phần lớn công việc. Khi một đồng nghiệp đề cập rằng Codex xử lý một loại tập lệnh hàng loạt nhất định nhanh hơn, kỹ sư đó chuyển vòng lặp làm giàu dữ liệu sang để kiểm tra. Bản sao thứ ba bỏ qua hoàn toàn bộ khung (harness) và gọi trực tiếp một mô hình qua API, cho một tác vụ nhẹ nhàng hàng đêm chỉ cần một câu lệnh (prompt) và phản hồi, không cần điều phối công cụ. Cùng một công việc, ba bản dựng, mỗi bản được định hình bởi bất kỳ công cụ nào phù hợp tại thời điểm đó.

Mỗi bộ khung tự đóng gói các công cụ và trình tìm kiếm web riêng và kết nối chúng theo cách riêng, vì vậy kỹ sư phải xây dựng cùng một logic làm giàu dữ liệu ba lần, mỗi lần theo định dạng cấu hình của bộ khung đó. Đó là nơi thời gian trôi qua. Thay vì cải thiện cách các tài khoản được làm giàu dữ liệu, kỹ sư lại đang phải học cách Claude Code muốn các công cụ của nó được khai báo như thế nào, tại sao cùng một máy chủ MCP lại kết nối khác biệt trong Codex, và đường dẫn API thô còn thiếu những gì mà hai cái kia đã có sẵn.

Các công cụ không tương đương nhau, và kết quả cũng vậy. Trình tìm kiếm web được tích hợp trong bộ khung này trả về dữ liệu khác với bộ khung kia. Một nguồn có thể truy cập được ở cái này lại bị bỏ lỡ ở cái khác. Các công cụ tìm kiếm web tích hợp sẵn cho LLM có thể tìm thấy thông tin cấp cao như các vòng gọi vốn và thay đổi lãnh đạo, nhưng lại bỏ lỡ các chi tiết cụ thể như thay đổi về công nghệ (tech stack). Quyền truy cập vào thông tin trực tuyến là thứ mà tác nhân này tồn tại để tạo ra, nhưng chất lượng của nó hiện phụ thuộc vào tìm kiếm web không thể truy xuất các chi tiết quan trọng trên web một cách đáng tin cậy.

Và không có gì nằm trên cả ba cái đó. Không có thước đo chung, vì vậy không ai có thể thấy hoặc giới hạn chi phí cho một chu kỳ trên vài trăm nghìn tài khoản. Không có quy tắc chung, vì vậy các nguồn mà một tác nhân có thể đọc và khi nào con người phê duyệt được thiết lập theo ba cách hoặc không có gì cả. Không có hồ sơ chung, vì vậy khi một kết quả sai, không có nơi nào để tái tạo lại những gì tác nhân đã đọc, đã chi tiêu hoặc đã quyết định.

Nó hoạt động theo kiểu tạo ra kết quả. Và đó chính xác là lý do tại sao nó không bao giờ được sửa chữa. Nó hoạt động đủ tốt để giữ lại, nhưng chưa đủ tốt để hoàn toàn tin tưởng.

Omnigent: một định nghĩa, mọi bộ khung

Omnigent là lớp kiểm soát sự phân mảnh. Nó nằm trên các bộ khung riêng lẻ, vì vậy kỹ sư định nghĩa tác nhân một lần, mô hình mà nó chạy, các công cụ nó có thể tiếp cận, các chính sách và giới hạn mà nó hoạt động trong đó. Ba bản dựng lại được gộp thành một định nghĩa duy nhất, và sự tập trung của kỹ sư quay trở lại với việc làm giàu dữ liệu tài khoản. Các công cụ không còn là bất cứ thứ gì đi kèm với mỗi bộ khung mà trở thành các khai báo trên tác nhân, được thiết lập một lần và hoán đổi tự do. Chạy trên một mô hình được lưu trữ tại Databricks, các lệnh gọi mô hình được định tuyến qua Foundation Model APIs, nơi mọi lệnh gọi đều được ghi lại để kiểm soát chi phí, kiểm toán và quản trị tại một nơi thay vì phân tán trên ba môi trường chạy. Và khi mô hình hoặc các yếu tố kinh tế thay đổi, kỹ sư chỉ cần thay đổi một dòng, chọn một mô hình mới hoặc chuyển sang mô hình rẻ hơn mà không bị gián đoạn.

Điều đó giải quyết hầu hết sự phân mảnh, nhưng vẫn để lại một thứ quan trọng được quyết định theo mặc định thay vì theo thiết kế. Tìm kiếm web là một trong những khả năng cốt lõi mà mọi bộ khung đều tích hợp, và không có hai cái nào tích hợp giống nhau. Cùng một truy vấn cho ra một kết quả qua Claude Code và một kết quả khác qua Codex. Omnigent cung cấp cho bạn khả năng xác định một lựa chọn nhất quán cho mỗi tác vụ, nhưng nó không đưa ra quyết định thay cho bạn. Bạn phải chỉ định một khả năng tìm kiếm đối tác. Với một đối tác như Nimble, bạn có thể đặt một thứ gì đó vào vị trí đó để thích ứng với tác vụ, và cung cấp cho mọi bộ khung bên dưới cùng một cách đọc chuyên sâu.

Nimble: lấp đầy vị trí tìm kiếm

Search API của Nimble có thể củng cố các câu trả lời bằng dữ liệu web thời gian thực thông qua tìm kiếm trực tiếp. Đối với các tác vụ nghiên cứu chuyên sâu, Web Search Agents của Nimble tự động hóa việc tìm kiếm web và điều phối trích xuất để hoàn thành tác vụ của bạn, làm việc với nhiều nguồn, kiểm tra chéo chúng và trả về câu trả lời kèm theo các trích dẫn để chứng minh cho từng khẳng định, một dấu vết kiểm toán mà lộ trình thông thường không bao giờ có thể tạo ra.

Trong khi các công cụ tìm kiếm web thông thường xử lý mọi trường hợp sử dụng như nhau, Nimble chuyên biệt hóa cho trường hợp sử dụng cụ thể của tác nhân, tự học các phương pháp truy xuất tốt nhất và điều chỉnh tìm kiếm web cũng như thu thập dữ liệu (crawling) để đi sâu vào lĩnh vực đó nhằm nắm bắt dữ liệu mà các công cụ tìm kiếm chung bỏ lỡ. Nó tiếp cận được dữ liệu đằng sau JavaScript, các bộ lọc và phân trang mà một trình thu thập dữ liệu thông thường bỏ cuộc. Và vì nó ghi nhớ cách tốt nhất để truy xuất dữ liệu liên quan, nó tái sử dụng các đường dẫn truy xuất dữ liệu thay vì khám phá lại mọi thứ từ đầu để giảm chi phí token. Được đặt tên là nhà cung cấp trong cấu hình, đây là con đường nhanh nhất để có ngữ cảnh web đầy đủ hơn cho các tác nhân của bạn.

Trong các thử nghiệm của Nimble, việc thêm tìm kiếm web của Nimble đã nâng độ chính xác của điểm chuẩn LLM từ 46% lên 71%, đồng thời cắt giảm một nửa chi phí tìm kiếm web (so sánh chi phí tìm kiếm web giữa Claude và Nimble). Web Search Agents có thể được hướng vào một tên miền và giữ ở đó, vì vậy nó ghi nhớ những nguồn nào và đường dẫn truy xuất nào đã tạo ra dữ liệu đúng và tái sử dụng chúng vào lần sau. Nó càng trở nên sắc bén hơn khi làm việc lâu hơn trong một lĩnh vực, và chi phí khám phá lại nơi một tín hiệu tồn tại sẽ giảm trên các tài khoản mà nó chạy thường xuyên nhất.

Phiên bản 2.0: xây dựng một lần, trên Databricks và Nimble

Quay lại với kỹ sư, tác nhân hiện đang trên con đường trở thành một tổng thể mạch lạc, dễ quản lý và đáng tin cậy. Tác nhân được định nghĩa một lần trong Omnigent, trên một mô hình được lưu trữ tại Databricks, với các công cụ, chính sách và giới hạn trong một thông số kỹ thuật duy nhất. Ba bản dựng lại đã biến mất. Thuế phí hạ tầng cũng vậy; kỹ sư đã quay lại với việc làm giàu dữ liệu, thay vì loay hoay với việc mỗi bộ khung muốn công cụ của nó được khai báo như thế nào.

Tìm kiếm web giờ đây là một quyết định thay vì ba. Việc đặt tên Nimble trên web_search builtin sẽ hướng mọi bộ khung bên dưới vào cùng một Nimble Search API để tìm kiếm web nhanh chóng và hiệu quả:

Đối với các tài khoản cần một câu trả lời có thể bảo vệ được thay vì dữ liệu web thô, Omnigent có thể tiếp cận Web Search Agents của Nimble, giúp tự động hóa việc tìm kiếm và trích xuất web cho mục đích nghiên cứu, làm giàu dữ liệu hoặc xây dựng tập dữ liệu.

Chìa khóa đến từ một tài khoản Nimble, mà bạn có thể bắt đầu miễn phí.

Quyền kiểm soát giờ đây có một nơi duy nhất. Các lệnh gọi mô hình được định tuyến qua Foundation Model APIs dưới sự quản trị, chi phí có thể nhìn thấy và giới hạn tại một nơi, và những gì tác nhân đọc, chi tiêu và quyết định được ghi lại nhất quán trên một bề mặt quản trị duy nhất.

Và hai nửa của bức tranh cuối cùng đã nằm cùng nhau. Hồ sơ nội bộ trong Databricks và tín hiệu bên ngoài từ Nimble, ở một nơi, được quản lý và đọc bởi một tác nhân duy nhất. Phiên bản 1.0 là ba bộ khung và không có điểm tựa. Đây là một tác nhân duy nhất, dựa trên những gì công ty biết và những gì web có thể cho nó biết, chạy ngay tại nơi dữ liệu đã tồn tại. Nhất quán ở nơi nó từng trôi dạt, chuyên sâu ở nơi nó từng nông cạn, và có toàn quyền quản trị đối với việc truy xuất ngữ cảnh web bên ngoài.

Hãy thử ngay hôm nay

Việc thiết lập này chỉ cần hai bước.

Kết nối Omnigent với Databricks. Databricks chạy máy chủ Omnigent cho bạn. Trên máy của riêng bạn, hãy cài đặt CLI với tích hợp Databricks và đăng ký máy đó làm máy chủ (host):

Sau đó đăng nhập bằng danh tính không gian làm việc của bạn và chạy tác nhân đầu tiên trên một mô hình được lưu trữ tại Databricks. Omnigent trên Databricks là nơi để bắt đầu; nó bao gồm toàn bộ quá trình thiết lập được quản lý từ đầu đến cuối và liên kết các bước CLI. Hai điều kiện tiên quyết cần kiểm tra trước: Omnigent Beta phải được bật cho không gian làm việc của bạn và không gian làm việc phải nằm trong khu vực hỗ trợ Unity AI Gateway. Đối với các phương pháp cài đặt và yêu cầu khác, tài liệu tham khảo cài đặt đầy đủ sẽ có thông tin đó.

Các tác nhân của bạn chạy trên máy chủ được quản lý, vì vậy các phiên làm việc giống nhau sẽ theo bạn trên mọi bề mặt:

Hướng tìm kiếm vào Nimble. Đặt tên Nimble trên web_search builtin, thay đổi một dòng từ trước đó, và mọi tác nhân được lưu trữ tại Databricks sẽ củng cố câu trả lời của chúng thông qua đó. Đối với công việc có thể bảo vệ và kiểm toán được, hãy chọn lộ trình nghiên cứu. Tài liệu kết nối Nimble bao gồm cả hai. Bạn sẽ cần một khóa Nimble, hãy bắt đầu dùng thử miễn phí để nhận một khóa.

Hồ sơ nội bộ vốn đã là của bạn. Đây là những gì cần thiết để cho phép các tác nhân của bạn suy luận trên phần còn lại của web, với cùng một nền tảng nắm giữ cả hai nửa.