Bí quyết thiết kế Genie Agents hiệu quả từ Databricks: Tối ưu hóa chỉ với một câu lệnh

Nếu bạn hỏi một tác nhân (agent) thông thường về doanh thu, nó có khả năng sẽ lấy bảng doanh thu đầu tiên mà nó tìm thấy, chứ không phải bảng mà bộ phận tài chính thực sự quản lý. Bản năng đầu tiên của bạn có thể là sửa lại câu lệnh (prompt). Nhưng vấn đề thực sự thường không nằm ở bản thân câu lệnh; mà là do tác nhân đó thiếu bối cảnh kinh doanh cần thiết để diễn giải yêu cầu.

Databricks Genie Agents giải quyết vấn đề bối cảnh đó bằng cách cho phép bạn quản lý các tác nhân chuyên biệt theo lĩnh vực, có khả năng suy luận trên dữ liệu có cấu trúc cũng như tài liệu và tệp tin để tự động hóa công việc. Một tác nhân Sales Opportunity Data có thể phát hiện rủi ro trong quy trình bán hàng từ các bảng CRM được quản trị, một tác nhân Logistics Management có thể theo dõi các lô hàng và gắn cờ các sự cố chậm trễ trên dữ liệu chuỗi cung ứng, và một tác nhân Product Line Lookup có thể trả lời các câu hỏi chi tiết về sản phẩm từ danh mục nội bộ. Trước đây, việc tạo Genie Agents đòi hỏi phải cấu hình thủ công. Giờ đây, các Genie Agents hiệu quả có thể được khởi tạo bằng Genie One hoặc Genie Code chỉ với một câu lệnh duy nhất, tận dụng bối cảnh từ Unity Catalog cùng với cuộc hội thoại của người dùng.

Cách một câu lệnh đơn giản tạo ra điểm khởi đầu chính xác

Bạn có thể tạo tác nhân đầu tiên của mình trong vài phút, bắt đầu chỉ với một câu lệnh. Trong nhiều trường hợp, câu lệnh chỉ cần mô tả kết quả mong muốn của tác nhân và chỉ dẫn Genie đến nguồn thông tin liên quan.

Hãy xem xét ví dụ này: “Sử dụng các runbook sự cố và dữ liệu về tình trạng dịch vụ của chúng ta để tạo một tác nhân giúp các kỹ sư hỗ trợ điều tra các sự cố trong môi trường sản xuất.”

Câu lệnh này rất đơn giản, nhưng nó cung cấp cho Genie đủ thông tin để bắt đầu. Nó xác định vấn đề và chỉ ra các nguồn mà tác nhân nên sử dụng.

Tất nhiên, chất lượng của một tác nhân phụ thuộc vào chất lượng bối cảnh của nó. Genie Agents suy luận dựa trên dữ liệu, tài liệu và tệp tin mà bạn đã quản trị trong Unity Catalog, vì vậy công việc thực sự là quản lý các nguồn đáng tin cậy đó. Một khi đã có sẵn, Genie có thể tập hợp chúng thành một tác nhân cho bạn. Đối với một tác nhân CNTT, bối cảnh đó có thể bao gồm các câu hỏi thường gặp (FAQ), tài liệu hỗ trợ, runbook sự cố, danh mục hệ thống và dữ liệu dịch vụ. Đối với một tác nhân dữ liệu, nó có thể bao gồm các bảng được quản trị, định nghĩa chỉ số, bảng điều khiển (dashboard), quy tắc chất lượng dữ liệu và tài liệu nội bộ.

Bối cảnh không chỉ giới hạn ở dữ liệu có cấu trúc. Genie Agents cũng có thể suy luận trên dữ liệu phi cấu trúc được lưu trữ trong các Unity Catalog volumes, chẳng hạn như tệp PDF, tài liệu Word, bản trình bày và hình ảnh. Khi ai đó đặt câu hỏi, tác nhân sẽ truy xuất nội dung tệp phù hợp nhất và suy luận cùng với các bảng được quản trị của bạn để đưa ra câu trả lời, luôn tuân thủ quyền truy cập của người đặt câu hỏi. Điều này có nghĩa là một tác nhân Incident Investigation có thể dựa trên các tệp PDF runbook thực tế, và một tác nhân Product Line Lookup có thể lấy thông tin từ tài liệu sản phẩm thực tế.

Bắt đầu từ phạm vi hẹp và mở rộng dần

Mặc dù Genie Agents có thể hỗ trợ các quy trình làm việc phức tạp, nhiều bước, nhưng điểm khởi đầu tốt nhất thường là một vấn đề tập trung, dễ nhận biết đòi hỏi sự phân tích hoặc công việc lặp đi lặp lại. Một trường hợp sử dụng hẹp giúp dễ dàng nhận thấy liệu tác nhân có dựa trên các nguồn đúng đắn và hoạt động như mong đợi hay không, đồng thời giúp việc xác định phạm vi và đánh giá hiệu năng trở nên ý nghĩa hơn.

Hãy lấy ví dụ về tác nhân Incident Investigation ở trên. Trước khi triển khai, hãy chạy thử nó với một vài sự cố trong quá khứ mà bạn đã biết nguyên nhân gốc rễ, và kiểm tra không chỉ xem nó có đưa ra kết luận đúng hay không, mà còn xem nó có trích dẫn đúng các runbook và dữ liệu tình trạng dịch vụ để đạt được kết luận đó hay không. Nếu nó dựa vào một runbook lỗi thời hoặc dịch vụ sai, điều đó chỉ ra bối cảnh bạn cần quản lý, chứ không phải câu lệnh bạn cần viết lại.

Genie Agents bao gồm các tiêu chuẩn đánh giá (benchmark) tích hợp cho việc này. Bạn có thể xác định một bộ câu hỏi kiểm tra, mỗi câu hỏi kèm theo câu trả lời mong đợi, và chạy chúng để nhận điểm chính xác cho tác nhân. Việc chạy lại tiêu chuẩn đánh giá đó sau mỗi thay đổi sẽ biến cảm giác mơ hồ rằng tác nhân “có vẻ tốt hơn” thành một con số có thể đo lường được mà bạn có thể theo dõi, và tab giám sát sẽ hiển thị các câu hỏi và phản hồi thực tế mà người dùng gửi đến, để bạn có thể đưa các lỗ hổng mới vào tiêu chuẩn đánh giá khi mở rộng.

Khi trường hợp sử dụng đầu tiên của bạn đã đi vào hoạt động, bạn có thể thêm nhiều kiến thức và nguồn dữ liệu hơn, với mỗi lần mở rộng đều dựa trên một phiên bản đã được kiểm thử. Tác nhân Sales Opportunity Data có thể phát triển từ việc phát hiện rủi ro trong quy trình bán hàng sang soạn thảo tóm tắt giao dịch hoặc trả lời các câu hỏi về tỷ lệ thắng theo phân khúc. Tác nhân Logistics Management có thể mở rộng từ việc gắn cờ các sự cố chậm trễ sang đề xuất định tuyến lại hoặc theo dõi hiệu suất của đơn vị vận chuyển theo thời gian. Tác nhân Product Line Lookup có thể chuyển từ việc trả lời các câu hỏi về danh mục sang so sánh sản phẩm hoặc gắn cờ các lỗ hổng khi thiếu tài liệu.

Các điểm khởi đầu tốt bao gồm trả lời câu hỏi từ FAQ sản phẩm, điều tra một loại sự cố sản xuất phổ biến, giải thích các thay đổi về chi phí đám mây hoặc giám sát một tập hợp các đường ống dữ liệu (data pipeline) được xác định. Điểm chung giữa các trường hợp sử dụng và các phòng ban là mỗi tác nhân đều bắt đầu với một công việc dễ nhận biết.

Tài sản thực sự chính là bối cảnh

Việc tạo tác nhân bằng một câu lệnh duy nhất không thay thế cho tài liệu hoặc chuyên môn nghiệp vụ. Nó chỉ đơn giản cung cấp cho các nhóm một cách nhanh hơn để biến những khoản đầu tư đó thành thứ mà mọi người có thể tự phục vụ. Nền tảng càng tốt, tác nhân càng hiệu quả. Các ngữ nghĩa trong Unity Catalog được quản lý, chẳng hạn như các chế độ xem chỉ số, lĩnh vực và chứng nhận, chính là những gì câu lệnh thực sự dựa vào để tạo ra các câu trả lời nhất quán và đáng tin cậy.

Câu lệnh bắt đầu quy trình, nhưng chất lượng của tác nhân vẫn phụ thuộc vào kiến thức và hệ thống đằng sau nó. Đây là nơi các nhà lãnh đạo dữ liệu và CNTT tạo ra sự khác biệt: khoản đầu tư vào một bối cảnh được quản trị, xác định rõ ràng là thứ mang lại kết quả trực tiếp cho chất lượng của tác nhân.

Xây dựng Genie Agent đầu tiên của bạn

Các tác nhân hiệu quả bắt đầu bằng một nhu cầu kinh doanh rõ ràng và bối cảnh đáng tin cậy cần thiết để giải quyết nhu cầu đó.

Cách nhanh nhất để thấy được điều này là bắt đầu với một trường hợp sử dụng tập trung. Ví dụ:

Genie Agents giúp bạn có thể biến dữ liệu, tài liệu và quy trình làm việc hiện có thành một tác nhân chuyên biệt theo lĩnh vực chỉ từ một câu lệnh duy nhất, sau đó xác định phạm vi, đánh giá và mở rộng nó theo thời gian.