Giải mã LangChain: AI Agent là gì và cách vận hành?

Định nghĩa về một AI agent phụ thuộc vào việc bạn hỏi ai. Các nhà cung cấp sử dụng thuật ngữ này cho chatbot, các nhà nghiên cứu dùng cho các hệ thống tự hành, trong khi các đội ngũ kỹ thuật thường dùng nó như một nhãn bao quát cho các hệ thống tự động mà họ đã triển khai. Sau bốn năm đưa các agent vào môi trường production, định nghĩa của chúng tôi là:

Mức độ "agentic" (tính tác nhân) của hệ thống phụ thuộc vào việc mô hình nắm giữ bao nhiêu quyền kiểm soát luồng (control flow). Một đầu là một LLM router đơn giản, đầu kia là một hệ thống tự chọn công cụ và vận hành trong các khung thời gian dài. Bạn càng trao nhiều quyền kiểm soát cho mô hình, bộ công cụ của bạn càng cần phải mạnh mẽ, đặc biệt là đối với khả năng quan sát (observability), đánh giá (evals), bộ nhớ, quyền hạn và thực thi an toàn.

Định nghĩa này cung cấp cho chúng ta một cách thực tế để phân biệt agent với các quy trình làm việc (workflows), mô tả các cấp độ tự chủ và quyết định cơ sở hạ tầng production nào mà một hệ thống cần.

AI agent là gì?

Quan niệm phổ biến cho rằng AI agent là một hệ thống theo đuổi mục tiêu bằng cách lặp đi lặp lại các hành động, đánh giá tiến độ và tự quyết định các bước tiếp theo. Anthropic đưa ra một định nghĩa vận hành bổ sung: agent là các hệ thống mà ở đó các LLM tự điều phối linh hoạt các quy trình và việc sử dụng công cụ của chính chúng, duy trì quyền kiểm soát cách thức hoàn thành nhiệm vụ.

Những định nghĩa đó mô tả hành vi, nhưng đối với các đội ngũ xây dựng hệ thống production, sự khác biệt đơn giản hơn. Một agent bắt đầu khi mô hình chọn bước tiếp theo, thay vì chỉ tạo ra văn bản trong khi mã nguồn thực hiện một chuỗi các bước đã được xác định trước.

Tự chủ là một phổ (spectrum)

Hầu hết các hệ thống production nằm giữa một workflow và một agent hoàn toàn tự chủ. Vị trí của chúng trên phổ đó phụ thuộc vào việc mô hình có bao nhiêu quyền kiểm soát đối với đầu ra, các bước tiếp theo và các công cụ khả dụng.

Cách tiếp cận theo phổ cho phép chúng ta ngừng tranh cãi về việc hệ thống nào "thực sự" là agent và tập trung vào các yêu cầu kỹ thuật ở các cấp độ tự chủ khác nhau. Xe tự lái đã đạt được điều này trước tiên. Không ai hỏi liệu hệ thống hỗ trợ lái xe Cấp độ 2 có "thực sự" là tự lái hay không, bởi vì ngành công nghiệp đã đồng ý về một thang đo được đánh số và các kỹ sư thảo luận về cấp độ mà họ đang triển khai. Ngành công nghiệp AI vẫn chưa thống nhất được hệ thống phân loại riêng cho mình.

Biểu đồ dưới đây vạch ra sáu cấp độ tự chủ. Đối với mỗi cấp độ, nó cho thấy ai là người kiểm soát ba quyết định quan trọng.

Biểu đồ cho thấy các hệ thống trở nên tự chủ hơn như thế nào khi LLM nắm quyền kiểm soát nhiều quyết định hơn. Bạn chuyển từ logic viết tay sang một lệnh gọi LLM đơn lẻ, sang một chuỗi (chain), sang một Router, sang một State Machine và cuối cùng là một Autonomous Agent hoàn chỉnh có khả năng tự xây dựng và ghi nhớ các công cụ của riêng nó. Bài báo về Voyager là ví dụ rõ ràng nhất cho cấp độ cao nhất đó: một agent đã học các kỹ năng trong Minecraft qua nhiều lần chạy và tái sử dụng chúng sau đó.

Workflows và AI agents

Một workflow điều phối các LLM và công cụ thông qua các đường dẫn mã được xác định trước, trong khi một AI agent cho phép LLM điều hướng linh hoạt những gì xảy ra tiếp theo. Anthropic xếp cả hai vào nhóm "hệ thống tác nhân" (agentic systems), và sự khác biệt chỉ nằm ở một câu hỏi duy nhất: bao nhiêu phần của luồng kiểm soát được cố định trong mã nguồn so với việc được mô hình quyết định tại thời điểm chạy (runtime).

Trong môi trường production, sự khác biệt này thể hiện như một quyết định thiết kế. Một đội ngũ chọn dùng agent khi một workflow là đủ sẽ tạo ra sự bất định (non-determinism) không cần thiết. Ngược lại, một đội ngũ chọn dùng workflow khi vấn đề cần đến agent sẽ tạo ra các đường dẫn cứng (hard-code) dễ bị lỗi ngay khi dữ liệu đầu vào thay đổi.

Câu trả lời thường là sự kết hợp. Hãy sử dụng mã xác định (deterministic code) cho các bước có yêu cầu rõ ràng, và trao quyền kiểm soát cho LLM ở những nơi ứng dụng cần diễn giải dữ liệu đầu vào phi cấu trúc hoặc chọn hành động tiếp theo.

Bên trong vòng lặp của agent

Một AI agent là một mô hình ngôn ngữ lớn chạy trong một vòng lặp, và vòng lặp đó là cơ chế giúp mô hình nắm quyền kiểm soát luồng. Tại mỗi lượt, nó đọc trạng thái hiện tại, chọn một hành động, gọi một công cụ, quan sát kết quả, cập nhật bộ nhớ và quyết định xem có nên tiếp tục hay không.

Bốn thành phần nằm bên trong bất kỳ agent nào: một mô hình quyết định hành động tiếp theo, các công cụ cho phép nó đọc và thay đổi thế giới, bộ nhớ lưu giữ ngữ cảnh qua các lượt, và một vòng lặp suy luận kết nối chúng lại với nhau.

Khi nào bạn thực sự cần một AI agent

Tất cả kiến trúc đó chỉ quan trọng nếu bạn thực sự cần một agent. Một workflow xác định, một hệ thống truy xuất (retrieval system) hoặc một ứng dụng LLM gọi đơn lẻ sẽ hoạt động hiệu quả hơn agent trong các tác vụ đơn giản hơn. Chỉ nên dùng agent khi luồng kiểm soát cần được quyết định tại thời điểm chạy.

Lời khuyên của chúng tôi:

Cấp độ tự chủ phù hợp phụ thuộc vào tác vụ, các công cụ cần thiết và khả năng đánh giá kết quả của đội ngũ.

Cải thiện các agent thông qua Vòng đời phát triển Agent (Agent Development Lifecycle)

Vòng đời phát triển Agent (ADLC) của LangChain kết nối bốn giai đoạn: xây dựng, kiểm thử, triển khai và giám sát. Các dấu vết (traces) từ môi trường production và phản hồi từ việc giám sát trở thành các trường hợp kiểm thử cho lần xây dựng tiếp theo, cho phép các đội ngũ đánh giá các thay đổi trước khi triển khai chúng.

Đánh giá trực tuyến (online evals) và đánh giá ngoại tuyến (offline evals)

Việc đánh giá agent bao gồm các đánh giá trực tuyến và ngoại tuyến, phục vụ các mục đích khác nhau. Đánh giá trực tuyến chạy trên một mẫu các dấu vết từ môi trường production. Chúng là các điểm chuẩn (benchmarks) thay vì là sự thật khách quan (ground truths). Chúng cho bạn biết liệu điểm số về độ hữu ích có giảm đột ngột hay không, hoặc liệu một công cụ có đang gặp lỗi thường xuyên hơn trước hay không.

Đánh giá ngoại tuyến chạy trên các tập dữ liệu đã được chọn lọc. Chúng là các bài kiểm tra sự thật khách quan cho biết liệu một thay đổi về prompt, thay đổi mô hình hay một kiến trúc mới có thực sự cải thiện agent hay không.

Bạn cần cả hai. Đánh giá trực tuyến làm nổi bật các vấn đề trong môi trường production, trong khi đánh giá ngoại tuyến cho thấy liệu một thay đổi được đề xuất có cải thiện hiệu suất trước khi triển khai hay không.

LLM-as-a-judge (LLM đóng vai trò giám khảo)

LLM-as-a-judge có thể đánh giá các dấu vết production ở quy mô mà việc xem xét thủ công không thể đáp ứng. Giám khảo sẽ chấm điểm đầu ra của agent dựa trên các tiêu chí do con người xác định như độ hữu ích, độ trung thực hoặc mức độ hoàn thành tác vụ.

Một giám khảo chỉ có thể chuẩn xác khi các tiêu chí bạn đưa ra chuẩn xác, vì vậy các đội ngũ bỏ qua bước hiệu chỉnh (calibration) có thể nhận được những điểm số trông có vẻ nghiêm ngặt nhưng lại vô nghĩa. Chúng tôi hiệu chỉnh bằng cách dán nhãn thủ công các dấu vết thực tế, chạy giám khảo trên đó, xem xét những điểm bất đồng và lặp lại việc điều chỉnh prompt của giám khảo cho đến khi các điểm số khớp nhau. Align Evals biến quá trình hiệu chỉnh đó thành một quy trình có thể lặp lại, đó là cách chúng tôi giữ cho giám khảo chính xác khi agent thay đổi.

Các dấu vết được làm giàu tạo ra một vòng lặp phản hồi (flywheel)

Việc thêm các dấu vết đã sửa, phản hồi tiêu cực từ người dùng và các chỉnh sửa của người đánh giá vào tập dữ liệu đánh giá sẽ cung cấp cho các đội ngũ một bộ kiểm tra mạnh mẽ hơn cho mỗi phiên bản agent mới. Nếu các đánh giá chỉ được chạy trên dữ liệu tổng hợp, agent sẽ chỉ giỏi xử lý các vấn đề giả định, vốn hiếm khi giống với các vấn đề phức tạp trong thế giới thực.

Sự giám sát của con người và chất lượng agent

Phản hồi của con người có thể cải thiện agent khi nó được ghi lại trong các dấu vết và được sử dụng để củng cố các đánh giá trong tương lai. Đối với các hành động nhạy cảm hoặc không thể đảo ngược, chúng tôi khuyến nghị các biện pháp kiểm soát có sự tham gia của con người (human-in-the-loop) để tạm dừng agent nhằm chờ phê duyệt, chỉnh sửa, từ chối hoặc làm rõ.

Các phê duyệt, chỉnh sửa của người đánh giá và các hủy bỏ có thể trở thành phản hồi cho phiên bản tiếp theo. Khi một chuyên gia trong lĩnh vực xem xét một dấu vết trong hàng đợi chú thích và viết lại phản hồi để khớp với những gì agent lẽ ra phải nói, chỉnh sửa đó sẽ trở thành một hàng dữ liệu vàng (golden dataset row).

Đánh giá quỹ đạo (Trajectory evals)