Vì sao LangChain tin rằng Managed Agents là xu hướng tất yếu trong phát triển AI Agent?

Tuần trước, chúng tôi đã ra mắt Managed Deep Agents - cách dễ dàng nhất để xây dựng, vận hành và triển khai các agent trong môi trường production. Chúng tôi đã có bài blog giới thiệu và tài liệu hướng dẫn nếu bạn muốn tìm hiểu thêm. Trong bài viết này, tôi muốn chia sẻ về hành trình để đạt được cột mốc này và lý do tại sao tôi lại hào hứng đến vậy về điều mà tôi cho là bước tiến tiếp theo trong việc xây dựng agent.

Tôi cho rằng có một vài giai đoạn riêng biệt trong quá trình xây dựng agent.

Tóm tắt ngắn gọn về hai giai đoạn đầu:

Các Framework/Ứng dụng AI sơ khai (Cuối 2022/Đầu 2023): LangChain ra mắt vào tháng 10/2022, ChatGPT vào tháng 11/2022, AutoGPT vào đầu năm 2023. Tất cả những cái tên này đều là các framework hoặc ứng dụng AI đời đầu bắt đầu tận dụng LLM.

Các framework AI hoàn thiện hơn như LangGraph, Google ADK, Vercel’s AI SDK xuất hiện vào năm 2024 và nửa đầu năm 2025. Những công cụ này mang lại cho lập trình viên khả năng kiểm soát LLM tốt hơn. Khi đó, mọi người chưa thực sự xây dựng các agent theo cách chúng ta định nghĩa ngày nay, nhưng họ đã có thể tạo ra các ứng dụng AI phức tạp hơn.

Khoảng đầu đến giữa năm 2025, các mô hình bắt đầu đủ mạnh để vận hành những gì chúng ta coi là agent ngày nay: các LLM chạy trong một vòng lặp và gọi các công cụ (tools). Đây là nguyên lý cốt lõi, là thuật toán nền tảng cho các agent hiện nay. Những ứng dụng agent đời đầu như Manus, Deep Research và Claude Code đều tuân theo mô hình này.

Khi các mô hình đủ tốt để chạy trong vòng lặp và gọi công cụ, đây đã trở thành nền tảng vững chắc hơn để chúng ta phát triển. Khái niệm về Agent Harnesses như Claude Code, Pi và Deep Agents đã xuất hiện khi chúng ta tìm ra các công cụ và môi trường phù hợp để tích hợp vào vòng lặp này. Chúng tôi đã ra mắt Deep Agents gần một năm trước - một trong những nỗ lực đầu tiên nhằm đưa các mô hình mà chúng tôi thấy ở tầng ứng dụng vào một bộ khung (harness) sử dụng chung.

Trong năm qua, có hai nhóm bài học đã định hình hướng đi tiếp theo.

Thứ nhất, chúng tôi bắt đầu học được một số nguyên lý chung để vận hành các agent harness này ở quy mô lớn. Những thứ như durable execution (thực thi bền bỉ) để hỗ trợ vòng lặp agent, và sandbox để chạy các đoạn mã không đáng tin cậy. "Tách biệt não bộ và bàn tay" đã trở thành một lựa chọn thiết kế phổ biến. Cơ sở hạ tầng cần thiết để vận hành các agent này bắt đầu trở nên rõ ràng hơn.

Thứ hai, các tiêu chuẩn về cách người dùng điều khiển các agent harness này đã xuất hiện. Những thứ như AGENTS.md cho tập hợp hướng dẫn cơ bản, MCP để kết nối với các hệ thống khác, và các kỹ năng (skills) để tiết lộ ngữ cảnh một cách tiệm tiến. Đây đã trở thành các tiêu chuẩn để kiểm soát và điều khiển các phần của harness.

Cả hai yếu tố này đã góp phần vào sự trỗi dậy của trải nghiệm "managed agent" (agent được quản lý). Tại đó, agent harness được vận hành trên cơ sở hạ tầng được quản lý, và các nhà phát triển sử dụng các tiêu chuẩn này để điều khiển hành vi của agent.

Tôi tin rằng những trải nghiệm managed agent này sẽ mở ra một làn sóng xây dựng agent trong môi trường production mới. Khi xây dựng agent, có ba phần cần lưu ý:

Bạn luôn cần mang theo logic kinh doanh của riêng mình. Các harness có sẵn như Deep Agents đã giúp việc bắt đầu trở nên dễ dàng hơn. Nhưng bạn sẽ đối mặt với rất nhiều thách thức khi cố gắng vận hành một agent trong môi trường production!

Đây là rất nhiều cân nhắc khác nhau! Các dịch vụ managed agent giúp đơn giản hóa nhiều vấn đề bằng cách đóng gói harness cùng với cơ sở hạ tầng. Điều này giúp các nhà phát triển dễ dàng hơn nhiều - thay vì phải chọn một harness rồi lắp ghép từng mảnh riêng lẻ, họ chỉ cần chọn một gói bao gồm cả harness và cơ sở hạ tầng. Dễ dàng hơn nhiều!

Một phiên bản sơ khai của điều này mà chúng tôi đã thực hiện là Fleet - nền tảng xây dựng agent không cần mã (no-code) của chúng tôi. Nó đẩy khía cạnh "managed" lên mức tối đa - Fleet được xây dựng cho những người không chuyên về lập trình và hoàn toàn dựa trên giao diện người dùng (UI). Chúng tôi đã sử dụng các tiêu chuẩn như AGENTS.md, skills và MCP để giúp việc chuyển đổi agent sang mã nguồn trở nên dễ dàng nếu cần.

Một điều chúng tôi cố tình thực hiện ở đây là biểu diễn và định nghĩa các agent trong Fleet dưới dạng các tệp tin trong hệ thống tệp. Tất cả các tiêu chuẩn nêu trên đều trở thành các tệp tin mà harness của chúng tôi sẽ tải lên. Chúng tôi thậm chí còn có một nút gạt để hiển thị các agent của Fleet trong trình quản lý tệp.

Điều này nhắm đến một đối tượng người dùng hơi khác so với chúng tôi - những người không phải lập trình viên. Vì nó quá "managed", và vì đối tượng mục tiêu chính của chúng tôi là các lập trình viên, chúng tôi liên tục nhận được các yêu cầu về tính năng kỹ thuật: middleware tùy chỉnh, công cụ tùy chỉnh dưới dạng mã nguồn, và khả năng tạo agent theo chương trình từ API.

Claude Managed Agents được ra mắt ngay sau đó. Nó cũng có trải nghiệm dựa trên UI, nhưng ưu tiên API hơn, nhắm đến các lập trình viên nhiều hơn. Nó giúp việc tạo agent qua API trở nên cực kỳ dễ dàng và sử dụng nhiều tiêu chuẩn tương tự. Nó ít phụ thuộc vào việc coi định nghĩa agent chỉ là các tệp tin trong hệ thống tệp. Nó giới thiệu một số khái niệm thú vị như "dreaming".

Vercel cũng đã ra mắt Eve khoảng một tháng trước như một đối thủ cạnh tranh. Nó nghiêng về việc biểu diễn agent dưới dạng tệp tin, sử dụng nhiều tiêu chuẩn tương tự và đóng gói cơ sở hạ tầng để giúp việc triển khai trở nên dễ dàng.

Hôm nay, chúng tôi ra mắt phiên bản managed agents dành cho các lập trình viên: Managed Deep Agents. Nó được xây dựng dựa trên harness của Deep Agents, biểu diễn agent dưới dạng tệp tin, nhưng cho phép tùy chỉnh nhiều hơn so với Fleet: bạn có thể thêm middleware tùy chỉnh và các công cụ tùy chỉnh dưới dạng mã nguồn. Nó tích hợp sẵn cơ sở hạ tầng để giúp việc vận hành agent trong môi trường production trở nên dễ dàng:

Đây là một trong những đợt ra mắt mà tôi hào hứng nhất trong thời gian gần đây. Tôi tin rằng nó sẽ giúp các lập trình viên xây dựng và triển khai agent trong môi trường production dễ dàng hơn nhiều, thay vì chỉ chạy chúng cục bộ.

Nếu bạn muốn bắt đầu, tôi đã quay một video "Giải thích về Managed Deep Agents trong 20 phút" mà tôi nghĩ là nơi tốt nhất để bắt đầu.

Tôi cũng cho rằng chúng ta vẫn đang ở giai đoạn đầu của việc xây dựng agent. Nhiều yêu cầu về cơ sở hạ tầng sẽ xuất hiện. Nhiều tiêu chuẩn sẽ cần được thiết lập. Chúng tôi muốn tìm hiểu và xây dựng những điều đó cùng với bạn, vì vậy hãy gửi phản hồi cho chúng tôi.