ABC Legal biến mọi nhân viên thành nhà phát triển nhờ Claude Managed Agents

Khi Brandon Fuller, CTO của ABC Legal, một công ty cung cấp tài liệu pháp lý có trụ sở tại Hoa Kỳ, triển khai Claude Enterprise cho 1.100 nhân viên của công ty vào đầu năm nay, một sự thay đổi đã diễn ra ngay lập tức. Các nhóm trên toàn công ty (từ dịch vụ tố tụng, eFiling, và các hoạt động tư vấn xuất hiện tại tòa, cho đến marketing, tuân thủ, tài chính, v.v.) đã bắt đầu tự xây dựng các quy trình tự động hóa mà không cần ai yêu cầu.

"Người dùng của chúng tôi thực sự đổ xô vào nó," Fuller nhớ lại. "Họ thấy được sự dễ dàng khi sử dụng các trình kết nối và công cụ, và đột nhiên chúng tôi có nhân sự trên khắp tổ chức tự động hóa các tác vụ vốn đã chiếm hết thời gian làm việc trong ngày của họ."

Đó chính xác là kiểu áp dụng mà bất kỳ CTO nào cũng mong đợi. Nhưng Fuller nhìn thấy cơ hội để tiến xa hơn: điều gì sẽ xảy ra nếu ABC Legal có thể vận hành một đội ngũ các AI agent được quản lý phiên bản, có thể quan sát được và luôn hoạt động?

Tham vọng đó phụ thuộc vào cơ sở hạ tầng. Các agent ban đầu tồn tại ở bất cứ nơi nào người tạo ra chúng đặt vào, như các tác vụ được lập lịch trên máy tính cá nhân. Việc chuyển chúng ra khỏi máy tính cá nhân sẽ cho phép chúng chạy mà không cần giám sát, đồng thời cung cấp cho Fuller một cái nhìn tổng thể về những gì đã được xây dựng, chi phí ra sao và liệu chúng có chạy vào đêm qua hay không.

Vì vậy, ông đã triển khai Claude Managed Agents: một cấu trúc triển khai chung, không gian làm việc được chia sẻ, một bề mặt kiểm toán và thanh toán duy nhất, cùng các agent luôn hoạt động trên đám mây thay vì trên máy tính xách tay của nhân viên.

Tính đến tháng 7 năm 2026, Fuller và đội ngũ của ông tại ABC Legal đã theo dõi được:

Dưới đây là cách họ đạt được điều đó và những gì họ đã học được trong quá trình này.

Từ sự nhiệt tình đến kỹ thuật: coi mỗi agent như một phần mềm

Khi triển khai Claude Managed Agents lần đầu, Fuller đã yêu cầu đội ngũ định nghĩa mọi agent dưới dạng mã nguồn (code). Ông tin rằng đây là hình thức tự nhiên nhất của một agent. Như ông giải thích, “một agent thực chất chỉ là văn bản có cấu trúc, bao gồm một prompt cộng với cấu hình, và bất cứ thứ gì là văn bản đều có thể nằm trong một kho lưu trữ (repository) nơi cả công ty có thể nhìn thấy, xem xét và cải thiện nó.” Prompt, danh sách công cụ, lịch trình, thông tin xác thực và bộ nhớ của một agent đều nằm trong các tệp cấu hình được lưu trữ trong một git repository cùng với phần mềm của công ty. Không có gì về một agent thay đổi trừ khi thông qua một pull request được phê duyệt, điều này mang lại cho mỗi agent lịch sử phiên bản, đánh giá mã nguồn, khả năng hoàn tác (rollback) và dấu vết kiểm toán.

Ông đã dành một tuần để xây dựng bộ công cụ khởi đầu với hai mẫu (template), được lưu trữ trong các git repository chuyên dụng. Một mẫu dành cho các agent dựa trên sự kiện (event-driven), bắt đầu ngay khi có điều gì đó xảy ra, như một công việc mới xuất hiện hoặc một tài liệu được tòa án gửi trả. Mẫu còn lại dành cho các agent theo lịch trình (scheduled), chạy theo bộ đếm thời gian: hàng giờ, hàng ngày hoặc hàng tuần. Mỗi agent nằm trong thư mục riêng với cấu trúc tiêu chuẩn: tệp cấu hình JSON, system prompt bằng Markdown, các tập lệnh triển khai và tài liệu vận hành. Việc hợp nhất (merge) thay đổi vào nhánh chính sẽ tự động triển khai agent. Người xây dựng không bao giờ phải viết phần mềm. Họ chỉ cần clone repo, sao chép một mẫu khởi đầu, nói với Claude Code những gì agent cần làm và nhận lại mọi thứ mà agent đó cần: cấu hình, prompt, kho lưu trữ thông tin xác thực và bộ nhớ.

Thu hẹp khoảng cách kỹ thuật

Fuller tập hợp ủy ban chỉ đạo gồm 15 người của công ty, đến từ các bộ phận tài chính, marketing, vận hành và phát triển (không ai trong số họ là lập trình viên phần mềm), và yêu cầu họ clone repository rồi xây dựng các Managed Agents bằng Claude Code.

Mục tiêu là chứng minh rằng những người không phải lập trình viên cũng có thể tự xây dựng các agent phục vụ sản xuất. Nếu mọi agent đều phải thông qua đội ngũ phát triển, nút thắt đó sẽ giới hạn tốc độ phát triển của cả công ty. Điều làm cho việc này trở nên an toàn là họ không viết phần mềm. Thay vào đó, họ điền vào cấu hình và prompt, còn Managed Agents cung cấp môi trường thực thi (runtime).

"Tôi đã phải giải thích PR là gì với họ. Rất nhiều người [không phải kỹ sư phần mềm] nghĩ rằng nó có nghĩa là chạy, giống như chạy PR (chạy bộ) nhanh nhất có thể,” ông nói. “Bây giờ họ đang thực hiện các pull request và gửi chúng cho nhau."

Trong vòng một tuần, tất cả 15 nhân viên đều có các agent hoạt động. Những người xây dựng đó quay lại nhóm của họ và đào tạo những người khác. Trong vòng một tháng, khoảng hơn 50 agent đã hoạt động trên khắp ABC Legal. Mỗi agent đều có tên, chủ sở hữu và một công việc duy nhất.

Một agent cho hầu hết các giai đoạn của quy trình tài liệu pháp lý

ABC Legal hiện có một agent tại hầu hết các giai đoạn của quy trình nộp hồ sơ pháp lý và các hoạt động liên quan.

AI Code Reviewer xem xét mọi pull request trên bốn cơ sở mã nguồn, chạy phân tích đa mô hình để phát hiện các lỗi bảo mật, lỗi hồi quy hiệu năng và các thông tin xác thực bị lộ. Các kỹ sư hiện nay đều đợi nó đánh giá trước khi thực hiện merge.

EvidenceChain™ Delivery Agent đã tiếp quản một công việc hàng tuần mà trước đây một quản lý tài khoản phải làm thủ công. ABC Legal vận hành một trang web độc quyền, EvidenceChain.com, nơi tòa án, nguyên đơn và bị đơn tra cứu hồ sơ về dịch vụ đã hoàn thành tại hiện trường, bao gồm người thực hiện tống đạt là ai, thời điểm họ thực hiện và ảnh chụp việc giao tài liệu. Một khách hàng muốn các hồ sơ cụ thể được trích xuất từ đó một cách thường xuyên. Agent hiện nay sẽ trích xuất báo cáo cơ sở dữ liệu cho các công việc phù hợp, truy xuất từng tệp PDF bằng trình duyệt tích hợp trong Managed Agent và gửi nó đến máy chủ FTP của khách hàng hàng ngày. Người quản lý tài khoản thiết lập nó chưa từng tự động hóa bất cứ thứ gì, và đã xây dựng nó trong khoảng một giờ bằng cách mô tả yêu cầu cho Claude Code.

eFiling Rejection Diagnoser tự động kích hoạt khi tòa án từ chối một hồ sơ, đọc chi tiết công việc, kiểm tra các quy tắc của tòa án và đăng chẩn đoán lên Slack trong khoảng một phút, công việc mà trước đây tiêu tốn hàng giờ đồng hồ của nhân viên. Một agent xác minh công việc sẽ kiểm tra mọi công việc đến so với tòa án. Nó điều hướng trang web của tòa án trong trình duyệt, xác nhận phiên điều trần hoặc vụ việc đã được nộp đúng cách và thực sự diễn ra vào ngày đã nêu, sau đó điều chỉnh công việc dựa trên những gì nó tìm thấy, gắn cờ các khu vực pháp lý, tòa án và khung thời gian thời hiệu.

Attorney Coverage Agent làm việc với mạng lưới luật sư để đảm bảo các phiên điều trần có người tham dự, kiểm tra tính khả dụng, gửi email cho họ và đọc các phản hồi về tính khả dụng cũng như giá cả để điều phối viên có thể xác nhận việc tham dự.

Trong bộ phận tài chính, một agent thanh toán AR phân tích email chuyển tiền, xây dựng tệp thanh toán NetSuite và đăng lên Slack để phê duyệt chỉ bằng một cú nhấp chuột, sau đó nhập tệp đó vào hệ thống, cùng với một agent hàng ngày đưa ra phán quyết về việc vốn hóa hay chi phí cho mỗi phiếu yêu cầu kỹ thuật. Bộ phận Marketing vận hành một nhà phân tích Google Ads đăng đề xuất hàng tuần cho trưởng kênh. Trong bộ phận vận hành, một agent đánh giá tên là Charvis kiểm tra các công việc dịch vụ đã hoàn thành và hiện nay đồng ý với nhóm tuân thủ khoảng 98% thời gian.

Service-Overdue-Nudger xử lý lớp cấp 1 của các tồn đọng vận hành tại ABC Legal, thực hiện các bước lặp đi lặp lại đầu tiên mà một người bình thường sẽ phải làm, và soạn thảo các tin nhắn tiếp cận hàng ngày theo từng cấp độ để con người phê duyệt.

Làm cho các agent thông minh hơn: thu thập, tinh chỉnh, lặp lại

Các agent của ABC Legal làm việc dưới sự giám sát của con người, đăng những gì chúng đã làm hoặc những gì chúng đề xuất lên Slack, nơi mọi người trả lời trong các luồng (thread) và phản ứng bằng biểu tượng cảm xúc.

Fuller coi tất cả dữ liệu phản ứng đó là tín hiệu đào tạo đang bị lãng phí. Tuy nhiên, không phải agent nào cũng cần tín hiệu đó. Hầu hết các agent trong đội ngũ là những người chạy tác vụ đơn lẻ mà không ai chấm điểm kết quả, và chúng làm việc độc lập. Đối với các agent thu thập phản hồi được chấm điểm, ABC Legal sử dụng kiến trúc ba vai trò: các agent riêng biệt chia sẻ chung một không gian làm việc, môi trường và kho lưu trữ thông tin xác thực nhưng chạy trên các lịch trình khác nhau. Mô hình này biến các tin nhắn trên Slack thành các thay đổi được kiểm soát phiên bản và được con người phê duyệt cho agent:

Một ví dụ là "deliveries-as-code", hệ thống agent của Fuller để tinh chỉnh cách công việc được định tuyến, bắt đầu tại Docketly, công ty chị em 50 người của ABC Legal. Docketly tổ chức công việc của mình xung quanh các đợt giao hàng, mỗi đợt có bộ quy tắc riêng để định tuyến và xử lý. Tất cả khoảng 145 bộ quy tắc đều là các tệp YAML đơn lẻ trong git thay vì các bản ghi trên màn hình quản trị, vì vậy việc tinh chỉnh một đợt giao hàng có nghĩa là chỉnh sửa tệp và mở một pull request.

Bốn agent tạo nên vòng lặp: một agent đăng phán quyết hàng tuần lên Slack, Harvester biến các phản ứng thành nhãn dựa trên phản hồi của con người, Tuner mở một pull request trên tệp YAML, và agent thứ tư đẩy cấu hình đã hợp nhất vào cơ sở dữ liệu sản xuất. Agent thứ tư đó chỉ thực thi những gì con người đã xem xét và phê duyệt. Trên thực tế, một phản ứng bằng biểu tượng cảm xúc gắn cờ một đợt giao hàng bị định tuyến sai có thể trở thành một thay đổi đã được hợp nhất vào các quy tắc định tuyến của đợt giao hàng đó trong tuần. Việc đánh giá là bước thủ công duy nhất trong vòng lặp.

Tại sao lại là Claude Managed Agents

Fuller đã đánh giá nhiều khung làm việc trước khi chọn Claude Managed Agents làm nền tảng agent cho tổ chức của mình. Các tiêu chí của ông rất cụ thể: nền tảng phải có quản lý phiên bản, các phiên làm việc có thể quan sát được, thanh toán theo không gian làm việc, lựa chọn mô hình, các thành phần bộ nhớ, kết nối MCP và quan trọng nhất là không cần phải quản lý cơ sở hạ tầng.

Sự phân chia trách nhiệm của nền tảng khớp hoàn hảo với cách Fuller muốn vận hành mọi thứ. Cơ sở hạ tầng được quản lý của Anthropic sở hữu mọi thứ giúp một agent hoạt động: vòng lặp thực thi, các phiên làm việc, bộ nhớ, bảng điều khiển và chính các mô hình. ABC Legal sở hữu prompt, danh sách công cụ, logic kích hoạt, dấu vết kiểm toán và vòng lặp phản hồi về kết quả.

Một vài khả năng đã chứng tỏ đặc biệt quan trọng ở quy mô lớn:

ABC Legal theo dõi từng đô la chi tiêu cho AI, được phân tách theo nhà cung cấp, công cụ, nhóm và trường hợp sử dụng. Chi tiêu tăng lên khi đội ngũ bắt đầu hoạt động vào mùa xuân, sau đó bắt đầu giảm vào tháng 7 trong khi mức sử dụng vẫn tiếp tục tăng, kết quả của công việc tối ưu hóa hiệu quả được mô tả dưới đây, với mức giảm chi phí khoảng 50% cho các tác vụ mà nhiều agent đảm nhận và khoảng 310 nhân viên trên mọi bộ phận sử dụng Claude.

Cách tiếp cận chi phí của công ty rất có chủ đích: đẩy chi tiêu vào các công cụ và agent vận hành theo chiều dọc nơi có thể đo lường được lợi nhuận, trong khi vẫn giữ cho việc sử dụng chat và lên ý tưởng theo chiều ngang ở mức rộng rãi và kiểm soát chi phí. Hầu hết các agent bắt đầu với con người trong vòng lặp, nơi agent xem xét công việc hoặc phiếu yêu cầu và đưa ra đề xuất để con người xem xét trước khi thực hiện bất cứ điều gì. Đề xuất đó được lưu trữ trong công việc và hiển thị trong một biểu ngữ để nhân viên có thể chấp nhận hoặc từ chối trong luồng công việc của họ, hoặc được đăng lên kênh Slack nơi mọi người có thể trả lời trong luồng. Những phản hồi đó xây dựng một tập dữ liệu được gắn nhãn về các quyết định đúng và sai, cung cấp cho vòng lặp harvester và tuner, cho phép nhóm viết các đánh giá và đo lường các agent trên các mô hình tiên tiến. Khi một agent chứng minh được nó tốt bằng hoặc hơn con người trong tác vụ cụ thể đó, nó sẽ chuyển sang chế độ tự động hóa và tự thực hiện, sau đó vẫn nằm trong cùng khung đo lường để theo dõi bất kỳ thay đổi nào về hiệu suất.

Chỉ số mà ABC Legal theo dõi là tỷ lệ hiệu quả; giá trị mà một agent mang lại so với chi phí để vận hành nó. Mỗi Managed Agent tự báo cáo giá trị của chính nó về kho dữ liệu sau mỗi lần chạy, tính bằng giờ và đô la. Các agent tuân theo đường cong chữ J, thường bắt đầu với hiệu quả âm khi chúng còn mới và chạy các mô hình lớn hơn, sau đó chuyển sang dương khi nhóm viết các đánh giá, chuyển sang các mô hình rẻ hơn và nhanh hơn, đồng thời cắt giảm token.

Các phương pháp hay nhất để triển khai một đội ngũ agent

Kinh nghiệm của Fuller trong việc triển khai AI – đặc biệt là Claude Managed Agents – đã dẫn đến một vài nguyên tắc làm việc về việc sử dụng công nghệ này: