Anthropic chia sẻ 3 góc nhìn cốt lõi về hạ tầng AI Agent

Vào ngày 10 tháng 7, Anthropic đã tổ chức một buổi thảo luận về cơ sở hạ tầng cho Agent. Katelyn Lesse (Trưởng bộ phận Kỹ thuật nền tảng Claude), Angela Jiang (Trưởng bộ phận Sản phẩm) và Jess Yann (Quản lý sản phẩm) đã chia sẻ một số quan sát thực tế.

"Giàn giáo" (harness) của Agent đang trở nên tinh gọn hơn

Vài tháng trước, việc xây dựng Agent thường đòi hỏi phải viết rất nhiều mã điều khiển quy trình: thực hiện A trước, nếu thỏa mãn điều kiện thì mới chuyển sang B, gặp các tình huống khác nhau lại phải chuyển đổi các nhánh khác nhau. Quy trình càng phức tạp, hệ thống càng dễ xảy ra lỗi.

Với khả năng suy luận và gọi công cụ (tool calling) của các mô hình ngày càng mạnh mẽ, các lớp (harness) này đang trở nên tinh gọn hơn. Các nhà phát triển không cần phải quy định từng bước một nữa, chỉ cần đưa ra mục tiêu và các ranh giới cơ bản, rồi để mô hình tự quyết định cách thức hoàn thành.

Đồng thời, một phương thức điều phối cấp cao hơn đang bắt đầu xuất hiện: để nhiều Agent cùng giải quyết một vấn đề rồi chọn ra phương án tối ưu nhất; để một Agent đề xuất phương án, Agent khác chịu trách nhiệm tìm lỗi; hoặc khi một Agent bị kẹt, hãy nhờ một Agent khác có năng lực mạnh hơn đưa ra gợi ý.

Trọng tâm đang chuyển dịch từ "kiểm soát từng bước" sang "thiết kế cách thức các Agent cộng tác với nhau".

Đo lường "tỷ suất hoàn vốn" (ROI) của Agent: hãy bắt đầu bằng việc xem một cá nhân nhanh hơn bao nhiêu

Angela gợi ý rằng, các doanh nghiệp không nên ngay lập tức lập kế hoạch cho hàng trăm quy trình tự động hóa, mà nên bắt đầu bằng việc quan sát một cá nhân cụ thể: sau khi sử dụng Agent, tốc độ làm việc và hiệu suất đầu ra của họ đã tăng lên bao nhiêu?

Sau khi xác nhận hiệu quả, mới mở rộng từ cá nhân ra nhóm, và cuối cùng mới xử lý các quy trình liên phòng ban. Giai đoạn đầu tập trung vào tốc độ và năng suất, khi ứng dụng dần hoàn thiện mới bắt đầu đo lường các chỉ số về doanh thu, chi phí và người dùng.

Nhiều doanh nghiệp khi thực hiện chuyển đổi AI thường thích vẽ ra một bản thiết kế tự động hóa vĩ mô ngay từ đầu. Vấn đề là, quy trình càng liên quan đến nhiều phòng ban, quy tắc càng phức tạp thì lực cản khi triển khai thực tế càng lớn. Bắt đầu từ cá nhân sẽ dễ thấy kết quả hơn và cũng dễ dàng duy trì tiến độ hơn.

Đội ngũ kỹ thuật không biến mất, nhưng vai trò của mỗi người đã thay đổi

Katelyn quan sát thấy rằng, so với nửa năm trước, cơ cấu nhân sự của đội ngũ kỹ thuật tại Anthropic không thay đổi nhiều, nhưng cách thức cộng tác đã khác biệt.

Trước đây, thường là trưởng nhóm kỹ thuật quyết định kiến trúc, các kỹ sư khác nhận nhiệm vụ và viết mã. Hiện nay, nhiều kỹ sư tham gia vào các quyết định về sản phẩm và kiến trúc hơn, sau đó lần lượt điều khiển Claude hoàn thành các công việc cụ thể.

Vai trò của Agent cũng không còn chỉ là "hỗ trợ viết mã". Cô nhắc đến hệ thống River của Shopify, hệ thống này đã kết nối tài liệu yêu cầu, môi trường phát triển, triển khai mã nguồn và kiểm thử QA thành một quy trình làm việc Agent đầu cuối (end-to-end).

Cá nhân mạnh lên không đồng nghĩa với việc đội ngũ tự nhiên sẽ tốt hơn

Agent giúp giảm chi phí phát triển và thử sai, nhưng cũng có thể mang lại những vấn đề mới.

Trước đây, một nhóm sẽ thảo luận xem trong mười phương án thì phương án nào đáng làm nhất. Bây giờ, mỗi người đều có thể nhanh chóng tạo ra mười bản mẫu (prototype), thậm chí đưa tất cả lên thị trường để xem cái nào giành chiến thắng.

Làm như vậy rất nhanh, nhưng nếu thiếu một định hướng thống nhất, sản phẩm rất dễ bị mở rộng một cách vô tổ chức. Agent có thể khuếch đại đáng kể năng lực cá nhân, nhưng không tự động giải quyết được các vấn đề về phối hợp, đánh đổi và ra quyết định của cả đội ngũ.

Nguồn: https://www.youtube.com/watch?v=ksfm6jeTg3Q