Google ra mắt AX: Hệ thống mã nguồn mở điều phối AI Agent quy mô lớn

Khai báo một tác vụ agentic. AX sẽ chạy nó ở quy mô lớn.

AX tạo môi trường sandbox cho tác vụ của bạn, thiết lập không gian làm việc, cô lập mạng và giúp bạn chạy hàng tỷ tác vụ trên mỗi cụm. Bạn có thể sử dụng một tác vụ cho mỗi agent hoặc kết hợp bao nhiêu tùy thích tùy theo nhu cầu của agent.

Tại sao chọn AX

Các Agent là một loại khối lượng công việc (workload) mới.

Chúng không phải là microservices cũng không phải là batch jobs. Chúng tích lũy trạng thái, cần sự cô lập nghiêm ngặt, gọi đến các model API và tool server, và có thể gây tốn kém chi phí nếu chạy vòng lặp mà không được giám sát. AX cung cấp cho bạn bốn thành phần nguyên thủy (primitives) nhỏ gọn giúp xử lý tất cả những vấn đề đó một cách khai báo (declaratively).

Cách thức hoạt động

Mở rộng quy mô lên hàng tỷ tác vụ.

AX chạy trên nền tảng Agent Substrate, một runtime tính toán được thiết kế từ đầu để phục vụ mật độ cực lớn và vòng đời actor có trạng thái (stateful actor) tốc độ cao.

Hàng tỷ tác vụ

Mỗi tác vụ chạy như một actor nhẹ, cho phép bạn mở rộng quy mô lên hàng tỷ phiên agent đồng thời trên mỗi cụm mà không bị giới hạn bởi trình điều phối (orchestrator).

Khôi phục dưới một giây

Các agent đang nhàn rỗi chờ phản hồi từ model, các lệnh gọi công cụ bên ngoài hoặc phản hồi từ con người sẽ được lưu checkpoint, tạm dừng và khôi phục trong chưa đầy một giây mà không có độ trễ khởi động nguội (cold-start).

Đa kênh mật độ cao (Dense multiplexing)

Hàng chục tác vụ chia sẻ tài nguyên worker, biến thời gian chờ nhàn rỗi thành năng lực tính toán dự phòng để bạn chỉ phải trả phí khi các agent đang thực sự suy nghĩ và chạy mã.

Nền tảng tạo sinh (Generative platform)

Các tính năng tạo sinh được tích hợp sẵn vào nền tảng.

AX tích hợp AI tạo sinh trực tiếp vào nền tảng. Ví dụ: nếu bạn muốn thiết lập một không gian làm việc chỉ bằng cách giải thích bằng tiếng Anh thông thường, môi trường sẽ được chuẩn bị tự động trước khi tác vụ của bạn bắt đầu.

task.yaml

Không gian làm việc tạo sinh

Mô tả một môi trường sẵn sàng trông như thế nào bằng tiếng Anh thông thường. AX sẽ chuyển mục tiêu đó cho một agent ngay lần khởi động đầu tiên để cài đặt các toolchain và xác minh các phụ thuộc.

Chạy mọi thứ và bất cứ thứ gì

Các agent lập trình tương tác, các agent server chạy dài hạn, Jupyter notebooks, kiểm thử trình duyệt headless, và các runtime công cụ tùy chỉnh—bạn cứ nêu tên, AX đều làm được.

Hoàn hảo cho nghiên cứu

Khởi chạy số lượng lớn các sandbox có khả năng tái lập để thu thập quỹ đạo, chạy các vòng lặp học tăng cường (reinforcement learning) và đánh giá các agent ở quy mô lớn.

Dành cho nhà phát triển & nhà nghiên cứu

Được xây dựng để trở thành runtime thân thiện nhất cho các nhà phát triển và nhà nghiên cứu.

Chúng tôi muốn việc xử lý cơ sở hạ tầng agentic trở nên dễ dàng hơn để bạn có thể tập trung vào công việc của mình. AX được thiết kế với sự tập trung không khoan nhượng vào tính công thái học, khả năng lặp lại nhanh chóng và các quy trình làm việc thú vị cho cả nhà phát triển ứng dụng lẫn nhà nghiên cứu AI.

Chúng tôi hướng tới việc giữ cho runtime tối giản và nhẹ nhàng, đồng thời bổ sung một cách tinh tế các tính năng thiết yếu mà mọi người cần để xây dựng, đánh giá và mở rộng quy mô các agent.

Giới thiệu

Ra đời từ nghiên cứu, được xây dựng cho sản xuất.

AX ra đời tại Google khi nghiên cứu về hệ thống runtime agentic gặp gỡ công nghệ tính toán tiên phong. Qua nhiều năm xây dựng và vận hành các công cụ thực thi agentic, các đội ngũ tại Google nhận ra rằng khối lượng công việc agentic đại diện cho một mô hình tính toán hoàn toàn mới: các actor có trạng thái, chạy theo đợt, hoạt động dài hạn, tính toán cường độ cao trong một phút rồi chờ phản hồi từ model, công cụ hoặc sự phê duyệt của con người. Các trình điều phối truyền thống được xây dựng cho microservices không trạng thái hoặc các batch jobs có thể dự đoán được sẽ trở nên quá đắt đỏ khi duy trì các sandbox nhàn rỗi, nhưng lại thiếu hỗ trợ gốc cho việc tạm dừng và khôi phục dưới một giây.

Dựa trên nghiên cứu về runtime agentic từ Google DeepMind cùng với kinh nghiệm chuyên sâu về cô lập, khôi phục và lập lịch quy mô lớn, AX đang được xây dựng như một mặt phẳng điều khiển (control plane) mở, mang tính khai báo, được thiết kế riêng cho việc thực thi agent. Nó trừu tượng hóa các tác vụ, không gian làm việc, chính sách mạng và các model thành các thành phần nguyên thủy cốt lõi để các nhà phát triển và nhà nghiên cứu có thể chạy các đội ngũ agent khổng lồ mà không cần phải xây dựng lại cơ sở hạ tầng nền tảng. Dự án này dựa nhiều vào Agent Substrate nhưng cung cấp các lớp trừu tượng agentic và các thành phần runtime tạo sinh.