Y Combinator mở mã nguồn QM: Khung làm việc đa tác nhân AI cho doanh nghiệp

Đội ngũ Y Combinator đã phát hành mã nguồn mở cho QM (quartermaster), bộ khung đa tác nhân (multi-agent harness) mà họ sử dụng nội bộ. QM được mô tả là một bộ khung tác nhân đa người dùng dành cho công việc, hoạt động trên Slack và nền tảng web. Đội ngũ YC vận hành QM trong các mảng kế toán, pháp lý, sự kiện và kỹ thuật, bao gồm cả việc tự xây dựng chính QM. Toàn bộ dự án được phát hành theo giấy phép MIT. YC coi đây là một thử nghiệm đang trong giai đoạn đầu và vẫn còn tồn tại lỗi.

QM có thể triển khai được không?

Có. QM có thể triển khai ngay hôm nay, nhưng đây là phần mềm dành cho tổ chức, không phải ứng dụng máy tính để bàn. Việc triển khai yêu cầu một tài khoản đám mây, Postgres và một người am hiểu về cơ sở hạ tầng. Đối tượng phù hợp nhất là các công ty khởi nghiệp hoặc công ty quy mô vừa, khoảng từ 10 đến 500 nhân viên, với ít nhất một kỹ sư nền tảng (platform engineer). Các doanh nghiệp lớn hơn có thể vận hành nó, nhưng cần xem xét kỹ tình trạng bảo mật trước.

Các ngành nghề thực tế bao gồm dịch vụ đầu tư và dịch vụ chuyên nghiệp, fintech và vận hành kế toán, vận hành pháp lý, sự kiện và các công cụ nội bộ B2B SaaS. Các ứng dụng được nêu trong kho lưu trữ bao gồm: tìm kiếm đồng thời trong ghi chú nội bộ, email, tài liệu, cơ sở dữ liệu và web; phân loại hộp thư đến theo lịch trình với nhãn và bản nháp trả lời; làm việc trong một kho lưu trữ hiện có để chạy thử nghiệm, mở PR và giám sát CI; và theo dõi dự án trong một kênh chung.

Việc triển khai QM không yêu cầu sao chép (clone) toàn bộ kho lưu trữ. Một kho lưu trữ triển khai thuộc sở hữu của tổ chức sẽ phụ thuộc vào @yc-software/qm, sau đó chạy lệnh qm init với một org slug và mục tiêu là Fly.io hoặc AWS. Quá trình khởi tạo sẽ tạo ra một kỹ năng triển khai giúp hướng dẫn thiết lập cơ sở hạ tầng, đăng nhập web, các trình kết nối, quyền truy cập Slack tùy chọn và xác thực trực tiếp. Đăng nhập mặc định thông qua một trình môi giới tích hợp gửi liên kết dùng một lần qua email, và có thể thay thế bằng một nhà cung cấp danh tính bên ngoài. Mỗi bản triển khai chạy trong tài khoản đám mây riêng của người vận hành và quá trình khởi tạo không tạo ra CI triển khai. Các nhóm muốn giữ phần lõi và các tùy chỉnh trong cùng một cây thư mục nên tạo một bản fork riêng bằng cách clone thông thường, thay vì sử dụng nút Fork của GitHub. Chi tiết có trong deployment.md và getting-started.md.

QM là gì?

Hầu hết các tác nhân được thiết kế như những trợ lý cá nhân. Đội ngũ YC cho rằng việc áp dụng một trợ lý cho toàn bộ công ty sẽ nhanh chóng trở nên phức tạp. Thay vào đó, QM cung cấp cho mỗi nhân viên một không gian làm việc biệt lập mà người khác không thể tác động vào. Mọi người cũng có thể cộng tác với tác nhân trong các kênh, tin nhắn nhóm và dự án.

Mỗi cá nhân và mỗi phòng ban đều có bộ nhớ, tệp tin, chế độ xem chuỗi khóa (keychain view), quyền hạn, cron, ứng dụng web và sandbox bền vững riêng. Cùng một danh tính và cấu hình được đồng bộ giữa Slack và ứng dụng web. Các kỹ năng thuộc quyền sở hữu phạm vi và có thể chia sẻ thông qua cấp quyền, với việc quản trị viên kiểm soát việc nâng cấp lên toàn bộ tổ chức. Các gói kỹ năng có thể được nhập từ các kho lưu trữ git. Các cron và watch chạy các tác vụ nền mà không cần giám sát.

Kiến trúc

Mọi lượt tương tác đều chạy qua một lõi trung tâm không giao diện (headless core). Lõi này xử lý API, danh tính, chính sách, lập lịch và điều khiển vòng lặp tác nhân. Một lớp Postgres lưu trữ dữ liệu người dùng, lịch sử phiên và các trạng thái bền vững khác. Tác nhân có một bề mặt công cụ nhỏ và cố định. Một trong những công cụ đó là execute, chạy các lệnh trong sandbox biệt lập của phạm vi đó, nơi các công cụ đã cài đặt sẽ được giữ nguyên.

QM không phụ thuộc vào bộ khung (harness-agnostic). Pi, OpenCode, Codex và Claude Code đều điều khiển cùng một lõi, vì vậy việc triển khai không bị ràng buộc với một nhà cung cấp duy nhất. Lõi chạy TypeScript trực tiếp trên Node và sử dụng Fastify cho HTTP. Plugin Slack sử dụng Bolt; giao diện web được xây dựng với Vite và hiển thị bằng Lit. Giao diện web, bảng điều khiển quản trị và cổng thông tin công cộng là các plugin tùy chọn chạy trên API HTTP của lõi.

Mô hình bảo mật

QM tuân theo mô hình của các tác nhân lập trình cục bộ. Tác nhân hành động như người mà nó phục vụ, với thông tin xác thực và quyền hạn của người đó, và mọi thứ đều được kiểm toán. Một tổ chức chọn một trạng thái bảo mật, trong đó các phạm vi hẹp hơn chỉ có thể thắt chặt thêm. Chế độ Strict tạm dừng mọi lệnh gọi công cụ để chờ con người phê duyệt, ngoại trừ hai lệnh kết thúc lượt không gây tác động. Chế độ Auto (mặc định) sẽ sàng lọc dữ liệu bên ngoài có gắn nhãn nguồn gốc và kết quả công cụ bằng một bộ phân loại trước khi chúng đến được mô hình. Một bản triển khai có thể trỏ bộ phân loại đó vào proxy sàng lọc của riêng mình. Chế độ Dangerous loại bỏ việc sàng lọc nội dung và tạm dừng. Một chính sách lệnh được khai báo trước, với các lệnh cấm cứng đối với các hành động như xóa đệ quy và SQL phá hoại, được áp dụng trong mọi trạng thái, bao gồm cả Dangerous. Mô hình đe dọa và các hạn chế đã biết có trong SECURITY.md.

Những điểm chính cần lưu ý

Hãy xem Kho lưu trữ GitHub và Trang dự án. Đừng ngần ngại ghé thăm Trang GitHub của chúng tôi để xem các Hướng dẫn, Mã nguồn và Notebook. Ngoài ra, hãy theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit ML với hơn 100 nghìn thành viên của chúng tôi cũng như Đăng ký Bản tin của chúng tôi.

Asif Razzaq là CEO của Marktechpost Media Inc.. Là một doanh nhân và kỹ sư có tầm nhìn, Asif cam kết khai thác tiềm năng của Trí tuệ nhân tạo vì lợi ích xã hội. Nỗ lực gần đây nhất của ông là ra mắt Nền tảng Truyền thông Trí tuệ nhân tạo, Marktechpost, nổi bật với việc đưa tin chuyên sâu về học máy và học sâu, vừa đảm bảo tính kỹ thuật vừa dễ hiểu đối với đông đảo công chúng. Nền tảng này tự hào với hơn 2 triệu lượt xem hàng tháng, minh chứng cho sự phổ biến của nó đối với độc giả.