Nous Research ra mắt Bot Mode cho Hermes Agent: Biến AI thành đội ngũ trợ lý chuyên biệt

Nous Research vừa ra mắt Bot Mode cho Hermes Agent, tác nhân mã nguồn mở được cấp phép theo chuẩn MIT. Bot Mode thay thế danh sách phiên làm việc đơn lẻ bằng một danh sách các bot có tên gọi cụ thể. Mỗi bot là một hồ sơ Hermes thực thụ, với các đoạn chat, bộ nhớ, kỹ năng và mô hình được ghim riêng biệt. Các bot nhắn tin cho nhau thông qua Agent Inbox (Hộp thư đến của tác nhân) và chuyển giao công việc bằng cách @mention. Tính năng này ban đầu được ra mắt dưới dạng plugin beta công khai trong một ngày bởi đồng sáng lập Teknium. Hiện tại, nó đã được tích hợp sẵn và mặc định bật bên trong Hermes Desktop, kể từ phiên bản Hermes Agent v0.20.3.

Nó có thể triển khai được không?

Có — ngay hôm nay, trên máy tính để bàn, hoàn toàn miễn phí bản quyền. Bot Mode ban đầu được ra mắt dưới dạng plugin beta công khai trong một ngày. Hiện nay, nó đã được tích hợp sẵn và mặc định bật trong Hermes Desktop, tại mục Settings → Plugins. Cả Hermes Agent và plugin này đều được cấp phép theo chuẩn MIT.

Những công ty nào nên dùng: Các cá nhân làm việc độc lập, startup và các đội ngũ kỹ thuật quy mô vừa và nhỏ có thể áp dụng ngay lập tức. Các doanh nghiệp nên coi đây là một công cụ máy trạm, không phải là hạ tầng được quản lý. Hiện chưa có bảng điều khiển quản trị (admin console), không có SSO, không có nhật ký kiểm toán tập trung và không có lớp chính sách. Các đơn vị mua hàng trong lĩnh vực có quy định nghiêm ngặt sẽ cần tự thiết lập các biện pháp kiểm soát riêng.

Các ngành nghề: Kỹ thuật phần mềm, phòng thí nghiệm nghiên cứu AI, vận hành nội dung và truyền thông kỹ thuật, quan hệ nhà phát triển (DevRel), nghiên cứu định lượng và vận hành CNTT.

Ứng dụng: Một bot nghiên cứu được ghim vào mô hình suy luận đặt cạnh một bot viết nội dung trên mô hình rẻ hơn. Tóm tắt hộp thư đến theo lịch trình và báo cáo hàng đêm. Các tác nhân theo từng dự án không bao giờ làm rò rỉ ngữ cảnh sang nhau. Chuỗi chuyển giao công việc nơi một trinh sát, một người đánh giá và một người xuất bản chuyển tiếp công việc qua @mention.

Cơ chế hoạt động bên trong

Điểm thú vị ở đây là mỗi bot chính là một hồ sơ Hermes. Mỗi bot nằm trong thư mục ~/.hermes/profiles/<name>/ với cấu hình, bộ nhớ, kỹ năng, thông tin xác thực và lịch sử trò chuyện riêng biệt. Plugin này đóng vai trò là giao diện người dùng dựa trên các tính năng nguyên thủy mà Hermes đã cung cấp sẵn.

Lựa chọn này giúp giữ cho phạm vi hoạt động ở mức tối giản. Việc tạo và chỉnh sửa dựa trên các RPC của gateway hồ sơ: liệt kê (list), tạo (create), mô tả (describe), cấu hình (configure). Việc tạo ảnh đại diện sử dụng RPC image.generate thông qua các gateway cục bộ và từ xa. Các quy trình (Routines) là các công việc cron thông thường của Hermes, được đặt tên theo không gian [bot:<name>] <routine>. Chúng vẫn xuất hiện trong danh sách hermes cron.

Nhắn tin giữa các bot cũng tương tự. Mỗi bot đều có một cuộc hội thoại Agent Inbox bền vững. Tin nhắn giữa các bot thực chất là các lệnh chuyển giao CLI: hermes -p <bot> chat -c "Agent Inbox" -q "...". Chúng đến nơi kèm theo thông tin người gửi, và tệp SOUL.md của mỗi bot sẽ hướng dẫn giao thức phản hồi. Khi gõ @researcher hãy xem qua cái này, bot đang hoạt động sẽ chuyển giao công việc và báo cáo lại.

Cấu hình bạn thực sự nhận được cho mỗi bot

Hộp thoại New Agent yêu cầu nhập tên, tiêu đề và mô tả. Phần Advanced sẽ mở ra cấu hình hồ sơ đầy đủ. Bạn có thể sao chép một hồ sơ hiện có, ghim nhà cung cấp và mô hình, viết tệp SOUL.md tùy chỉnh hoặc bỏ qua các kỹ năng. Nhấp chuột phải vào một bot sẽ hiển thị tùy chọn Edit Profile để chỉnh sửa hồ sơ trực tiếp. Điều này bao gồm việc kích hoạt theo kỹ năng và bộ công cụ, ghim mô hình và tệp SOUL.md. Lệnh Duplicate sẽ sao chép cấu hình, kỹ năng, SOUL.md, bộ nhớ và giao diện.

Ảnh đại diện là các khuôn mặt hình học với bảy hình dạng và mười màu sắc. Bạn cũng có thể tải lên một hình ảnh, tạo chân dung hoặc đính kèm một thú cưng pixel. Đôi mắt sẽ quét khi bot đang làm việc.

Từ bản beta một ngày đến tính năng mặc định

Quá trình triển khai diễn ra rất nhanh. Teknium đã chạy bản beta công khai trong một ngày thông qua plugin độc lập và kêu gọi báo cáo lỗi. Anh cam kết sẽ tích hợp nó vào ứng dụng máy tính để bàn chính. Điều đó đã xảy ra. Theo PR #87886 của hermes-agent, Bot Mode đã được tích hợp sẵn và mặc định bật, còn kho lưu trữ độc lập đã được lưu trữ (archived). Quá trình phát triển tiếp tục diễn ra trong cây thư mục tại apps/desktop/src/plugins/hermes-bots/. Plugin tích hợp và giao thức đồng đội cốt lõi của nó đã có mặt trong Hermes Agent v0.20.3.

Phiên bản tích hợp trong cây thư mục đã bổ sung khả năng mà bản beta không có. Các nhóm (Groups) tổ chức danh sách bot thành các phần có nhãn, đồng bộ hóa trên các máy tính. Các cuộc trò chuyện nhóm mở ra một phòng chung cho từ hai đến sáu bot. Tin nhắn của bạn kích hoạt tối đa ba vòng lượt chơi nối tiếp của các thành viên. Các bot được nhắc tên sẽ phản hồi, tất cả mọi người sẽ phản hồi khi không có ai được nhắc tên, và mỗi bot sẽ trả lời ngắn gọn hoặc bỏ qua. Danh sách đa nguồn sẽ lấy các bot từ mọi kết nối trong mục Settings → Connections.

Giải thích tương tác

Những điểm chính cần lưu ý

Giới thiệu Bot Mode cho Hermes Desktop.

Hồ sơ tác nhân của bạn trở thành một loạt các Bot có tên gọi. Mỗi Bot có vai trò, mô hình, bộ nhớ, kỹ năng và ảnh đại diện riêng; Các Bot có thể sử dụng bất kỳ mô hình nào và thậm chí giao tiếp với nhau.

Xây dựng một Bot chuyên gia một lần để sử dụng mãi mãi. pic.twitter.com/AYWD9Ro2I1

Hãy xem qua kho lưu trữ Hermes-Bot-Mode, hermes-agent, trang web Hermes Agent, tài liệu Hermes Agent và thông báo của Teknium. Ngoài ra, hãy thoải mái theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit 150k+ ML của chúng tôi và đăng ký nhận bản tin. Khoan đã! bạn có dùng Telegram không? giờ đây bạn cũng có thể tham gia cùng chúng tôi trên Telegram.

Cần hợp tác với chúng tôi để quảng bá GitHub Repo, trang Hugging Face, bản phát hành sản phẩm hoặc hội thảo trực tuyến của bạn? Hãy kết nối với chúng tôi.

Michal Sutter là một chuyên gia khoa học dữ liệu với bằng Thạc sĩ Khoa học Dữ liệu từ Đại học Padova. Với nền tảng vững chắc về phân tích thống kê, học máy và kỹ thuật dữ liệu, Michal xuất sắc trong việc chuyển đổi các tập dữ liệu phức tạp thành những thông tin chi tiết có thể hành động được.