NVIDIA Nemotron thiết lập chuẩn mực mới về hiệu suất với nền tảng LangChain Deep Agents

NVIDIA Nemotron 3 Ultra mang lại hiệu suất hàng đầu với chi phí thấp hơn so với các mô hình đóng cao cấp nhất, cùng với nền tảng điều phối tác nhân AI được áp dụng rộng rãi và lớn nhất hiện nay.

LangChain đã tinh chỉnh bộ công cụ Deep Agents của mình cho NVIDIA Nemotron 3 Ultra, đạt được độ chính xác cao nhất trong số các mô hình mở, đồng thời hoàn thành nhiều tác vụ hơn với thông lượng cao hơn và chi phí suy luận mỗi lần chạy thấp hơn 10 lần so với các mô hình đóng hàng đầu.

Khi đo lường dựa trên tiêu chuẩn Deep Agents của LangChain, Nemotron 3 Ultra cũng đạt được sự tương đương về tác vụ kinh doanh với các mô hình đóng có điểm số cao nhất. Không cần phải huấn luyện lại mô hình. Mọi cải tiến đều đến từ việc kỹ thuật hóa môi trường xung quanh mô hình, chứ không phải từ bản thân mô hình.

Với chi phí chỉ bằng một phần mười, các đội ngũ tận dụng NVIDIA Nemotron 3 Ultra có thể thực hiện đánh giá liên tục, thử nghiệm nhanh hơn và xây dựng các tác nhân chuyên biệt trên nhiều lĩnh vực kinh doanh của họ hơn.

Nền tảng kỹ thuật tác nhân của LangChain có hơn 200 triệu lượt tải xuống mỗi tháng. Bằng cách tinh chỉnh bộ công cụ Deep Agents dành riêng cho NVIDIA Nemotron 3 Ultra, nền tảng này cho phép tạo ra các tác nhân hiệu suất cao, hoàn thành nhiều tác vụ hơn, chạy nhanh hơn và cung cấp cho doanh nghiệp một hệ thống mở hoàn chỉnh mà họ có thể tùy chỉnh, sở hữu và vận hành ở bất cứ đâu.

"Cách để xây dựng các tác nhân tốt hơn là không ngừng cải thiện hệ thống xung quanh mô hình," Harrison Chase, đồng sáng lập kiêm CEO của LangChain cho biết. "Bộ nhớ, việc sử dụng công cụ, đánh giá và hành vi của mô hình sẽ cộng hưởng khi các đội ngũ có thể tinh chỉnh chúng cùng nhau. Công việc của chúng tôi với NVIDIA cho thấy các doanh nghiệp có thể đạt được hiệu suất mạnh mẽ từ một hệ thống mở trong khi vẫn giữ quyền kiểm soát đối với các hệ thống tác nhân mà họ đang xây dựng."

Abridge, Amdocs và Box đang tích hợp các tác nhân chuyên biệt trực tiếp vào nền tảng của họ, và đơn vị tích hợp hệ thống toàn cầu EY đang mở rộng năng lực triển khai NVIDIA xung quanh các bản thiết kế NVIDIA NemoClaw cho LangChain Deep Agents, giúp khách hàng tùy chỉnh, đánh giá và quản trị các tác nhân chuyên biệt trên các quy trình làm việc có giá trị cao.

Nhà sáng lập kiêm CEO của NVIDIA, Jensen Huang, gần đây đã có buổi trò chuyện với Chase để thảo luận về lý do tại sao sáu tháng qua đã chứng kiến một bước nhảy vọt trong việc ứng dụng AI hữu ích cho doanh nghiệp.

Kỹ thuật hóa môi trường, không phải tinh chỉnh mô hình (Fine-tuning)

Đội ngũ của LangChain đã chạy Nemotron 3 Ultra trên bộ tiêu chuẩn Deep Agents công khai của họ, sau đó phân tích các dấu vết thực thi của tác nhân chuyên sâu để tìm ra chính xác nơi nó bị mất điểm. Thay vì huấn luyện lại mô hình, đội ngũ đã tinh chỉnh bộ công cụ xung quanh nó — điều chỉnh các lời nhắc hệ thống (system prompts), mô tả công cụ và phần mềm trung gian (middleware).

Mọi nhà phát triển sử dụng LangChain Deep Agents với Nemotron 3 Ultra đều có thể đưa điều này vào thực tế ngay hôm nay — cấu hình đã tinh chỉnh hiện đã có sẵn trực tiếp thông qua LangChain.

Một hệ thống mở để làm chủ

NVIDIA NemoClaw cho LangChain Deep Agents là bản thiết kế tham chiếu mở đóng gói công việc này cho các doanh nghiệp đang xây dựng AI chuyên biệt của riêng họ — bao gồm các hệ thống mô hình, công cụ và thời gian chạy (runtime) — được tinh chỉnh cho quy trình làm việc của chính họ. Nó kết hợp mã nguồn LangChain Deep Agents, được tinh chỉnh cho Nemotron 3 Ultra, với thời gian chạy bảo mật NVIDIA OpenShell để thực thi các hành động của tác nhân một cách an toàn.

Một mô hình mở, một bộ công cụ mở và một thời gian chạy bảo mật mở đồng nghĩa với việc doanh nghiệp sở hữu toàn bộ hệ thống từ đầu đến cuối. Họ có thể tùy chỉnh nó dựa trên chuyên môn tạo nên sự khác biệt cho doanh nghiệp của mình, không ngừng cải thiện và vận hành nó ở bất cứ đâu — trên cơ sở hạ tầng riêng, đám mây riêng hoặc hệ thống quản trị riêng của họ.

Sự khác biệt đó càng trở nên quan trọng khi các tác nhân đảm nhận những công việc có rủi ro cao hơn. Sự chuyển dịch từ các trợ lý AI trả lời câu hỏi sang các tác nhân thực hiện hành động bên trong các hệ thống cốt lõi đã thay đổi những gì doanh nghiệp nhận được từ AI của họ.

NemoClaw cho LangChain Deep Agents và cấu hình mô hình Nemotron 3 Ultra đã tinh chỉnh hiện đã có sẵn. Các nhà phát triển có thể lấy bộ công cụ Deep Agents đã tinh chỉnh trực tiếp từ LangChain, hoặc sử dụng bản thiết kế NemoClaw cho LangChain Deep Agents làm điểm khởi đầu để xây dựng các tác nhân chuyên biệt từ đầu.

Cách bắt đầu

Các nhà phát triển LangChain có thể truy cập Nemotron 3 Ultra trên các nền tảng Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius và Together AI, mang đến cho họ một con đường trực tiếp, được lưu trữ để sử dụng bộ công cụ đã tinh chỉnh trong môi trường sản xuất.

EY có thể giúp các doanh nghiệp bắt đầu xây dựng các tác nhân chuyên biệt của riêng họ ngay hôm nay, sử dụng hệ thống phần mềm mở này.

Tìm hiểu thêm về NVIDIA NemoClaw cho LangChain Deep Agents và NVIDIA Nemotron.

Cập nhật thông tin mới nhất về AI tác nhân (agentic AI), NVIDIA Nemotron và nhiều nội dung khác bằng cách đăng ký nhận tin tức từ NVIDIA, tham gia cộng đồng và theo dõi NVIDIA AI trên LinkedIn, Instagram, X và Facebook.

Khám phá các video hướng dẫn tự học và các buổi phát trực tiếp.