Mô hình · IT Home
NVIDIA ra mắt mô hình mã nguồn mở Nemotron 3 Ultra với 550 tỷ tham số
NVIDIA vừa công bố Nemotron 3 Ultra, mô hình hỗn hợp chuyên gia (MoE) 550 tỷ tham số tối ưu cho AI Agent, giúp tăng tốc độ suy luận gấp 5 lần và giảm 30% chi phí vận hành so với các đối thủ cùng phân
Tóm tắt
NVIDIA vừa công bố Nemotron 3 Ultra, mô hình hỗn hợp chuyên gia (MoE) 550 tỷ tham số tối ưu cho AI Agent, giúp tăng tốc độ suy luận gấp 5 lần và giảm 30% chi phí vận hành so với các đối thủ cùng phân khúc.
Vì sao đáng chú ý
Đây là bước tiến lớn của NVIDIA trong hệ sinh thái mã nguồn mở, mang lại hiệu suất vượt trội cho các doanh nghiệp đang phát triển hệ thống AI Agent.
Nội dung dịch chi tiết
NVIDIA chính thức ra mắt Nemotron 3 Ultra, một mô hình mã nguồn mở sở hữu 550 tỷ tham số, được phát triển bởi liên minh NVIDIA Nemotron nhằm nâng cao năng lực cho các tác nhân (agent) AI tự chủ hoạt động 24/7.
Đây là mô hình hỗn hợp chuyên gia (MoE), cung cấp khả năng xử lý vượt trội cho các tác nhân AI trong lĩnh vực phát triển mã nguồn, nghiên cứu khoa học và quy trình nghiệp vụ doanh nghiệp. So với các mô hình mã nguồn mở hàng đầu hiện nay, Nemotron 3 Ultra đạt tốc độ suy luận nhanh hơn tới 5 lần và giảm chi phí sử dụng lên đến 30%.
Nemotron 3 Ultra đã hoàn tất quá trình hậu huấn luyện để tương thích với các nền tảng và khung điều phối tác nhân phổ biến như Hermes Agent, LangChain Deep Agents, OpenClaw, OpenHands và OpenCode. Điều này giúp doanh nghiệp triển khai và quản lý các tác nhân AI một cách đồng bộ.
Bên cạnh đó, NVIDIA cũng bổ sung các mô hình Nemotron chuyên về bảo mật và nhận diện giọng nói, giúp hoàn thiện hệ sinh thái để xây dựng các tác nhân AI chuyên nghiệp. Hiện tại, công nghệ này đã được ứng dụng tại các tập đoàn lớn như CrowdStrike để tự động hóa rà soát lỗ hổng bảo mật, và Palantir để thực thi các tác vụ phức tạp trên nền tảng AI FDE.
Dự kiến từ ngày 4 tháng 6, Nemotron 3 Ultra sẽ có mặt trên các nền tảng Hugging Face, ModelScope, OpenRouter và build.nvidia.com dưới dạng dịch vụ vi mô NVIDIA NIM™. Ngoài ra, mô hình cũng sẽ được cung cấp thông qua hệ sinh thái đối tác đám mây, nền tảng suy luận và các nhà cung cấp dịch vụ đám mây của NVIDIA.
Ý chính từ bài gốc
- NVIDIA ra mắt mô hình mã nguồn mở Nemotron 3 Ultra với 550 tỷ tham số.
- Tốc độ suy luận tăng gấp 5 lần và chi phí vận hành giảm 30% so với các mô hình cùng phân khúc.
- Tương thích với nhiều nền tảng điều phối tác nhân AI như LangChain, OpenHands và OpenCode.
- Được ứng dụng thực tế tại CrowdStrike và Palantir để tối ưu hóa vận hành và bảo mật.
- Sẵn sàng trên các nền tảng như Hugging Face và NVIDIA NIM từ ngày 4 tháng 6.
Bài viết được AI dịch và tổng hợp tự động từ www.ithome.com. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.