NVIDIA ra mắt dòng mô hình Nemotron 3 Embed: Bản 8B dẫn đầu bảng xếp hạng RTEB

Theo tin từ IT ngày 18 tháng 7, NVIDIA hôm qua (17 tháng 7) đã đăng tải bài viết công bố mã nguồn mở cho dòng mô hình Nemotron 3 Embed, tập trung vào các kịch bản AI agent và RAG (Retrieval-Augmented Generation - Truy xuất tăng cường thế hệ).

Dòng mô hình này được phát hành dưới dạng trọng số mở, hỗ trợ sử dụng cho mục đích thương mại và hiện đã được cung cấp miễn phí thông qua Hugging Face và NVIDIA NIM.

Nemotron 3 Embed được trang bị cửa sổ ngữ cảnh 32K, cho phép thực hiện truy xuất với độ chính xác cao. NVIDIA cho biết thiết kế này giúp giảm thiểu việc truy xuất lặp lại của AI agent, hạn chế tần suất kích hoạt suy luận không cần thiết và giảm đáng kể lượng tiêu thụ Token.

Nhằm đáp ứng các môi trường triển khai khác nhau, NVIDIA đồng thời công bố các phiên bản tinh chỉnh (fine-tuned) và chưng cất (distilled), bao gồm các nhu cầu ưu tiên độ chính xác, ưu tiên chi phí và độ trễ, cũng như tối ưu hóa cho các kiến trúc GPU cụ thể, với 3 phiên bản mô hình:

Mô hình Nemotron-3-Embed-8B-BF16 là phiên bản cao cấp nhất trong dòng với quy mô 8 tỷ tham số. NVIDIA cho biết mô hình này phù hợp với các nghiệp vụ doanh nghiệp đòi hỏi độ chính xác cao và đi kèm với rủi ro lớn. Mô hình này được xây dựng dựa trên Ministral-3-8B-Instruct-2512.

Nemotron-3-Embed-1B-BF16 là phiên bản hiệu suất cao với quy mô 1,14 tỷ tham số. NVIDIA cho biết mô hình này phù hợp với các môi trường triển khai coi trọng độ trễ và chi phí. Mô hình này được chưng cất từ mô hình gốc dựa trên Ministral-3-3B-Instruct-2512.

Nemotron-3-Embed-1B-NVFP4 là phiên bản được tối ưu hóa cho GPU kiến trúc Blackwell dựa trên nền tảng của phiên bản hiệu suất cao. Theo bài viết, nhờ NVFP4, mô hình này có thể duy trì độ chính xác truy xuất tương đương với phiên bản hiệu suất cao, đồng thời giảm thêm mức sử dụng bộ nhớ và tăng thông lượng lên gấp 2 lần.

Về hiệu năng, Nemotron-3-Embed-8B-BF16 đã giành vị trí dẫn đầu trong bảng xếp hạng RTEB với số điểm 78,5% và đạt 75,5% trong bài kiểm tra truy xuất MMTEB.

Lưu ý của IT: RTEB (Retrieval Embedding Benchmark - Điểm chuẩn nhúng truy xuất) là tiêu chuẩn đánh giá mô hình nhúng và truy xuất mới do đội ngũ Hugging Face và cộng đồng MTEB (Massive Text Embedding Benchmark - Điểm chuẩn nhúng văn bản quy mô lớn) ra mắt. Tiêu chuẩn này được thiết kế chuyên biệt để đánh giá chất lượng truy xuất thực tế của các mô hình lớn trong các kịch bản thực tế (như hệ thống RAG và AI agent).

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.