Nvidia phát triển Nemotron 4: Mô hình mã nguồn mở với quy mô nghìn tỷ tham số

Nvidia đang xây dựng Nemotron 4, một mô hình open-weight mới được thiết kế để cạnh tranh với những mô hình miễn phí tốt nhất thế giới hiện nay. Theo The Information, mô hình lớn nhất trong dòng này sẽ có ít nhất một nghìn tỷ tham số, gấp đôi kích thước của Nemotron 3 Ultra. Nvidia đã tăng gấp ba lần chi tiêu cho điện toán đám mây để phục vụ việc huấn luyện mô hình nội bộ, lên tới 28 tỷ USD cho đến năm 2031. Thời điểm phát hành sớm nhất có thể là vào mùa thu năm nay.

Ngay cả với quy mô một nghìn tỷ tham số, Nvidia cũng chỉ mới bắt kịp quy mô mà các phòng thí nghiệm Trung Quốc đã đạt được. Kimi K3 của Moonshot AI có 2,8 nghìn tỷ tham số, và DeepSeek V4 Pro có 1,6 nghìn tỷ. Khi ra mắt vào tháng 6, Nemotron 3 Ultra là mô hình mở mạnh nhất của Mỹ trên bảng xếp hạng Artificial Analysis Intelligence Index, nhưng vẫn xếp sau Kimi K2.6. Trên phiên bản hiện tại của bảng xếp hạng này, Nemotron 3 Ultra đạt 38 điểm, trong khi Kimi K3 đạt khoảng 60 điểm.

Nvidia cũng nằm trong số những đơn vị ký tên vào bản kiến nghị phản đối việc quản lý các mô hình mở, ngay cả khi chính quyền Trump đang cân nhắc các lệnh cấm nhắm mục tiêu vào những mô hình cụ thể của Trung Quốc. Càng nhiều công ty tự lưu trữ (self-host) các mô hình mở, Nvidia càng bán được nhiều GPU hơn. Tuy nhiên, Nemotron 4 cũng sẽ đặt Nvidia vào thế cạnh tranh trực tiếp với chính những khách hàng lớn của mình như OpenAI.

Tin tức AI không thổi phồng – Được biên tập bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay