Nvidia phát triển mô hình AI mã nguồn mở Nemotron 4 với 1 nghìn tỷ tham số

Theo tin từ IT ngày 11 tháng 8, vào tối hôm nay (11/8), The Information dẫn nguồn tin từ những người tham gia dự án cho biết, gã khổng lồ chip Nvidia đang phát triển dòng mô hình AI thế hệ mới mang tên Nemotron 4, với hy vọng cạnh tranh với các mô hình mã nguồn mở tiên tiến nhất trên toàn cầu.

Nvidia là một trong số ít các tập đoàn công nghệ lớn tại Mỹ chủ động tung ra các mô hình mã nguồn mở. Kể từ đầu năm nay, chi phí phát triển và vận hành AI liên tục leo thang, trong khi các mô hình từ Trung Quốc với mức giá thấp hơn đang dần tiệm cận về hiệu suất so với các hệ thống hàng đầu của những phòng thí nghiệm AI dẫn đầu nước Mỹ như Anthropic hay OpenAI, khiến các mô hình mã nguồn mở nhận được nhiều sự quan tâm hơn.

Các vụ tấn công mạng liên quan đến các tác nhân AI tự hành (autonomous AI agents) được tiết lộ liên tiếp gần đây cũng làm gia tăng sự chú ý của dư luận đối với các mô hình mã nguồn mở, đặc biệt là vì các mô hình này thường không áp đặt hạn chế đối với các mục đích sử dụng liên quan đến an ninh mạng.

Nvidia hy vọng sẽ mở rộng phạm vi ứng dụng AI thông qua hệ sinh thái mô hình mở, đồng thời thúc đẩy hơn nữa nhu cầu thị trường đối với năng lực tính toán GPU của hãng. Kari Briski, Phó chủ tịch phụ trách AI tạo sinh của Nvidia, tiết lộ trong một email: "Chúng tôi đầu tư vào Nemotron vì tin rằng mọi doanh nghiệp, mọi quốc gia đều cần có quyền tiếp cận các mô hình mã nguồn mở tiên tiến."

Nhiều nhân viên tham gia phát triển Nemotron 4 tiết lộ rằng, mô hình lớn nhất trong dòng này dự kiến sẽ sở hữu ít nhất 1 nghìn tỷ tham số. Nvidia hiện vẫn chưa xác định ngày ra mắt Nemotron 4 và quá trình huấn luyện cuối cùng vẫn chưa hoàn tất. Tuy nhiên, theo báo cáo, các nhân viên cho rằng mô hình này có thể sẵn sàng sớm nhất vào cuối mùa thu năm nay.

Theo tìm hiểu của IT, tháng trước Nvidia cũng đã thành lập liên minh với nhiều doanh nghiệp để cùng phát triển và chia sẻ các công cụ an toàn AI và an ninh mạng. Ngoài ra, Nvidia cùng các gã khổng lồ công nghệ như Microsoft đã ký một bức thư ngỏ ủng hộ các mô hình trọng số mở (open-weight models), nhằm tránh việc năng lực đổi mới sáng tạo bị chuyển dịch ra nước ngoài.

Bên cạnh đó, Nvidia cũng đã phát hành mô hình Nemotron 3.5 Lightning, giúp mở rộng thêm danh mục sản phẩm mô hình hiện có, tập trung vào các tác vụ như rà soát mã nguồn, gọi công cụ (tool calling), giám sát cảnh báo bảo mật, giải đáp các câu hỏi về hóa đơn, v.v.

Đồng thời, Nvidia cũng ra mắt thư viện định tuyến mô hình mã nguồn mở NeMo Switchyard, cho phép tự động phân bổ tác vụ cho mô hình phù hợp nhất dựa trên nhu cầu của từng nhiệm vụ AI cụ thể.