Phó chủ tịch NVIDIA chia sẻ chiến lược xây dựng và phát triển các mô hình AI mã nguồn mở

Định nghĩa các tác vụ bằng SDK gọn nhẹ của Render và kết nối chúng thành các quy trình làm việc phân tán, chạy dài hạn. Khởi chạy các tác nhân (agent) và các công việc hàng loạt (batch job) theo yêu cầu. Render Workflows xử lý việc xếp hàng, điều phối và thử lại.

Nhận 50 USD tín dụng với mã BYTE.

Bạn có lẽ đã biết NVIDIA bán GPU. Nhưng bạn có biết họ cũng là nhà phát hành các mô hình AI mở lớn nhất thế giới không? Các mô hình của họ nằm trong số những mô hình được tải xuống nhiều nhất trên Hugging Face, và danh mục này còn vượt xa các chatbot: mô hình suy luận, mô hình thế giới, mô hình cho robot hình người, xe tự lái, thậm chí là khám phá thuốc, điện toán lượng tử và dự báo toàn cầu.

Điều này đặt ra hai câu hỏi. Làm thế nào một công ty nổi tiếng nhất về phần cứng lại xây dựng được nhiều mô hình mạnh mẽ trên nhiều lĩnh vực như vậy? Và tại sao lại cung cấp chúng miễn phí, khi chính những mô hình đó lại chạy trên các GPU mà NVIDIA bán?

Để hiểu cả hai điều này, chúng tôi đã trò chuyện với Bryan Catanzaro, Phó chủ tịch bộ phận Nghiên cứu Học sâu Ứng dụng tại NVIDIA. Ông đã hướng dẫn chúng tôi cách nhóm của mình xây dựng các mô hình mở của công ty, lý do đằng sau kiến trúc của chúng và tại sao NVIDIA lại mở mã nguồn nhiều đến vậy. Chúng tôi cảm ơn Bryan vì đã dành thời gian chia sẻ công việc của nhóm một cách chi tiết như vậy.

Trong bài viết này, bạn sẽ tìm hiểu:

NVIDIA đã xây dựng những mô hình mở nào và chúng làm được gì.

Cách NVIDIA làm cho các mô hình của họ vừa nhanh vừa mạnh mẽ.

Cách một nền tảng duy nhất cho phép một nhóm nhỏ xây dựng nhiều mô hình.

"Mở" thực sự có nghĩa là gì và tại sao việc phát hành dữ liệu cũng quan trọng như phát hành trọng số (weights).

Tại sao NVIDIA lại cung cấp tất cả miễn phí, và những bài học mà nhóm đã rút ra khi phát hành sản phẩm ra cộng đồng.

Các mô hình mở của NVIDIA nằm ở hai đầu của AI. Một đầu là các mô hình làm việc với các ký hiệu, ngôn ngữ, mã nguồn và suy luận tồn tại trên màn hình. Đầu kia là các mô hình làm việc trong thế giới vật lý, nơi robot và xe tự lái (AV) phải nhận thức môi trường xung quanh và hành động. Hầu hết các mô hình trong danh mục đều nằm đâu đó dọc theo trục này.

Cách đơn giản nhất để nhìn nhận hệ sinh thái này là nhóm chúng theo mục đích của từng dòng mô hình.

Các mô hình suy luận là những mô hình ngôn ngữ lớn được huấn luyện để tạo ra các token trung gian trước khi đưa ra câu trả lời cuối cùng. Đây là điều cho phép chúng suy nghĩ thông qua các tác vụ như toán học và lập trình. Hầu hết các mô hình tiên phong mà bạn thấy ngày nay đều được vận hành bởi một mô hình suy luận. Ví dụ như Claude Opus, GLM-5.2, Kimi K2.7.

Dòng mô hình suy luận của NVIDIA có tên là Nemotron. Mô hình Nemotron đầu tiên được giới thiệu vào năm 2023. Năm 2024, NVIDIA phát hành thế hệ tiếp theo với 340 tỷ tham số, theo sau là thiết kế lai nhanh hơn vào năm 2025. Thế hệ hiện tại, Nemotron 3, ra mắt vào cuối năm 2025 và 2026 với ba kích thước. Một mô hình Nano nhỏ cho các tác vụ nhanh, đơn giản; một mô hình Super cỡ trung cho việc lập kế hoạch và suy luận khó hơn; và một mô hình Ultra lớn cho các tác vụ phức tạp cần khả năng suy luận mạnh nhất.

Các mô hình ngôn ngữ rất giỏi trong việc dự đoán token tiếp theo, nhưng chúng không hiểu thế giới vật lý. Chúng không thể cho bạn biết tay áo sơ mi gấp lại như thế nào, hay một ly nước trông ra sao ngay khoảnh khắc nó bị đổ. Một robot hoặc xe tự lái cần sự hiểu biết đó, nhưng nó không thể có được từ văn bản.

Đó là những gì một mô hình thế giới (world model) cung cấp. Thay vì dự đoán từ tiếp theo, nó hiểu thế giới và có thể dự đoán trạng thái tiếp theo dựa trên trạng thái hiện tại của thế giới và một hành động. Nó có thể tạo ra video thực tế, hợp lý về mặt vật lý, suy luận về chuyển động, nguyên nhân và kết quả, đồng thời tạo ra dữ liệu hành động mà robot cần để học hỏi.

Các mô hình thế giới cực kỳ hữu ích vì bạn có thể sử dụng chúng để tạo dữ liệu huấn luyện cho các tình huống chậm, đắt đỏ hoặc nguy hiểm khi ghi lại trong thế giới thực.

CEO của NVIDIA, Jensen Huang, đã gọi đây là "khoảnh khắc ChatGPT cho AI vật lý". Mô hình mở tiên phong của NVIDIA cho AI vật lý là Cosmos, ra mắt tại CES vào tháng 1 năm 2025 và được hợp nhất vào năm 2026 thành một mô hình toàn năng (omni-model) duy nhất, Cosmos 3, có khả năng tạo cảnh, suy luận về nó và dự đoán điều gì sẽ xảy ra tiếp theo. Cosmos 3 cũng giới thiệu các mô hình hành động thế giới (world action models), chuyển đổi trực tiếp các khung video đã được huấn luyện trước thành các chính sách cho robot. Ngoài ra còn có phiên bản Edge với 4 tỷ tham số đủ nhỏ để chạy trên robot và điều khiển nó trong thời gian thực.

Một mô hình thế giới có thể dự đoán cảnh tiếp theo, nhưng robot phải hành động. Nó phải biến những gì camera nhìn thấy thành cách các động cơ di chuyển, trong thời gian thực, đối với các tác vụ mà không ai lập trình trước.

Đó là công việc của một mô hình nền tảng robot, thường được gọi là mô hình tầm nhìn-ngôn ngữ-hành động (vision-language-action model). Đầu vào của các mô hình này thường là hình ảnh từ camera và các chỉ dẫn, và mô hình sẽ tạo ra chuyển động.

Dòng mô hình nền tảng mở của NVIDIA cho robot hình người là Isaac GR00T. NVIDIA công bố dự án vào năm 2024, phát hành mô hình nền tảng hình người mở đầu tiên, GR00T N1, vào đầu năm 2025, và kể từ đó đã lặp lại cải tiến lên GR00T 1.7.

Các mô hình GR00T sử dụng Cosmos làm khung suy luận, mang lại cho robot một nền tảng chung về nhận thức, suy luận và khả năng thao tác di chuyển (locomanipulation): khả năng di chuyển trong khi thao tác với các vật thể. Điều này cho phép ra quyết định giống con người hơn và giúp robot chia nhỏ các hành động phức tạp thành các kế hoạch có cấu trúc, từng bước mà các nhà phát triển có thể tùy chỉnh cho các tác vụ cụ thể. Bản phát hành 1.7 cũng bao gồm giấy phép thương mại thân thiện với sản xuất, cho phép các nhà phát triển triển khai mô hình trong các ứng dụng thực tế.

Danh mục này vẫn tiếp tục mở rộng. Alpamayo là một dòng mô hình mở cho việc tự lái dựa trên suy luận. Giống như GR00T, nó sử dụng Cosmos làm khung suy luận, vì vậy nền tảng AI vật lý vận hành robot cũng cho phép một chiếc xe xử lý các tình huống đường bộ mà nó chưa từng được huấn luyện. Nó cũng phơi bày chuỗi nguyên nhân và kết quả đằng sau mỗi quyết định, mà các nhà phát triển có thể kiểm tra và xây dựng dựa trên đó. BioNeMo mang các mô hình mở đến với sinh học và khám phá thuốc, và BioNeMo Agent Toolkit cho phép các nhà phát triển xây dựng các tác nhân tự hành cho công việc khoa học sự sống. Ising cung cấp cho các nhà xây dựng, vận hành và phát triển máy tính lượng tử các công cụ AI cần thiết để mở rộng quy mô thiết bị đến mức chịu lỗi. Earth-2 là một dòng các mô hình, thư viện và khung làm việc mở giúp AI thời tiết và khí hậu cấp chuyên nghiệp trở nên khả dụng với bất kỳ ai. Ngoài ra, NVIDIA còn cung cấp các mô hình mở cho mục đích sản xuất: các mô hình an toàn để lọc nội dung không an toàn, mô hình giọng nói cho âm thanh và mô hình thị giác cho hình ảnh.

Tổng hợp lại, hệ sinh thái mạnh mẽ này thay đổi cách cộng đồng có thể tiến bộ và xây dựng. Phần còn lại của bài viết sẽ xem xét cách NVIDIA xây dựng các mô hình này, cách nhóm có thể di chuyển nhanh chóng và những gì họ đã học được.

Việc xây dựng một mô hình vừa nhanh vừa có năng lực thường là một thách thức. Các mô hình có năng lực thường lớn hơn, khiến chúng chậm hơn trong việc huấn luyện và trả lời câu hỏi. Câu trả lời của NVIDIA là theo đuổi cả sự tiên phong và tốc độ cùng một lúc. Bryan đã diễn đạt như sau: "mô hình nhanh nhất là mô hình thông minh nhất".

Mặc dù điều này nghe có vẻ như một khẩu hiệu, nhưng nó chứa đựng một cái nhìn sâu sắc thực sự. Một mô hình nhanh hơn có thể được huấn luyện trên nhiều dữ liệu hơn trong cùng một khoảng thời gian. Nó có thể được huấn luyện bổ sung (post-trained) trên nhiều môi trường hơn. Sau khi triển khai, nó có thể suy nghĩ lâu hơn về một vấn đề khó với cùng một chi phí. Vì vậy, tốc độ chuyển hóa thành năng lực và tích lũy ở mọi giai đoạn.

Với chiến lược này, NVIDIA thiết kế các mô hình của mình với trọng tâm là hiệu quả và tốc độ. Các lựa chọn thiết kế sau đây là những gì làm cho các mô hình này vừa nhanh vừa có năng lực. Hai lựa chọn đầu tiên làm cho mô hình nhanh hơn và hiệu quả hơn. Lựa chọn cuối cùng làm cho nó có năng lực hơn.

Hầu hết các mô hình nổi tiếng đều được xây dựng gần như hoàn toàn trên cơ chế chú ý (attention mechanism) của Transformer. Attention cho phép mọi token trong đầu vào nhìn vào mọi token khác, điều này rất mạnh mẽ để nắm bắt các mối quan hệ nhưng lại tốn kém. Chi phí tăng theo bình phương độ dài đầu vào, vì vậy tăng gấp đôi đầu vào sẽ làm tăng khối lượng công việc lên khoảng bốn lần. Mô hình phải giữ mọi token trước đó trong bộ nhớ khi nó chạy. Với các đầu vào rất dài, điều đó trở nên chậm chạp và tốn kém.

Lớp chính khác là mô hình không gian trạng thái (state space model), và Mamba là ví dụ nổi tiếng nhất. Thay vì so sánh mọi token với mọi token khác, một lớp Mamba đọc chuỗi một lần và nén mọi thứ nó đã thấy vào một bộ nhớ có kích thước cố định. Điều đó làm cho nó rẻ: chi phí tăng tuyến tính theo độ dài, và bộ nhớ vẫn không đổi bất kể đầu vào dài bao nhiêu. Sự đánh đổi là bộ nhớ kích thước cố định không thể giữ lại mọi chi tiết, vì vậy Mamba yếu hơn trong việc nhớ lại một sự kiện chính xác bị chôn vùi sâu bên trong.

Các lớp Mamba hiệu quả trong khi các lớp attention hiệu quả hơn. Kết hợp chúng mang lại lợi ích của cả hai thế giới. Một kiến trúc lai sẽ thay thế hầu hết các lớp attention trong Transformer bằng các lớp Mamba và giữ lại một vài khối với attention đầy đủ.

Các mô hình của NVIDIA dựa trên cùng một mô hình lai này. Hầu hết các lớp là Mamba, giúp giữ cho các đầu vào dài có chi phí xử lý thấp và là điều làm cho cửa sổ ngữ cảnh triệu token trở nên thực tế thay vì chỉ là lý thuyết. Một vài lớp attention được đặt ở giữa để khôi phục khả năng nhớ lại chính xác mà Mamba đã từ bỏ, vì vậy mô hình vẫn có thể truy xuất các chi tiết chính xác từ bất kỳ đâu trong ngữ cảnh.

Ngoài thiết kế lai, các mô hình còn sử dụng các lớp hỗn hợp chuyên gia (mixture-of-experts - MoE). Một lớp MoE bao gồm nhiều lớp chuyên gia nhỏ và định tuyến mỗi token đến chỉ một vài trong số đó. Vì vậy, thay vì chạy mọi tham số trên mọi token, mô hình chỉ kích hoạt một tập hợp con nhỏ các tham số của nó. Điều đó cho phép chúng ta sử dụng tổng công suất lớn với chi phí thấp trên mỗi token, giúp mô hình luôn nhanh.

Theo cách Bryan mô tả, Mamba xây dựng một cái nhìn toàn cầu về toàn bộ chuỗi. Attention luôn có thể quay lại và tìm thấy một sự kiện chính xác. Khi kết hợp lại, chúng thông minh hơn bất kỳ cái nào đứng riêng lẻ. NVIDIA đã công bố kết quả lai này vào năm 2024, và các phòng thí nghiệm khác, bao gồm các nhóm đứng sau Qwen và Kimi, kể từ đó đã đi theo cùng một hướng.