Show HN: NixOS-DGX-Spark – Giải pháp chạy Nix và NixOS trên hệ thống NVIDIA DGX Spark

Hãy thử các playbook của DGX Spark bằng cách sử dụng Nix trên DGX OS, hoặc cài đặt NixOS trên DGX Spark của bạn để có trải nghiệm Nix trọn vẹn. Kho lưu trữ này cung cấp các file ảnh USB và một module NixOS với các thiết lập dành cho hệ thống DGX Spark.

Cách này hoạt động trên chính NVIDIA DGX Spark và cả trên Asus Ascent GX10.

Xem bài thuyết trình nhanh 5 phút của tôi tại Planet Nix để biết phần giới thiệu: https://youtu.be/AvK_gi_snJE?si=MPKv3iiuS9B5elIE

Sử dụng Nix trên DGX OS (Ubuntu)

Bạn có thể sử dụng các dev shell và playbook trong kho lưu trữ này trên NVIDIA DGX OS (Ubuntu) mà không cần cài đặt NixOS.

Thiết lập

Cài đặt Nix bằng trình cài đặt chính thức:

Ngoài ra, bạn có thể sử dụng Determinate Nix Installer:

Kích hoạt flakes và nix-command bằng cách thêm vào /etc/nix/nix.conf:

Kích hoạt bộ nhớ đệm Cachix của graham33 — xem phần Caching bên dưới.

Chạy trên hệ thống không phải NixOS (ví dụ: DGX OS)

Trên các hệ thống không phải NixOS, các ứng dụng CUDA được xây dựng bằng Nix cần nix-gl-host để tìm các driver GPU của máy chủ. Các devshell của playbook xử lý việc này một cách tự động — các playbook dựa trên container không cần đến nó, và các playbook Nix-native sẽ bao bọc các lệnh của chúng bằng nixglhost nên không cần can thiệp thủ công.

Đối với các devshell khác (ví dụ: cuda), nixglhost luôn sẵn sàng và có thể được sử dụng để thêm tiền tố vào các lệnh một cách thủ công:

NixOS trên DGX Spark

Cảnh báo

Chỉ DGX OS mới có thể khởi động từ firmware gốc của nhà sản xuất. Bạn cần cập nhật firmware trước khi cài đặt NixOS.

File ảnh khởi động USB

Xây dựng file ảnh USB:

File ảnh bao gồm hai tùy chọn kernel, có thể chọn từ menu khởi động GRUB:

Khởi động

Vô hiệu hóa Secure Boot trong BIOS của DGX Spark và khởi động từ ổ đĩa USB.

Sau đó, bạn có thể làm theo hướng dẫn cài đặt trong tài liệu NixOS: https://nixos.org/manual/nixos/stable/#sec-installation-manual

Sử dụng module DGX Spark

Module này cung cấp hỗ trợ phần cứng DGX Spark có thể cấu hình với các tùy chọn cho việc lựa chọn kernel.

Các tùy chọn cấu hình module

Sử dụng kernel NVIDIA

Kernel NVIDIA là một bản dựng tùy chỉnh được tối ưu hóa cho các hệ thống NVIDIA DGX Spark. Cấu hình kernel được tạo từ các chú thích Debian của NVIDIA và so sánh với các mặc định của NixOS để tạo ra một cấu hình tối giản, dễ bảo trì.

Module này cũng kích hoạt giao diện web DGX Dashboard tại http://localhost:11000, cung cấp khả năng đo từ xa GPU và giám sát hệ thống.

Sử dụng kernel NixOS tiêu chuẩn (gặp một số vấn đề về mạng)

Quản lý cấu hình kernel

Cấu hình kernel được tạo từ các chú thích Debian của NVIDIA và được lưu trữ trong kernel-configs/nvidia-dgx-spark-<version>.nix. Cấu hình ngắn gọn này chỉ chứa các tùy chọn khác biệt so với mặc định của NixOS, giúp giảm độ dài khoảng 82%.

Để tạo lại cấu hình kernel:

Việc này:

Cần tạo lại khi:

Bạn cũng có thể sử dụng nguồn kernel cục bộ để phát triển:

Nhập vào các dự án khác

Các dự án khác có thể nhập flake này và sử dụng module DGX Spark: