NVIDIA ứng dụng Palantir Foundry và cuOpt để tối ưu hóa chuỗi cung ứng toàn cầu

NVIDIA đang sử dụng Palantir Foundry và cuOpt để tự động hóa các quyết định phân bổ chuỗi cung ứng phần cứng trên các cơ sở sản xuất toàn cầu.

Công ty đo lường hiệu quả vận hành từ khâu xuất xưởng wafer (wafer-out) đến khi tạo ra token đầu tiên. Khoảng thời gian này được chia thành time-to-rack (thời gian vận chuyển từ đầu ra của nhà máy đến khi lắp ráp thành hệ thống trung tâm dữ liệu) và time-to-token (bao gồm điện năng, làm mát, kết nối mạng và mức độ sẵn sàng của phần mềm trong ngày đầu tiên).

Quản lý luồng linh kiện cho NVL72 và Vera Rubin

Việc mở rộng quy mô phần cứng đã làm trầm trọng thêm tình trạng hạn chế nguồn cung. Một rack NVIDIA Grace Blackwell NVL72 chứa 18 khay tính toán, mỗi khay yêu cầu hai CPU Grace, bốn GPU Blackwell và 32 gói bộ nhớ HBM3e được cung cấp từ hàng nghìn nhà cung cấp, OEM và đối tác thiết kế theo hợp đồng.

Chuỗi cung ứng sắp tới được xây dựng cho kiến trúc Vera Rubin của NVIDIA có quy mô lớn gấp đôi so với mạng lưới hỗ trợ Grace Blackwell.

Quá trình lắp ráp không thể tiến hành cho đến khi các bộ phận được chuyển đến từ ba kênh chỉ định: hàng tồn kho trực tiếp, hàng ký gửi và nhà cung cấp bên ngoài. Các lô hàng sớm phải chờ đợi các linh kiện bị chậm trễ, làm kéo dài chỉ số mà NVIDIA gọi là ‘Time of Ownership’ (khoảng thời gian từ khi cơ sở tiếp nhận vật liệu đến khi các cụm lắp ráp hoàn chỉnh rời đi).

Việc phân bổ tại nhà máy được điều chỉnh hàng tuần theo lộ trình hai quý luân phiên để giải quyết vấn đề sẵn có của linh kiện, giới hạn thông lượng và lịch trình hoàn thành đơn hàng của khách hàng.

Lập trình tuyến tính hỗn hợp số nguyên thông qua cuOpt

Để điều phối các phụ thuộc này, đội ngũ vận hành của NVIDIA đã xây dựng trung tâm chỉ huy ‘Digital Supply Chain Intelligence’ bằng cách sử dụng Palantir Foundry. Ontology của Foundry mô hình hóa các cơ sở, cam kết của nhà cung cấp, kho linh kiện và mục tiêu sản xuất dưới dạng các đối tượng và liên kết có tính kết nối với nhau.

NVIDIA cuOpt, một thư viện mã nguồn mở dành cho tối ưu hóa quyết định tăng tốc bằng GPU, đọc trực tiếp lớp vận hành này. Bằng cách xây dựng bài toán phân phối dưới dạng lập trình tuyến tính hỗn hợp số nguyên nhằm giảm thiểu TOO, bộ giải sẽ đánh giá các ràng buộc về linh kiện trên mọi cấp độ của định mức nguyên vật liệu (bill of materials).

Ngoài việc xuất ra lịch trình giao hàng hàng tuần, cuOpt còn xác định các giới hạn thực tế của nhà máy, chẳng hạn như giới hạn công suất lắp ráp theo khu vực so với khả năng cung ứng bộ nhớ thô.

Huấn luyện Nemotron trên các hồ sơ vận hành định tính

Chỉ riêng tối ưu hóa toán học là không đủ để nắm bắt các biến số vận hành phi cấu trúc mà các nhà hoạch định con người quan sát được, bao gồm bản ghi cuộc gọi với nhà cung cấp, dự báo thời tiết khu vực, trao đổi email với đối tác và các sự kiện địa chính trị.

NVIDIA đã giải quyết vấn đề này bằng cách hậu huấn luyện (post-training) Nemotron 3.5 Lightning, một mô hình mixture-of-experts (hỗn hợp chuyên gia) có trọng số mở, sở hữu tổng cộng 30 tỷ tham số và khoảng ba tỷ tham số hoạt động cho mỗi lượt truyền xuôi (forward pass).

Quy trình kỹ thuật xử lý các hồ sơ lịch sử thông qua NeMo Anonymizer để biên tập các trường vận hành nhạy cảm, NeMo Data Designer để cân bằng các ví dụ huấn luyện với các kịch bản gián đoạn công suất tổng hợp, và NeMo AutoModel để áp dụng các tham số low-rank adaptation (LoRA) trong khi vẫn giữ nguyên trọng số của mô hình cơ sở. Palantir Autopilot quản lý dòng dữ liệu, theo dõi mô hình và phân phối các đề xuất.

Các tiêu chuẩn sản xuất và học tăng cường trong tương lai

Khi được đánh giá trên các hồ sơ phân bổ lịch sử, mô hình Nemotron 3.5 Lightning sau hậu huấn luyện đạt độ chính xác quyết định 86,7%, so với 55,5% của mô hình Nemotron 3 Ultra lớn hơn và 17,5% của mô hình Lightning cơ sở chưa được tinh chỉnh.

Mô hình sau hậu huấn luyện đạt độ chính xác cân bằng 58,6% và điểm macro-F1 57,5%, vượt trội hơn so với độ chính xác cân bằng 42% và điểm macro-F1 39,5% của Nemotron 3 Ultra.

Quá trình tinh chỉnh hoàn tất trên hai GPU NVIDIA B200 chỉ trong vài phút. Việc tinh chỉnh theo lĩnh vực đã cải thiện các quyết định phân bổ, mặc dù việc dự báo rủi ro sản xuất trong tương lai xa vẫn còn khó khăn.

Các lựa chọn vận hành, sửa đổi của nhà hoạch định, các ghi đè và kết quả đầu ra thực tế của nhà máy được ghi lại liên tục vào Palantir Ontology.

NVIDIA xác nhận tập dữ liệu này sẽ tạo thành các cặp ưu tiên cho các quy trình học tăng cường – chấm điểm các đề xuất dựa trên độ chính xác phân bổ, tuân thủ chính sách và căn cứ bằng chứng – với các mô hình sản xuất vẫn được cách ly nghiêm ngặt khỏi việc huấn luyện lại trực tiếp và không được giám sát.

Xem thêm: Chuỗi cung ứng phát hiện nhanh, hành động chậm: Cách các tác nhân AI khắc phục vấn đề này

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy tham khảo AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức đồng thời với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.