NVIDIA tái khởi động dự án chip tăng tốc Rubin CPX với thiết kế thay đổi lớn

Theo tin từ IT ngày 1 tháng 9, nhà phân tích Ming-Chi Kuo cho biết trong khảo sát ngành mới nhất của ông rằng NVIDIA đã khởi động lại dự án GPU tăng tốc tiền nạp (prefilling) cho suy luận AI mang tên "Rubin CPX". Tuy nhiên, thiết kế của dự án này đã được điều chỉnh đáng kể và dự kiến sẽ bắt đầu sản xuất vào quý 1 năm 2027.

Ở cấp độ chip, Rubin CPX mới sở hữu sức mạnh tính toán gần tương đương với GPU Rubin tiêu chuẩn, hiệu suất tiền nạp được cải thiện hơn nữa, công suất tiêu thụ tối đa của mỗi đơn vị vẫn là 2300W và được trang bị bộ nhớ 168GB HBM4 (Lưu ý của IT: Rubin CPX cũ sử dụng 128GB GDDR7, con số 168GB có thể ám chỉ thiết kế 7×24GB).

Ở cấp độ khay (tray) và tủ rack, 8 chip Rubin CPX mới tạo thành 1 khay tính toán; 8 khay tính toán tạo thành 1 mô-đun rack, bên trong sử dụng kết nối mở rộng quy mô (scale-out) Ethernet toàn đồng Spectrum-6; Rubin CPX mới sử dụng rack MGX ETL độc lập, mỗi rack chứa từ 1 đến 4 nhóm mô-đun rack, còn việc mở rộng quy mô giữa các mô-đun rack sử dụng giải pháp quang học Spectrum-6 + OSFP.

Ở cấp độ hệ thống, NVIDIA khuyến nghị ghép nối Rubin CPX với Rubin tiêu chuẩn theo tỷ lệ 1:1, đồng thời sử dụng kết nối RDMA dựa trên Ethernet giữa rack Rubin CPX ETL và rack Vera Rubin NVL72.

Nhà phân tích này nhận định rằng, hơn 50% khối lượng công việc suy luận AI hiện nay đến từ việc xử lý đầu vào và thiết lập KV Cache tương ứng. Rubin CPX mới có thể đảm nhận tải công việc tiền nạp với phương thức triển khai linh hoạt hơn và chi phí thấp hơn; khay tính toán Rubin CPX mới sở hữu 1.34TB bộ nhớ HBM, đủ để đáp ứng nhu cầu tiền nạp ngữ cảnh dài và thiết lập KV Cache cho hầu hết các tác vụ.