Thủ thuật · SemiAnalysis
xAI từ bỏ JAX trên GPU NVIDIA, tự xây dựng framework huấn luyện riêng
xAI quyết định từ bỏ JAX trên GPU NVIDIA do hiệu suất MFU thấp dưới 10%, thay vào đó họ tự phát triển framework huấn luyện bằng Grok để tối ưu hóa hiệu năng.
Tóm tắt
xAI quyết định từ bỏ JAX trên GPU NVIDIA do hiệu suất MFU thấp dưới 10%, thay vào đó họ tự phát triển framework huấn luyện bằng Grok để tối ưu hóa hiệu năng.
Vì sao đáng chú ý
Tin tức gây chấn động trong giới kỹ thuật AI, cho thấy sự rạn nứt giữa hạ tầng NVIDIA và các startup hàng đầu, có tác động lớn đến xu hướng tối ưu hóa phần cứng.
Nội dung dịch chi tiết
Tin nóng: JAX NVIDIA GPU & XLA. Khách hàng lớn nhất của GPU vừa tuyên bố từ bỏ JAX GPU, thay vào đó họ chọn sử dụng Grok để xây dựng một framework huấn luyện bằng ngôn ngữ C theo phong cách "lập trình cảm hứng".
Theo các báo cáo, stack JAX của xAI hiện có hiệu suất sử dụng phần cứng (MFU) thấp hơn 10%. Đây là một con số đáng chú ý trong bối cảnh tối ưu hóa hiệu năng tính toán.
Đội ngũ NVIDIA JAX đã dành toàn bộ nguồn lực trong hai năm qua, làm việc với cường độ cao (996) để tập trung hỗ trợ xAI nhưng cuối cùng đã không đạt được mục tiêu đề ra.
Với kết quả này, có lẽ đội ngũ NVIDIA JAX hiện có thể nghỉ ngơi và thực hiện quyền chọn cổ phiếu của mình sau thời gian dài nỗ lực.
Ý chính từ bài gốc
- Khách hàng lớn nhất của NVIDIA từ bỏ JAX GPU để tự xây dựng framework huấn luyện bằng C.
- Stack JAX của xAI ghi nhận hiệu suất sử dụng phần cứng (MFU) dưới 10%.
- Đội ngũ NVIDIA JAX đã dành 2 năm làm việc cường độ cao để hỗ trợ xAI nhưng không thành công.
Bài viết được AI dịch và tổng hợp tự động từ X/Twitter. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.