SemiAnalysis@SemiAnalysis_ALERT ALERT ALERT 🚨 🚨 🚨 VLLM MAINTAINERS HAVE JUST SHOWN THAT TPUv7 CAN GET 700 tok/s/user, 56% …
DịchCác nhà phát triển vLLM công bố TPUv7 đạt tốc độ 700 tok/s/user trên mô hình Kimi K3 sau khi tối ưu megakernel, vượt trội 56% so với hệ thống GB200 NVL72. Kết quả này cho thấy tiềm năng lớn từ việc tối ưu hóa phần mềm cho hạ tầng TPU.
MiniMax@MiniMax_AIThe real breakthrough in the NVIDIA SANA team's Sol Engine work on MiniMax H3! By splitting generat…
DịchNhờ công cụ Sol Engine từ đội ngũ NVIDIA SANA, thời gian tạo video 10 giây (768p) của MiniMax H3 đã giảm từ 414 giây xuống còn 14,93 giây, đánh dấu bước tiến vượt bậc về hiệu suất xử lý.
Nathan Lambert@natolambertSo happy for the whole Marin team. They've been quietly working up to this for a long time. I'm exci…
DịchDự án Marin 535B-A23B bắt đầu quá trình huấn luyện trên 11 cụm GB200 NVL72 với 18,75 nghìn tỷ tokens. Đội ngũ phát triển cam kết công khai toàn bộ mã nguồn sau khi hoàn tất lộ trình huấn luyện kéo dài 3 tháng.