92
Sản phẩm
Xiaohongshu và Đại học Bắc Kinh ra mắt UltraEP: Giải pháp cân bằng tải thời gian thực cho mô hình MoE quy mô lớn
(giờ Việt Nam)
Tóm tắt AI
UltraEP là giải pháp đột phá giúp tối ưu hóa hiệu suất huấn luyện và suy luận cho mô hình MoE bằng cách cân bằng tải động theo thời gian thực. Công nghệ này giúp tăng 42% tốc độ huấn luyện so với Megatron-LM và cải thiện 1,56 lần hiệu suất suy luận prefill so với SGLang.
Bản dịch AI
Công nghệ Xiaohongshu REDtech
Đã chỉnh sửa vào
Bài viết được AI dịch và tổng hợp tự động từ : (dots.llm). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.