Nghiên cứu
Xiaomi giới thiệu HySparse2 cho MiMo-V3: Chia sẻ KV hai cấp giúp giảm 5 lần FLOPs khi xử lý 1 triệu token
(giờ Việt Nam)
Tóm tắt AI
Đội ngũ LLM-Core của Xiaomi công bố HySparse2, kiến trúc chú ý thưa (sparse-attention) với cơ chế chia sẻ KV hai cấp, giúp tối ưu hóa hiệu suất cho các mô hình tác nhân MiMo-V3 bằng cách giảm đáng kể khối lượng tính toán khi xử lý ngữ cảnh dài.
Nguồn này chưa có thân bài hiển thị được, trang chỉ có tóm tắt.
Đọc bài gốc (mở trong thẻ mới)Bài viết được AI dịch và tổng hợp tự động từ Pandaily. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.