85
Nghiên cứu
FreeToken: Giải pháp tối ưu hóa chạy mô hình MoE trên thiết bị cá nhân
(giờ Việt Nam)
Tóm tắt AI
FreeToken là hệ thống phục vụ mô hình MoE thế hệ mới, cho phép chạy linh hoạt trên các thiết bị cá nhân bằng cách tự động điều phối tài nguyên CPU-GPU theo thời gian thực thay vì phụ thuộc vào hạ tầng máy chủ.
Bản dịch AI
Tác giả: Shuo Yang, Xiaoze Fan, Melissa Pan, Haocheng Xi, Zhe Wang, Shanlin Sun, Kurt Keutzer, Song Han, Matei Zaharia, Chenfeng Xu, Ion Stoica
Xem PDF HTML (thử nghiệm)
DOI do arXiv cấp thông qua DataCite (đang chờ đăng ký)
Lịch sử gửi bài
Từ: Shuo Yang [xem email] [v1] Thứ Hai, ngày 17 tháng 8 năm 2026 06:22:53 UTC (1.344 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hugging Face Daily Papers. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.