92
Sản phẩm
Maple-Preview: Chạy mô hình MoE 20B trên iPhone với tốc độ 120 token/giây
(giờ Việt Nam)
Tóm tắt AI
Maple-Preview là bước đột phá cho phép chạy mô hình ternary 20B MoE trực tiếp trên iPhone với tốc độ ấn tượng 120 tok/s nhờ tối ưu hóa sâu. Dự án hiện đã mở mã nguồn tại deepgrove.ai.
Bài viết được AI dịch và tổng hợp tự động từ Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.