Thủ thuật
Unsloth nén mô hình Kimi K3 xuống 594GB, cho phép chạy cục bộ trên Mac Studio
(giờ Việt Nam)
Tóm tắt AI
Đội ngũ Unsloth đã nén mô hình Kimi K3 (2.8 nghìn tỷ tham số) xuống còn 594GB bằng kỹ thuật lượng tử hóa 1-bit, giúp người dùng có thể vận hành cục bộ trên Mac Studio với 128GB RAM mà vẫn giữ được 78.9% độ chính xác.

Bài viết được AI dịch và tổng hợp tự động từ X: Berry Xia (@berryxia). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.