Rohan Paul@rohanpaul_aiFreeToken: Đột phá giúp laptop 8GB chạy mượt mô hình 35B
Engine FreeToken mới từ UC Berkeley và UT Austin tối ưu hóa bộ nhớ GPU, cho phép laptop 8GB chạy mô hình 35B với tốc độ 39.3 tokens/giây, vượt xa hiệu suất thông thường.




















