Liquid AI giới thiệu LFM2.5-VL-3B-DSpark, mô hình dự đoán (draft model) giúp tăng tốc giải mã cho LFM2.5-VL-3B lên 3,13 lần trên Apple silicon và 2,66 lần trên NVIDIA H100.
Liquid AI giới thiệu mô hình drafter LFM2.5-VL-DSpark với 280 triệu tham số, giúp tăng tốc độ giải mã trên thiết bị biên lên 3,13 lần và trên GPU lên 2,66 lần mà chỉ tốn thêm 8,9% tài nguyên.
Liquid AI giới thiệu mô hình nháp DSpark cho LFM2.5-VL-3B trên Hugging Face, ứng dụng kỹ thuật giải mã suy đoán để tăng tốc độ phản hồi mà vẫn giữ nguyên chất lượng đầu ra.
Artificial Analysis và Liquid AI vừa giới thiệu bộ công cụ đo hiệu năng AI chuyên dụng cho di động, thử nghiệm trên các mô hình 4-bit dưới 8GB chạy trực tiếp trên iPhone 17 Pro.
Liquid AI hợp tác cùng Artificial Analysis phát hành mã nguồn mở Pipette, nền tảng đánh giá hiệu năng AI trên thiết bị dựa trên sự kết hợp đồng bộ giữa mô hình, kỹ thuật lượng tử hóa, môi trường chạy và phần cứng.
Which model should you run on the iPhone 17 Pro? Announcing our new intelligence and inference test…
DịchArtificial Analysis phối hợp với Liquid AI thực hiện bài kiểm tra độc lập về hiệu năng suy luận và trí thông minh của các mô hình nhỏ (4-bit trở xuống) trên iPhone 17 Pro và Galaxy S26 Ultra.
Liquid AI vừa giới thiệu các mô hình dự thảo DSpark cho dòng LFM2.5, giúp tăng tốc độ giải mã lên tới 3,18 lần trên GPU H100 và 2,87 lần trên chip M4 Max mà vẫn giữ nguyên chất lượng đầu ra.
Liquid AI giới thiệu các checkpoint Q4_0 cho dòng mô hình LFM 2.5, sử dụng kỹ thuật chưng cất nhận thức lượng tử (QAD) để duy trì tốc độ cao trong khi khôi phục tới 97% độ chính xác so với chuẩn BF16.
Vì sao đáng đọc: Đây là bước tiến kỹ thuật quan trọng giúp tối ưu hóa mô hình nhỏ (SLM) cho thiết bị biên, rất hữu ích cho cộng đồng phát triển AI tại Việt Nam.
Liquid AI giới thiệu LFM2.5-VL-3B, mô hình 3.1 tỷ tham số có khả năng đọc màn hình, định vị đối tượng, phân tích biểu đồ và tự động gọi công cụ ngay trên thiết bị.
Liquid AI ra mắt mô hình LFM2.5-VL-3B, tối ưu hóa khả năng xử lý thị giác cho các thiết bị biên với tốc độ vượt trội và hiệu suất cao, mở ra tiềm năng ứng dụng thực tế rộng rãi.