Startup AI đình đám từ Pháp ZML ra mắt công cụ miễn phí giúp tăng tốc suy luận trên nhiều loại chip

Thời kỳ thống trị thị trường không đối thủ của Nvidia vẫn chưa kết thúc, nhưng những thách thức và các lựa chọn thay thế đang xuất hiện từ mọi phía.

ZML, một startup AI đầy tiềm năng của Pháp được bảo chứng bởi người thắng giải Turing Yann LeCun, vừa phát hành phần mềm tối ưu hiệu năng suy luận (inference-performance), cho phép nhiều mô hình ngôn ngữ lớn (LLM) mã nguồn mở chạy trên đa dạng các loại chip — bao gồm chip của Nvidia, AMD, Google TPU, Apple Metal và Intel Arc.

Với ZML/LLMD, máy chủ suy luận LLM vừa ra mắt, tham vọng của công ty là phá vỡ các rào cản hiện tại và giúp các loại chip khác nhau có thể được sử dụng cho các tác vụ AI với tốc độ tối đa, thậm chí là nhanh hơn, nhà sáng lập ZML Steeve Morin chia sẻ với TechCrunch.

Khi AI ngày càng tích hợp sâu vào công việc và cuộc sống hàng ngày, việc tối ưu hóa suy luận — hay còn gọi là quá trình xử lý các câu lệnh (prompts) — đang trở nên quan trọng hơn cả việc huấn luyện mô hình. Tuy nhiên, Morin cho biết quá trình này thường gặp nhiều chắp vá ở phía sau, với các rào cản về phần mềm và kiến trúc dẫn đến tình trạng phụ thuộc vào nhà cung cấp (vendor lock-in).

Lời hứa về việc đạt hiệu suất đỉnh cao trên nhiều loại chip khác nhau là một kỳ tích công nghệ, nhưng nó cũng có thể trở thành yếu tố gây xáo trộn thị trường trong bối cảnh nỗi lo ngại về chi phí liên quan đến AI ngày càng tăng.

ZML hy vọng sẽ cung cấp cho các doanh nghiệp và đơn vị vận hành đám mây tùy chọn sử dụng kết hợp nhiều loại chip, trong đó một số loại có thể tiết kiệm chi phí hoặc tiêu thụ ít năng lượng hơn. "Ý tưởng là trao lại cho mọi người quyền tự tạo ra hệ thống của riêng mình và đạt được những lợi ích hiệu quả thực sự, từ đó cho phép [AI] được phổ biến rộng rãi hơn," Morin nói.

Morin nhận định rằng sự hỗ trợ về phần mềm như vậy có thể giúp ích cho các nhà sản xuất chip AI mới nổi, nhiều trong số đó đến từ châu Âu, như Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud và VSORA. Nhưng quan trọng hơn cả khu vực xuất xứ, điều ông quan tâm là ZML có thể hợp tác với họ trong "những việc chưa từng được thực hiện ở bất kỳ đâu trên thế giới."

Điều đó không có nghĩa là Morin bi quan về Nvidia. Ông không hề bi quan, một phần vì nguồn cung hiện có của hãng này. Ông chia sẻ với TechCrunch rằng ZML có mối quan hệ tốt với gã khổng lồ chip AI, vốn cũng đang chuẩn bị cho sự trỗi dậy của lĩnh vực suy luận.

Suy luận đã trở thành một lĩnh vực thu hút đầu tư mạnh mẽ đến mức xu hướng này được gọi là "cơn sốt vàng suy luận". Vì vậy, ZML đang đối mặt với các đối thủ cạnh tranh như Baseten, công ty vừa được định giá 13 tỷ USD; Inferact, từ những người tạo ra dự án mã nguồn mở vLLM; cũng như RadixArk, công ty thương mại đứng sau SGLang.

Cả vLLM và SGLang đều cạnh tranh một phần với LLMD, nhưng tham vọng của Morin đối với ZML bao phủ một phạm vi rộng hơn. "Chúng tôi đã đạt đến điểm mà chúng tôi có thể đồng thiết kế silicon," ông nói. Ông cũng cho rằng đội ngũ tinh gọn gồm 20 người của ZML chính là lý do giúp startup có trụ sở tại Paris này có thể di chuyển nhanh chóng, với nhiều bản phát hành hơn trong kế hoạch.

Việc đội ngũ nhỏ này được tài trợ tốt so với quy mô của họ cũng là một lợi thế. Nhờ bề dày thành tích với tư cách là Phó chủ tịch kỹ thuật của Zenly — công ty được Snapchat mua lại với giá hàng trăm triệu USD vào năm 2017 — Morin đã huy động được 20 triệu USD từ các quỹ đầu tư mạo hiểm bao gồm 20VC của Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures của Xavier Niel, Kindred Capital, LocalGlobe và Puzzle Ventures.

Không giống như dự án công khai đầu tiên của ZML là khung làm việc ML tập trung vào suy luận được phát hành năm 2024 và cập nhật vào tháng 3, ZML/LLMD không phải là mã nguồn mở. Tuy nhiên, nó được ra mắt dưới dạng sản phẩm miễn phí với mục tiêu tìm hiểu về cách sử dụng. "Tôi thà đo lường và [sau đó tạo doanh thu] ở nơi hiệu quả nhất thay vì cản trở sự tăng trưởng của mình một cách ngớ ngẩn chỉ vì quá tham lam ngay từ đầu," Morin nói.

Còn quá sớm để biết khi nào ZML/LLMD có thể trở thành sản phẩm trả phí và mức độ đón nhận sẽ ra sao. Nhưng danh sách cổ đông của startup này xác nhận rằng các nhà sáng lập khác cũng đang chú ý đến, bao gồm Solomon Hykes (nhà sáng lập Dagger và Docker), Clément Delangue và Julien Chaumond từ Hugging Face, cũng như LeCun (hiện đang làm việc tại AMI Labs). Điều này cũng củng cố luận điểm rằng các startup AI của châu Âu hiện có thể xây dựng sự nghiệp ngay tại quê nhà. "Tôi không thể thực hiện ZML ở bất kỳ nơi nào khác ngoài Paris," Morin khẳng định.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Anna Heim là một cây bút và tư vấn biên tập.

Bạn có thể liên hệ hoặc xác minh thông tin từ Anna bằng cách gửi email đến annatechcrunch [at] gmail.com.

Là phóng viên tự do tại TechCrunch từ năm 2021, cô đã đưa tin về nhiều chủ đề liên quan đến startup bao gồm AI, fintech & insurtech, SaaS & định giá, và các xu hướng đầu tư mạo hiểm toàn cầu.

Tính đến tháng 5 năm 2025, các bài viết của cô cho TechCrunch tập trung vào những câu chuyện startup thú vị nhất tại châu Âu.

Anna đã điều phối các phiên thảo luận và thực hiện các cuộc phỏng vấn trên sân khấu tại nhiều sự kiện trong ngành, bao gồm các hội nghị công nghệ lớn như TechCrunch Disrupt, 4YFN, South Summit, TNW Conference, VivaTech và nhiều sự kiện khác.

Từng là Biên tập viên khu vực LATAM & Truyền thông tại The Next Web, nhà sáng lập startup và là cựu sinh viên Sciences Po Paris, cô thông thạo nhiều ngôn ngữ bao gồm tiếng Pháp, tiếng Anh, tiếng Tây Ban Nha và tiếng Bồ Đào Nha (Brazil).

Xem tiểu sử