La startup parisienne ZML, soutenue par le prix Turing Yann LeCun, a dévoilé ZML/LLMD, un serveur d’inférence gratuit capable d’exécuter des modèles de langage sur une large gamme de puces, brisant le monopole de fait de Nvidia.
Un serveur d’inférence multi-puces
ZML/LLMD, le nouveau produit de la jeune pousse française ZML, est un serveur d’inférence conçu pour faire fonctionner des grands modèles de langage (LLM) open source sur différents types de processeurs. La solution prend en charge les GPU de Nvidia, d’AMD, les TPU de Google, ainsi que les puces Apple Metal et Intel Arc, a indiqué Steeve Morin, fondateur de ZML, à TechCrunch.
L’entreprise promet d’atteindre des performances maximales sur chaque architecture, avec l’ambition de briser les silos existants et de réduire la dépendance des entreprises à un seul fournisseur de puces. Selon Morin, ce logiciel pourrait permettre aux entreprises et aux fournisseurs de cloud d’utiliser un mélange de processeurs, certains pouvant être moins coûteux ou moins énergivores.
L’optimisation de l’inférence, c’est-à-dire le traitement des requêtes soumises à un modèle d’IA, a pris une importance croissante face à la phase d’entraînement. Les barrières logicielles et architecturales conduisent aujourd’hui à un enfermement propriétaire, un problème que ZML/LLMD entend résoudre.
Un marché en pleine effervescence
Le secteur de l’inférence IA connaît un essor rapide, qualifié de ruée vers l’or de l’inférence. ZML fait face à des concurrents comme Baseten (valorisé 13 milliards de dollars), Inferact (créé par les auteurs du projet open source vLLM) et RadixArk (société commerciale derrière SGLang).
La société affirme toutefois que ses ambitions couvrent un spectre plus large que ses rivaux. « Nous avons atteint le point où nous co-concevons du silicium », a déclaré Morin, évoquant des collaborations avec des fabricants de puces européens comme Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud et VSORA. Il a observé que nombre de ces acteurs émergent justement en Europe.
Une équipe réduite mais bien financée
ZML emploie une vingtaine de personnes et a levé 20 millions de dollars auprès d’investisseurs dont 20VC (Harry Stebbings), commit, AALVC, Drysdale Ventures, Kima Ventures (Xavier Niel), LocalGlobe, Kindred Capital et Puzzle Ventures. Ancien vice-président ingénierie de Zenly, rachetée par Snapchat en 2017 pour neuf chiffres, Steeve Morin a également reçu le soutien de figures de l’écosystème tech : Solomon Hykes (fondateur de Docker), Clément Delangue et Julien Chaumond (Hugging Face), ainsi que Yann LeCun, désormais chez AMI Labs.
Contrairement au premier projet public de ZML, un framework d’inférence open source lancé en 2024 et mis à jour en mars 2026, ZML/LLMD n’est pas open source. Il est proposé gratuitement, l’objectif étant d’apprendre des usages avant d’envisager une monétisation. « Je préfère mesurer et générer des revenus là où c’est le plus efficace sans freiner bêtement ma croissance parce que j’ai été trop gourmand dès le départ », a expliqué Morin.
ZML, qui revendique une relation de travail avec Nvidia malgré son position concurrentiel, illustre la capacité croissante des startups européennes à innover dans l’IA. « Je ne pourrais pas faire ZML ailleurs qu’à Paris », a conclu le fondateur.
