Thinking Machines Lab dévoile Inkling, son premier modèle ouvert
Dix-huit mois de silence, 12 milliards de dollars de valorisation, zéro produit. Le mystère Thinking Machines Lab a pris fin cette semaine avec l’annonce de « Inkling », un modèle « open weight » qui n’ambitionne pas d’être le plus intelligent du marché, mais de prouver que l’avenir de l’IA en entreprise passe par le sur-me.
Ingénieure d’origine albanaise, Mira Murati a précédemment dirigé la technologie d’OpenAI durant six ans. Elle est à l’origine de plusieurs innovations majeures, dont ChatGPT et DALL-E. Après avoir quitté OpenAI, elle a fondé Thinking Machines Lab, levant 2 milliards de dollars pour une valorisation de 12 milliards, avant même de proposer un produit, avec Nvidia comme investisseur.
La proposition de Thinking Machines se distingue des modèles généralistes, en offrant aux entreprises la possibilité de disposer d’un modèle sur-me. Contrairement à des entreprises comme OpenAI ou Google, qui proposent des solutions standardisées, Thinking Machines mise sur des poids ouverts que les utilisateurs peuvent télécharger, affiner sur leurs propres données et déployer sur leur infrastructure via Tinker, sa plateforme d’affinage.
Techniquement, Inkling est un modèle de type transformeur à mélange d’experts, comportant 975 milliards de paramètres, dont 41 milliards activés à chaque requête, avec une fenêtre de contexte d’un million de tokens. Le pré-entraînement a utilisé 45 000 milliards de tokens, intégrant texte, images, audio et vidéo, ce qui permet une approche véritablement multimodale.
Inkling se distingue par un « effort de réflexion » ajustable, permettant de balancer performance et coût. Sur Terminal Bench, il égale le Nemotron 3 Ultra de Nvidia, tout en consommant trois fois moins de tokens. De plus, le modèle a été conçu pour apprendre à dire « je ne sais pas », évitant ainsi des assertions erronées.
La société précise qu’Inkling « n’est pas le modèle le plus puissant disponible aujourd’hui, ouvert ou fermé ». Les poids sont accessibles sur Hugging Face, et une version allégée, Inkling-Small (12 milliards de paramètres), est prévue.
Le modèle a été entraîné sur des systèmes Nvidia et a utilisé des données synthétiques générées par des modèles ouverts, y compris le modèle chinois Kimi K2.5.
Le timing de cette annonce est stratégique, alors que des figures comme Satya Nadella soulignent que les entreprises utilisant des modèles propriétaires paient souvent deux fois : une fois pour l’abonnement et une autre pour le savoir métier transmis via leurs interactions.
Cependant, l’équation économique de Thinking Machines soulève des questions. Les poids publics ne garantissent pas de revenus, ce qui pourrait limiter le modèle économique de la société, semblable à celui de Mistral AI en Europe.
La concurrence dans le domaine des modèles ouverts est désormais intense, avec des acteurs européens comme Mistral AI et des modèles chinois comme Kimi, GLM ou DeepSeek, qui surpassent souvent Inkling sur les benchmarks publiés jusqu’à présent.
Mira Murati ne propose pas le modèle le plus puissant, mais défend l’idée qu’un modèle affiné par chaque entreprise surpassera les autres.
Source : Informatique News
