Nous vivons une crise existentielle des infrastructures IA

Ganesh Venkataramanan, figure emblématique du secteur des semi-conducteurs, a joué un rôle crucial dans la transition d’AMD vers le 64 bits et est à l’origine du premier x86 multicœur ainsi que du GPU dédié à la conduite autonome FSD des véhicules Tesla. Aujourd’hui, en tant que fondateur de la startup Density AI, il ambitionne de créer une puce capable de délivrer dix fois plus de puissance IA par joule que les composants actuels.

« Il faut comprendre que l’architecture d’un ordinateur va fonctionner jusqu’à un certain point, puis devenir un obstacle au bon fonctionnement des applications. Et c’est précisément ce qui se passe aujourd’hui avec l’IA », déclare Venkataramanan.

Comment motoriser les usines à tokens de demain ?

Selon Venkataramanan, les concepteurs de composants se heurtent aujourd’hui à un nouveau mur lié à l’IA à grande échelle et aux datacenters toujours plus gourmands en énergie. Il affirme qu’un pivot technologique est nécessaire pour surmonter cet obstacle. Dario Amodei, PDG d’Anthropic, a évoqué une croissance de la puissance de calcul d’environ dix fois par an, avec une augmentation de 80 fois déjà constatée au premier semestre 2026.

En prenant une hypothèse basse de croissance à 300 % par an concernant la puissance de calcul pour l’inférence, Venkataramanan souligne que l’efficacité des composants et des plateformes ne s’améliore que de 30 % par an, tandis que la production électrique ne progresse que de 3 % par an. « Nous serons donc dans un rapport de 300, 30, et 3. C’est une crise existentielle pour l’infrastructure IA qui se déroule en ce moment même », avertit-il.

Pour Venkataramanan, les compromis ne suffiront pas. Il critique ceux qui privilégient les ASIC, arguant que leur cycle de vie d’environ deux ans ne correspond pas à la rapidité d’évolution des modèles de langage, qui peut être de deux mois, voire deux semaines.

Ganesh Venkataramanan croit

Venkataramanan cherche à utiliser son expérience, notamment celle acquise avec le calculateur Dojo, pour développer une nouvelle architecture. Il explique que la réduction de la latence est particulièrement complexe et qu’une approche radicalement différente est nécessaire pour éviter de jouer sur les mêmes courbes d’amélioration.

Le design du calculateur Dojo a utilisé des composants de type « Wafer scale » intégrant de la SRAM. « Nous avons créé la première pile totalement optimisée pour l’IA, des protocoles réseaux pour le scale up, un datacenter totalement refroidi par liquide », précise-t-il.

Aujourd’hui, la SRAM suscite un regain d’intérêt pour les inférences. Venkataramanan estime qu’il est essentiel de multiplier par dix l’efficacité énergétique des infrastructures IA. « Avec notre approche, les centimètres deviennent des microns et les millisecondes deviennent des microsecondes. C’est la façon la plus efficace de créer cette nouvelle courbe pour les prochaines décennies de solutions », conclut-il.

Les évolutions des workloads IA renforceront la nécessité de produire des tokens en grandes quantités tout en maîtrisant la consommation d’énergie. Il souligne que, cinq ans après l’émergence de ChatGPT, le ratio de tokens utilisés par un tchat à ceux nécessaires pour le traitement IA est passé de 1 à 50, ce qui pourrait engendrer des goulets d’étranglement dans l’architecture actuelle.

Propos recueillis lors du RAISE Summit 2026.