Infrastructures : l’IA va faire sortir l’IT du cloud public
Nous approchons des limites du traitement informatique centralisé. Depuis des décennies, le datacenter est le cœur incontesté de l’infrastructure numérique. Ces installations centralisées et à très grande échelle sont le fondement du cloud computing, des applications d’entreprise et de l’Internet moderne. Cependant, l’essor de l’intelligence artificielle (IA) met en lumière une réalité préoccupante : le modèle traditionnel de l’IT centralisée pourrait ne plus être capable d’évoluer rapidement et de manière durable pour répondre aux nouveaux besoins.
Les investissements dans les datacenters continuent d’exploser, mais l’infrastructure nécessaire pour soutenir la prochaine génération d’applications d’IA, notamment l’inférence à grande échelle, met à rude épreuve les réseaux électriques et les systèmes de refroidissement. De plus, la disponibilité foncière et les architectures réseau ne peuvent souvent pas suivre le rythme de la demande croissante.
L’avenir des infrastructures semble se diriger vers une structure de calcul dispersée et distribuée, plutôt que vers une concentration dans quelques centres de calcul géants. Les datacenters géants resteront essentiels pour l’entraînement des modèles et les services cloud de base, mais l’idée que toute la puissance de calcul doit être centralisée commence à s’effriter. Ce qui émerge est un continuum de calcul, reliant des cœurs cloud à des installations périphériques régionales et à des accélérateurs d’IA locaux.
Goldman Sachs Research prévoit que la demande mondiale en électricité des datacenters pourrait augmenter de 165 % d’ici 2030 en raison de la croissance de l’IA. Dans certaines régions des États-Unis, des projets de datacenters attendent depuis des années d’être raccordés au réseau, car les infrastructures de transport d’électricité ne parviennent pas à suivre le rythme de la demande. Cette situation est encore plus critique dans les pays aux infrastructures moins développées.
Les infrastructures modernes d’IA consomment de l’énergie à des niveaux jamais envisagés par l’informatique d’entreprise traditionnelle. Les densités de rack, qui fonctionnaient autrefois à 10-20 kW, dépassent désormais les 100 kW pour les charges de travail liées à l’IA. Les besoins en refroidissement augmentent également, entraînant une consommation d’eau plus importante et une surveillance accrue de la part des collectivités locales.
McKinsey estime que la construction d’infrastructures de calcul pour l’IA pourrait nécessiter des investissements de plusieurs milliers de milliards de dollars dans les années à venir. Cependant, injecter davantage d’argent dans des campus géants ne résout pas les goulets d’étranglement sous-jacents, car les réseaux de production et de distribution d’électricité évoluent plus lentement que la demande.
Les entreprises s’orientent de plus en plus vers des architectures distribuées qui rapprochent les charges de travail des utilisateurs et de leurs sources de données. Le edge computing, autrefois considéré comme une architecture de niche, devient central dans l’ère de l’IA, réduisant la latence et améliorant l’efficacité énergétique.
L’entraînement de grands modèles de base nécessitera toujours des clusters de calcul centralisés, mais l’inférence, avec laquelle les utilisateurs interagissent au quotidien, bénéficie d’une répartition géographique. Des installations régionales plus petites et des micro-datacenters modulaires commencent à remplacer les architectures centralisées.
En conclusion, l’avenir des infrastructures ne sera pas défini par la taille des datacenters, mais par la manière dont la puissance de calcul sera répartie de manière intelligente et efficace.
Source : Adaptation d’un article paru en anglais sur searchdatacenter.
