Consommation au token : les bonnes pratiques pour encadrer les coûts de l’IA

Avec l’évolution des modèles de facturation des entreprises d’intelligence artificielle (IA) et la montée en puissance de l’IA agentique, les entreprises font face à une hausse significative de leurs coûts. Voici quelques recommandations pour mieux gérer cette consommation et maîtriser les budgets.

Contexte

Des entreprises de premier plan, y compris des géants du numérique, ont récemment rencontré des difficultés financières liées à l’IA. Par exemple, selon le site Axios, une entreprise américaine a « brûlé » près de 500 millions de dollars en un mois en raison d’un manque de contrôle sur l’utilisation des licences Claude par ses employés. De plus, Uber a limité l’utilisation de certains outils d’IA, imposant un budget de 1 500 dollars par mois par développeur pour chaque outil de génération de code.

Données

Cette flambée des coûts s’explique par deux tendances majeures : le déploiement à grande échelle de l’IA et l’encouragement des entreprises à expérimenter cette technologie. Les agents autonomes, qui consomment des services d’IA, contribuent également à cette augmentation des coûts. Plusieurs fournisseurs d’IA, tels qu’Anthropic, GitHub et Google, ont modifié leur politique tarifaire, passant d’abonnements illimités à une facturation à l’usage, rendant obsolètes les forfaits professionnels de 100 à 200 dollars par utilisateur et par mois.

Conséquence

Face à cette situation, il est crucial pour les entreprises de mettre en place des stratégies de contrôle des coûts. Cela inclut la nécessité d’évaluer les modèles d’IA en fonction de leur efficacité et de leur coût, tout en évitant le phénomène de « tokenmaxxing », où des équipes accumulent des factures mensuelles élevées en raison d’une utilisation excessive et non régulée des tokens.

Source : Axios, Bloomberg.