Un projet d’IA chez Amazon dépasse son budget de 860 %
Un outil d’intelligence artificielle basé sur le modèle Claude Sonnet a dépassé son budget de 860 % avant qu’Amazon ne détecte la dérive, cinq mois plus tard. Cet incident met en lumière une faiblesse souvent sous-estimée des projets d’IA : leur consommation peut s’emballer plus rapidement que celle des applications traditionnelles.
Amazon, reconnu pour sa maîtrise de la facturation à l’usage dans le cloud, a récemment découvert qu’un projet interne utilisant l’intelligence artificielle avait coûté 1,8 million de dollars. Selon des documents internes rapportés par le Financial Times, l’application devait utiliser Claude Sonnet, un modèle d’Anthropic, pour rapprocher automatiquement les informations relatives aux auteurs et les fiches de produits sur sa plateforme. Cependant, le projet n’a jamais été mis en production, et sa facture a largement dépassé le budget initial sans que l’anomalie soit identifiée.
L’incident ne semble pas isolé. Un autre outil destiné à l’audit financier a engendré 541 000 dollars de dépenses supplémentaires, tandis qu’un système conçu pour améliorer les délais de livraison a dépassé son enveloppe de 134 000 dollars. Au total, ces trois projets ont généré près de 2,5 millions de dollars de coûts imprévus.
Ces montants révèlent une rupture économique entre les applications classiques et les systèmes reposant sur des agents d’IA. Dans un programme traditionnel, une erreur de code entraîne généralement une consommation accrue de processeur ou un ralentissement des traitements. En revanche, lorsqu’un agent appelle continuellement un modèle de langage, une simple erreur peut déclencher des milliers de requêtes payantes. Chaque appel consomme des tokens, ce qui peut rapidement faire grimper la facture.
L’incident soulève également des questions sur la manière dont les entreprises encouragent l’adoption de l’IA. Amazon avait mis en place un tableau de classement interne, KiroRank, qui comparait les employés selon leur consommation de tokens. Certains auraient alors confié des tâches inutiles aux agents pour améliorer leur classement, une pratique appelée « tokenmaxxing ». Ce tableau a depuis été supprimé, et la direction a exhorté les équipes à utiliser l’IA uniquement pour résoudre des problèmes concrets.
Amazon considère ces dépassements comme des cas isolés, liés à l’apprentissage d’une nouvelle technologie, et affirme travailler à une utilisation plus efficace de ses ressources. Toutefois, cette situation souligne la nécessité pour les entreprises de gérer les agents d’IA différemment des licences logicielles classiques. Elles doivent établir des plafonds de consommation, détecter les anomalies en temps réel et interrompre les traitements lorsque les coûts dépassent les attentes.
À défaut, l’IA agentique pourrait non seulement automatiser le travail, mais également les dépassements budgétaires.
Source : Financial Times
