La moitié des entreprises n’ont pas de pilote pour leurs dépenses en IA
Un rapport de Harness révèle qu’environ un dollar sur quatre dépensé dans l’intelligence artificielle (IA) serait gaspillé. Cette étude, qui a interrogé 700 responsables FinOps et ingénierie, met en lumière un problème majeur : plus de la moitié des organisations n’ont pas désigné de responsable pour superviser ces coûts, entraînant une dilution de la responsabilité entre les équipes d’ingénierie, de plateforme et de FinOps.
Les entreprises se retrouvent ainsi face à un défi crucial : équilibrer l’innovation et l’utilisation de l’IA tout en évitant une explosion des budgets due à des garde-fous flous et à la prolifération des outils.
Le rapport souligne également que la nature des coûts de l’IA diffère des dépenses IT traditionnelles. Contrairement aux coûts liés au cloud, principalement associés aux serveurs et au stockage, les dépenses en IA englobent une variété de catégories, telles que l’infrastructure, les modèles, les abonnements SaaS et les services managés. De plus, la majorité des organisations collaborent avec au moins trois fournisseurs d’IA, chacun ayant sa propre méthode de facturation, compliquant ainsi la visibilité des dépenses.
Les lacunes dans le suivi des coûts touchent toutes les tailles d’entreprises et toutes les régions géographiques. Harish Doddala, vice-président chez Harness, note que le problème de visibilité, de responsabilité et de prévision demeure, que les entreprises dépensent 300 000 ou 3 millions de dollars par mois en IA.
Pour remédier à cette situation, il est recommandé de nommer un responsable chargé de centraliser les coûts de l’IA et de partager ces informations avec les équipes. OpenAI, le créateur de ChatGPT, préconise également une meilleure gestion des usages et des dépenses, tout en appelant à une évaluation de la valeur réelle générée par les modèles d’IA et à un accent accru sur la gouvernance.
Source : Harness
