Les développeurs cherchant à réduire le coût des outils de codage basés sur l’IA se tournent de plus en plus vers les « prompts Caveman », une technique d’optimisation visant à diminuer la consommation de tokens sans compromettre les performances. (lemondeinformatique.fr)
Cette approche consiste à formuler des instructions concises et directes aux modèles de langage, limitant ainsi le nombre de tokens utilisés lors des interactions. L’idée est que moins de tokens entraînent des coûts d’inférence réduits pour les entreprises déployant des agents IA à grande échelle. (lemondeinformatique.fr)
Cependant, des études récentes remettent en question l’efficacité de cette méthode. Une analyse de JetBrains a montré que les économies réalisées grâce aux prompts Caveman sont inférieures aux attentes de leurs partisans. (lemondeinformatique.fr)
Par ailleurs, une étude de METR a révélé que l’utilisation d’outils d’IA pouvait, dans certains cas, ralentir les développeurs de 19 % par rapport à des méthodes traditionnelles. Les chercheurs ont observé que les développeurs mettaient plus de temps à résoudre les problèmes lorsqu’ils utilisaient des outils d’IA, contredisant ainsi les attentes initiales. (ibm.com)
Ces résultats suggèrent que, malgré les efforts pour optimiser les coûts liés à l’utilisation de l’IA dans le développement logiciel, les gains attendus ne sont pas toujours au rendez-vous. Les entreprises doivent donc évaluer attentivement l’efficacité de ces techniques et considérer d’autres stratégies pour maîtriser les dépenses associées aux outils de codage basés sur l’IA.
