Quotas d’IA : des entreprises choisissent de gaspiller pour éviter des pénalités.

Use it or lose it : quand les quotas d'IA rendent le gaspillage rationnel

Use it or lose it : Quand les quotas d’IA rendent le gaspillage rationnel

Les quotas d’IA qui expirent incitent les utilisateurs à surconsommer le modèle le plus lourd afin de ne rien perdre. Ce phénomène, désigné comme la « taxe de continuité », remet en question les principes de sobriété numérique.

Contexte factuel

Dans de nombreux services d’IA, tels que ceux proposés par Anthropic, les utilisateurs se retrouvent avec un quota hebdomadaire qui ne se reporte pas. Ce système crée une pression pour consommer la capacité disponible avant son expiration, modifiant ainsi le comportement des utilisateurs. Par exemple, un modèle léger pourrait suffire pour une tâche simple, mais l’utilisateur choisit souvent le modèle le plus puissant pour éviter de perdre son quota.

Données ou statistiques

Une étude publiée dans l’American Economic Review indique que, lors de la dernière semaine budgétaire, des administrations fédérales américaines dépensaient 4,9 fois leur moyenne hebdomadaire, souvent pour des achats de moindre qualité. De plus, Token Climate estime que l’énergie consommée par million de jetons générés est d’environ 10,1 kWh pour le modèle Fable, 5,05 kWh pour Opus, 2,53 kWh pour Sonnet et 1,26 kWh pour Haiku.

Conséquence directe

Ce mécanisme incite donc à un usage inefficace des ressources, augmentant ainsi l’impact environnemental des services d’IA tout en rendant la sobriété plus difficile à atteindre.

Source : Journal du Net.

Source

Comments

No comments yet. Why don’t you start the discussion?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *