Les dépenses en intelligence artificielle explosent, mais les entreprises peinent à suivre. Gartner prévoit une croissance de 47 % des investissements mondiaux en IA cette année, avec un bond spectaculaire de 141 % pour les logiciels d’agents autonomes. D’ici 2028, une entreprise du Fortune 500 devrait gérer plus de 150 000 agents, contre moins de 15 en 2025. Pourtant, malgré cette croissance fulgurante, les responsables IT se retrouvent souvent dans le noir total lorsqu’il s’agit de comprendre où part leur budget IA.

Un problème radicalement différent du cloud

La gestion des coûts dans le cloud reposait sur des principes simples : taguer les ressources, identifier leurs propriétaires et optimiser en conséquence. Une machine virtuelle avait un propriétaire, un bucket appartenait à une équipe. Mais l’IA a fait voler en éclats ce modèle. Un appel de token n’est pas une ressource comme les autres, et les hyperscalers exécutent les grands modèles sur des infrastructures multi-locataires partagées, ce qui réduit le coût par token mais élimine toute granularité utile pour suivre les dépenses.

Le problème s’aggrave avec l’autonomie des agents. Une seule clé API peut porter une douzaine de workflows traversant trois équipes différentes, et le consommateur est souvent un agent autonome plutôt qu’une personne. Les échecs prennent des formes nouvelles : un agent peut tourner en boucle sur une requête sans réponse, consommant des milliers de tokens en quelques heures. Uber a ainsi épuisé son budget IA 2026 en seulement quatre mois, un cas parmi tant d’autres.

L’illusion de la maîtrise des coûts

Les entreprises les plus matures en FinOps sont paradoxalement celles qui dépassent le plus leur budget IA. Selon une étude récente de DoiT, 89 % des organisations les plus avancées en gestion financière ont dépassé leurs prévisions l’année dernière, et avec la marge la plus large de l’étude. Le problème ? Leurs excellents systèmes de gouvernance, conçus pour des ressources humaines et taguables, sont inefficaces face à des workloads autonomes.

L’instrumentation : une solution coûteuse

La meilleure réponse à ce jour a été d’instrumenter les applications elles-mêmes : envelopper chaque appel LLM dans un span OpenTelemetry, injecter des métadonnées d’allocation de coûts. Cette solution fonctionne, mais elle est fragile et arrive souvent trop tard. Un client a récemment découvert qu’un de ses agents, en boucle infinie 24/7, consommait 20 fois plus de tokens que les autres. Le signal était là, mais il a fallu des semaines pour le détecter.

Conclusion : vers une nouvelle approche

L’IA est censée libérer du temps aux ingénieurs, mais l’instrumentation le consomme à nouveau pour contrôler les coûts. Il est temps de repenser la visibilité des coûts à l’échelle infrastructurelle, avec des solutions conçues spécifiquement pour les défis uniques de l’IA.