Les entreprises déploient massivement des agents IA, mais une couche critique de leur infrastructure passe inaperçue : les harnesses. Ces systèmes d’orchestration, qui coordonnent modèles et outils, représentent un poste de coûts souvent sous-estimé. Une étude récente de Systima révèle que leur configuration peut générer jusqu’à 38 % d’économie en tokens, avec des répercussions directes sur les budgets IT.
Une économie invisible
Les harnesses agissent comme des intermédiaires entre les modèles d’IA et les workflows métiers. Leur configuration - prompts système, définitions d’outils ou protocoles de contexte - influence directement la consommation de tokens. Systima a comparé deux configurations (Claude Code et OpenCode) utilisant le même modèle Claude Sonnet 4.5 : les résultats montrent des écarts significatifs de tokens consommés dès la phase d’initialisation.
Cette découverte rejoint les travaux académiques récents. Une étude intitulée The Harness Effect démontre qu’en optimisant uniquement l’orchestration (sans changer les modèles), on peut réduire :
- La consommation de tokens de 38 %
- Le coût par tâche de 41 %
- Le temps d’exécution de 44 %
Pourquoi les entreprises ignorent ce levier ?
L’absence de visibilité constitue le premier obstacle. Comme l’explique Ashish Chaturvedi (HFS Research) : Les CIO n’ont aucun indicateur pour mesurer l’impact des configurations de harnesses. Les tokens s’évaporent sans laisser de trace. Cette opacité s’explique par :
- La fragmentation des responsabilités (équipes distinctes gèrent prompts, serveurs MCP et configurations)
- L’évaluation initiale centrée sur la qualité des modèles plutôt que leur coût opérationnel
- Le manque de maturité organisationnelle pour optimiser ces coûts
Advait Patel (Broadcom) souligne un paradoxe : En 2013, le cloud FinOps en était à ses débuts. Aujourd’hui, nous sommes au même stade pour l’optimisation des agents IA. La plupart des entreprises n’ont pas encore de processus dédié à l’analyse des coûts liés aux configurations d’agents.
Vers une meilleure maîtrise des coûts
Pour les CIO, plusieurs pistes s’ouvrent :
- Centraliser la gouvernance des configurations d’agents
- Étendre les POC pour inclure des scénarios de production réalistes
- Créer des équipes FinOps spécialisées dans l’optimisation des prompts et configurations
Comme le note Abhishek Satapathy (Avasant), les entreprises évaluent encore les agents IA comme des prototypes, sans mesurer leur impact à l’échelle. Cette approche doit évoluer pour intégrer systématiquement les coûts d’orchestration dans l’équation économique globale.
L’optimisation des harnesses représente un levier puissant pour réduire les coûts d’implémentation de l’IA. Alors que les budgets dédiés à cette technologie continuent de croître, une meilleure compréhension de ces mécanismes permettra aux entreprises d’atteindre l’équilibre entre performance et rentabilité.