L’efficacité des agents virtuels dans l’exécution de tâches complexes vient de faire un bond en avant grâce à Teradata. Le spécialiste des solutions analytiques enrichit son espace de travail Tera, lancé en mai dernier dans le cadre de l’Autonomous Knowledge Platform, de trois innovations majeures : un moteur de contexte, une couche d’exécution et des compétences réutilisables pour les agents.

Cette mise à jour vise un objectif précis : réduire les appels inutiles aux modèles et outils tout en préservant le contexte métier. Concrètement, Tera Harness, la nouvelle couche d’exécution, planifie l’approche des tâches et optimise le routage des workflows. Quant au Tera Context Engine, il apporte la dimension métier nécessaire pour guider ces décisions.

Des gains de performance mesurés

Selon les évaluations internes de Teradata, ces améliorations permettent à Tera d’utiliser 73% de tokens en moins que Claude Code, tout en achevant les tâches 42% plus rapidement et avec 58% de coûts totaux inférieurs. Ces performances ont été obtenues en maintenant le même modèle Opus 5, ce qui démontre l’efficacité des nouvelles fonctionnalités.

L’innovation repose sur 84 patterns d’exécution appliqués avant l’inférence, le batching des tâches indépendantes et l’élimination des appels non productifs. Ces mécanismes réduisent considérablement les boucles de raisonnement inutiles des LLMs et les coûts associés.

Un enjeu économique crucial

Pour les CIOs, cette optimisation des coûts d’exécution agentique devient un enjeu stratégique. Comme le souligne Ashish Chaturvedi de HFS Research, ‘Tera Harness attaque un problème émergent : les agents qui consomment des tokens dans des boucles sans progrès’. Même une réduction modeste des appels par workflow prend une dimension significative à l’échelle d’une entreprise.

Stephanie Walter de HyperFrame Research ajoute que réduire les appels inutiles est souvent plus pratique que simplement choisir un modèle moins cher, car cela diminue le besoin global d’inférence.

Des bénéfices au-delà de la réduction des coûts

Advait Patel, senior site reliability engineer chez Broadcom, souligne que cette approche permet une meilleure prévisibilité des coûts. ‘Actuellement, les coûts agentiques sont difficiles à prévoir’, explique-t-il. ‘Un harness qui planifie d’abord rend les coûts plus cohérents, facilitant ainsi la budgétisation et le scaling’.

Cette planification systématique réduit également la charge de travail des équipes de développement, qui n’ont plus à implémenter et ajuster continuellement ces contrôles pour chaque workflow.

Les compromis à considérer

Cependant, cette approche optimisée n’est pas sans compromis. Comme le note Patel, ‘éliminer des appels à un LLM est une question de jugement’. Si le Harness supprime une étape jugée inutile qui s’avère en réalité importante, l’entreprise économise mais obtient un résultat moins bon.

Stephanie Walter ajoute que cela pourrait déplacer le travail des développeurs : de la direction des étapes individuelles vers la définition des résultats corrects et leur validation. Les équipes devront aussi maintenir les compétences, instructions et garde-fous des agents en production.

Robert Kramer de KramerERP met en garde contre une interprétation trop littérale des benchmarks : ‘Les résultats de Teradata ne doivent pas être considérés comme équivalents au coût total de possession en entreprise’. Il recommande d’évaluer le coût complet d’une tâche métier, incluant modèle, calcul de données, appels d’outils, retries, orchestration et revue humaine.

Cette innovation de Teradata s’inscrit dans une tendance plus large d’optimisation des coûts des solutions IA, un enjeu crucial pour l’adoption à grande échelle de ces technologies dans les entreprises.