Les coûts des agents IA pourraient bientôt dépasser les salaires des employés

Dans un épisode récent du podcast All In, les co-animateurs Jason Calacanis et Chamath Palihapitiya ont alerté sur la hausse fulgurante des coûts liés à l’utilisation des agents IA. Calacanis a partagé son expérience au sein de son organisation, où l’utilisation de l’API Cloud a entraîné des dépenses quotidiennes atteignant 300 dollars, soit environ 109 500 dollars par an. Pourtant, ces agents n’ont remplacé qu’une partie des tâches des employés.

Des budgets hors de contrôle ?

Palihapitiya, CEO de Social Capital, a révélé que son entreprise gère les coûts des tokens en attribuant des budgets aux développeurs. Cependant, sans limites strictes, ces dépenses peuvent rapidement s’emballer. Il souligne que pour justifier ces coûts, un employé doit désormais être deux fois plus productif que ses collègues.

Les réactions sur les réseaux sociaux ont été vives. Certains utilisateurs estiment que les revenus des entreprises d’IA sont excessifs, tandis que d’autres voient dans ces témoignages une preuve de la nécessité de contrôler rigoureusement les dépenses liées aux agents IA.

Des solutions pour maîtriser les coûts

Aisha Kella, CEO d’Addo AI, rappelle que le débat ne porte pas sur l’opposition à l’IA, mais sur la nécessité de gérer ces outils de manière économiquement viable. Plusieurs experts en IA estiment qu’avec des contrôles appropriés, les coûts peuvent être maintenus à un niveau raisonnable.

Vigandas Pliassas, CEO de Solidmatics, met en garde contre les risques de coûts exorbitants liés à l’utilisation d’agents IA pour le codage. Il souligne que sans supervision humaine, la qualité des résultats peut être compromise et des problèmes de sécurité peuvent survenir. Pliassas insiste sur le fait que l’IA doit être un outil au service des humains, et non une solution autonome.

Des alternatives économiques existent

Sharam Anber, CEO de Cleric, souligne que les coûts élevés sont souvent le résultat d’une utilisation trop large et non contrôlée des modèles généraux. Il recommande de définir clairement les tâches attribuées aux agents IA et de les limiter à des domaines spécifiques. Anber compare cette approche à l’embauche d’un consultant sans cadre de travail défini, ce qui peut entraîner des factures surprises.

Caterina Babenco, analyste chez Katico, explique que les coûts peuvent varier considérablement selon la manière dont les agents IA sont déployés. Elle recommande d’utiliser des modèles de fine-tuning combinés à des agents à portée limitée pour réduire les dépenses. Babenco insiste sur l’importance de comparer les coûts des agents IA avec ceux des solutions humaines pour évaluer leur rentabilité.

Des mesures concrètes pour les entreprises

Pliassas suggère de fixer des limites budgétaires strictes pour l’utilisation des agents IA. Les principales entreprises d’IA offrent des options pour limiter les dépenses par clé API ou par organisation. Les outils de gestion comme Cursor, GitHub Copilot et les abonnements Cloud permettent aux équipes IT de contrôler centralement les licences et les accès.

Cependant, Pliassas met en garde contre une approche trop rigide. Il souligne que la valeur créée par les agents IA doit être prise en compte. Un développeur capable de produire des résultats équivalents à ceux d’une équipe de 10 personnes justifie amplement les coûts engagés.

En conclusion, bien que les agents IA représentent un investissement coûteux, leur utilisation stratégique et contrôlée peut offrir des avantages significatifs pour les entreprises. Il est crucial de définir des budgets clairs, de surveiller les dépenses et d’évaluer régulièrement la valeur ajoutée de ces outils.