Les CIO qui déploient des agents IA sans contrôle risquent de graves conséquences. Selon les experts, l’absence d’observabilité dans les processus décisionnels des IA constitue une bombe à retardement. T.J. Marlin, CEO de Guardrail Technologies, souligne que nombreuses entreprises croient à tort que ces outils peuvent fonctionner en autonomie totale. « Ce n’est pas du type “on met et on oublie”, prévient-il. Les organisations qui adoptent cette approche pourraient bientôt faire la une des journaux pour les mauvaises raisons. »**
L’urgence d’une gouvernance adaptée
Le déploiement précipité des agents IA, souvent par peur de rater le train technologique, pose problème. Certains dirigeants les comparent à l’automatisation robotisée des processus (RPA), alors que leurs résultats sont bien moins prévisibles. « Il y a une pénurie de compétences et de connaissances, ce qui pousse les entreprises à développer des solutions sans vérifier leur bon fonctionnement », observe Marlin. Ces pratiques rappellent les pires catastrophes technologiques de ces dernières décennies.
Une étude récente de TrueFoundry révèle l’ampleur du problème : 54 % des entreprises interrogées ne peuvent pas retracer les actions de leurs agents, et 56 % n’ont aucun système centralisé pour les contrôler. Mahesh Kumar Goyal, expert data et IA chez Google, confirme cette tendance : « La plupart des entreprises n’ont même pas d’inventaire de leurs agents en production. On ne peut gouverner ce que l’on ne voit pas. » De plus, les outils de sécurité traditionnels (SIEM, EDR) ne détectent pas les anomalies liées aux agents IA.
Vers une autonomie encadrée
Pour Goyal, les organisations doivent adopter des principes comme le moindre privilège et l’auditabilité. « Le système financier repose sur la traçabilité, pas seulement sur la confiance », explique-t-il. Adel El Hallak, vice-président de l’IA chez Nvidia, ajoute que les agents remettent en cause les modèles traditionnels de validation logicielle. « La source de vérité réside dans les traces d’exécution, pas dans le code », précise-t-il. L’observabilité est donc cruciale pour garantir la transparence, mais elle doit aussi permettre des actions concrètes.
Les défis persistants
Nirmal Ganesh, directeur produit chez Box, alerte sur les goulots d’étranglement liés à une mauvaise gouvernance. « Nous ne sommes pas encore sortis des difficultés majeures pour le déploiement en entreprise », affirme-t-il. Si les outils existent (comme ceux développés par Nvidia), leur mise en œuvre reste complexe.
En conclusion, la gouvernance des agents IA n’est pas une option, mais une nécessité stratégique. Les entreprises doivent investir dans des cadres robustes pour éviter les risques et tirer pleinement parti de cette technologie révolutionnaire.