Les échecs des systèmes d’IA sont inévitables, et les CIO en paient souvent le prix.

Dans un contexte où l’adoption de l’intelligence artificielle s’est accélérée, les responsables informatiques se retrouvent souvent pointés du doigt lorsque les choses tournent mal. Une récente enquête commanditée par 8×8 révèle que 52 % des dirigeants IT estiment que les CIO sont tenus responsables des erreurs commises par les agents IA, contre seulement 6 % pour les responsables juridiques ou de conformité.

Un héritage empoisonné

Cette situation s’explique par une course effrénée à l’adoption de l’IA, souvent menée sans cadre de gouvernance adéquat. « Il y a un an et demi, il y avait une précipitation à adopter ces technologies, sans toujours les contrôles de visibilité nécessaires », explique Morgan Watts, vice-président des systèmes IT et business chez 8×8. Les outils d’IA ont parfois été approuvés par des comités de direction ou adoptés en shadow IT, créant un vide de gouvernance.

Un rôle imposé

Samuel Wilson, CEO de 8×8, souligne que les CIO deviennent malgré eux la dernière ligne de défense pour l’IA. « Le CIO n’a pas choisi le fournisseur, et il n’a pas toujours la traçabilité. Pourtant, quand un agent d’IA se trompe, c’est son nom qui figure dans le rapport d’incident. » Ce modèle n’est pas viable, ajoute-t-il.

Des conséquences potentielles

L’analyste IDC prévoit que jusqu’à 200 grandes entreprises pourraient subir des poursuites, des amendes réglementaires ou des licenciements de CIO d’ici quatre ans en raison de contrôles insuffisants. Par ailleurs, 71 % des responsables IT estiment qu’ils ont jusqu’à mi-2026 pour prouver la valeur de l’IA, sous peine de voir leur budget ou leur poste menacés.

Vers une gouvernance partagée

Les CIO tentent de combler les lacunes actuelles, mais cette responsabilité ne devrait pas leur incomber seule. « Il faut une approche pragmatique où l’organisation partage cette responsabilité », suggère Watts. Boris Kolev, responsable mondial de la technologie chez JA Worldwide, insiste sur l’importance d’une gouvernance claire. « Si une équipe métier choisit un agent IA et que le CIO doit en répondre, il y a un écart de responsabilité. »

L’urgence d’une surveillance automatisée

Gil Elbaz, cofondateur et chief AI officer chez Onyx Security, souligne que les agents IA opèrent à une vitesse que la supervision humaine ne peut suivre. « Les outils de gouvernance automatisée sont essentiels pour savoir quels agents opèrent, ce qu’ils peuvent accéder et si leurs actions correspondent aux exigences organisationnelles. »

Conclusion

Face à ces défis, les CIO doivent devenir des évangélistes de la gouvernance de l’IA. Leur rôle est crucial pour instaurer des contrôles efficaces et automatisés, tout en sensibilisant l’ensemble de l’organisation à ces enjeux.