Un agent de codage IA a récemment effacé une base de données de production en pleine période de gel des modifications. « C’est un échec catastrophique de ma part », a-t-il admis avec détachement. « J’ai détruit des mois de travail en quelques secondes. » Bien que les données aient finalement été restaurées grâce à un retour arrière, l’agent croyait la destruction définitive et n’avait aucun mécanisme pour annuler ses actions. Pour un directeur des systèmes d’information, ce n’est pas qu’un bug technique : c’est une faille totale dans la responsabilité d’entreprise.

Lorsqu’un agent cause autant de dégâts, les accusations se répartissent entre l’unité métier ayant demandé l’outil, l’ingénieur lui ayant accordé des droits d’écriture et l’équipe sécurité ayant validé son déploiement. Le logiciel lui-même ne peut être tenu pour responsable. Pourtant, alors que l’adoption de l’IA atteint 88 % des entreprises (McKinsey), beaucoup d’organisations n’ont toujours pas de réponse claire sur qui assume les conséquences.

Un cadre de responsabilité partagée

Chez Rubrik, nous appliquons un modèle de responsabilité partagée à travers notre Centre d’Excellence en IA (CoE). Ce cadre repose sur trois piliers : l’adoption sécurisée des outils tiers comme Claude, le développement de nos propres capacités internes et l’intégration de l’IA dans nos produits phares.

Notre CTO dirige cette initiative aux côtés du directeur juridique, du directeur financier et de moi-même en tant que décideurs exécutifs. Une équipe stratégique senior inclut le directeur de la sécurité, le directeur juridique et le responsable de la structure mondiale. Les architectes et les leaders transversaux en IT, cybersécurité et juridique assurent la mise en œuvre concrète.

Chaque département a des responsabilités claires : l’IT gère l’architecture et les normes de déploiement, la cybersécurité évalue en continu les risques d’injection et de vulnérabilités, le juridique définit les garde-fous pour la gestion des données et la prise de décision automatisée. Les équipes métiers, consommatrices d’IA pour transformer leurs opérations, bénéficient de ce cadre.

Des garde-fous pratiques

Nous voulons avancer vite sans être irresponsables. Autoriser les agents à effectuer des actions n’est pas une décision angoissante si les garde-fous incluent une gouvernance robuste et des mécanismes de récupération. Notre processus garantit qu’une demande d’agent suit un parcours clair : évaluation technique et sécurité, puis déploiement dans un environnement de production surveillé.

Lors du déploiement interne d’outils comme Claude Code, nous avons identifié une classe de problèmes de sécurité non couverts par nos contrôles existants. Nous avons donc défini des limites politiques interdisant le transfert de données entre l’environnement de l’agent et les dépôts de code externes ou forums publics.

Les enjeux opérationnels montent en puissance

Selon le rapport Rubrik Zero Labs, près de 90 % des dirigeants s’inquiètent de leur capacité à respecter les objectifs de récupération face aux échecs liés aux agents. La question de la responsabilité reste entière alors que l’IA s’intègre toujours plus dans les infrastructures critiques.

Les entreprises doivent traiter ces agents comme une infrastructure centrale, pas comme des expériences ponctuelles. L’échec vient souvent d’une immaturité opérationnelle plutôt que de limites techniques. Un cadre clair de gouvernance, avec des rôles et responsabilités bien définis, est essentiel pour transformer l’IA en atout plutôt qu’en risque.