OpenAI appelle à des règles contraignantes pour encadrer les systèmes d’IA les plus puissants. Alors que l’évolution technologique s’accélère, l’entreprise estime que les mesures volontaires ne suffisent plus. Cette prise de position pourrait avoir des répercussions significatives sur la gouvernance des technologies en entreprise.

Un cadre fédéral pour les modèles frontaliers

OpenAI propose l’instauration d’un cadre réglementaire fédéral imposant des tests communs et des évaluations indépendantes pour les modèles d’IA avancés. L’entreprise suggère de concentrer ces exigences sur un petit nombre de sociétés bien financées développant des modèles de pointe, tout en excluant les startups et chercheurs dont les systèmes sont moins performants. Ce cadre inclurait également des règles claires pour signaler les incidents graves liés à l’IA et renforcerait la cybersécurité autour du développement des modèles frontaliers.

OpenAI souligne que l’IA commence à accélérer certaines recherches nécessaires pour créer des systèmes plus capables. Bien qu’une amélioration autonome récursive complète n’existe pas encore, les agents d’IA peuvent déjà accomplir des tâches de recherche qui prendraient plusieurs jours à des chercheurs qualifiés. Les gouvernements devraient donc établir des méthodes pour mesurer ces progrès et déterminer quand ralentir ou arrêter le développement si les garanties de sécurité ne peuvent être maintenues.

Par ailleurs, OpenAI soutient quatre projets de loi sur la sécurité de l’IA en Californie. Deux d’entre eux, SB 813 et AB 1405, ont été signés par le gouverneur Gavin Newsom, établissant des cadres pour les évaluations indépendantes de l’IA et des normes pour les auditeurs d’IA.

Des implications concrètes pour les CIO

Selon Pareekh Jain, CEO de Pareekh Consulting, la charge réglementaire immédiate pèserait principalement sur les développeurs d’IA frontaliers plutôt que sur leurs clients entreprises. Cependant, les CIO pourraient ressentir des effets en cascade dans la gouvernance des modèles qu’ils déploient.

Lian Jye Su, chef analyste chez Omdia, compare ce cadre réglementaire potentiel aux normes techniques de l’industrie des télécommunications. Des exigences communes permettraient aux entreprises de travailler à partir d’un cadre largement partagé, facilitant ainsi la gouvernance de l’IA en entreprise. Les évaluations de sécurité indépendantes et les normes pour les auditeurs d’IA pourraient donner aux CIO une plus grande confiance dans l’évaluation des fournisseurs selon des critères cohérents.

Les entreprises devraient toutefois continuer à gérer leur propre infrastructure d’IA. Une standardisation accrue pourrait rendre plus facile l’application de pratiques communes à travers les fournisseurs et les unités commerciales. Les systèmes à plus haut risque exigeraient probablement des contrôles plus stricts à mesure qu’ils gagnent en autonomie.

Renforcement de la gouvernance et de la sécurité de l’IA

Charlie Dai, analyste principal chez Forrester, souligne que les entreprises devraient s’attendre à une plus grande insistance sur la documentation de la classification, des tests et de la surveillance des systèmes d’IA, en particulier pour les usages à plus haut risque. Les CIO devraient renforcer la gestion des actifs d’IA et l’observabilité, tout en introduisant des tests de validation et du red teaming pour les systèmes à fort impact commercial ou réglementaire.

Lian Jye Su recommande de traiter la sécurité de l’IA comme un programme dédié plutôt que de simplement l’ajouter à la gouvernance technologique existante. Cela inclut le maintien d’un inventaire à jour des modèles et un registre des agents d’IA, classés selon leur risque et leur impact commercial. Des comités de gouvernance transversaux et des exigences claires de supervision humaine pour les systèmes impliqués dans des décisions critiques seraient également nécessaires.

Impact sur le paysage des fournisseurs d’IA

OpenAI insiste sur la nécessité de créer un cadre fédéral qui aborde les risques frontaliers sans affaiblir la concurrence ni renforcer les positions des acteurs établis. Les CIO devraient s’attendre à une surveillance accrue des fournisseurs, avec des contrats incluant des droits d’audit, des dispositions de notification en cas d’incident et une portabilité suffisante pour faciliter le changement de fournisseur.

En conclusion, alors que l’IA s’intègre de plus en plus profondément dans les opérations commerciales, les CIO devront adapter leurs stratégies pour répondre aux nouvelles exigences réglementaires et de sécurité. La mise en place de processus dédiés et la documentation rigoureuse des pratiques de gouvernance deviendront essentielles pour garantir une utilisation sûre et efficace de l’IA en entreprise.