Votre modèle de gouvernance de l’IA est déjà obsolète : voici comment le faire évoluer
L’essor de l’intelligence artificielle (IA) en entreprise engendre des risques invisibles, tels que l’utilisation d’outils non supervisés, la création de silos et l’accumulation de dette technique. Pour maintenir le contrôle sans freiner l’innovation, la gouvernance doit évoluer.
Les responsables informatiques et de la sécurité sont bien conscients des risques liés aux intégrations non autorisées, aux outils mal configurés et à la conformité des fournisseurs. Cependant, l’IA introduit un problème distinct et plus difficile à détecter. Dans de nombreux cas, les employés utilisent des outils d’IA pour générer du code, créer des workflows automatisés et déployer des agents, sans visibilité sur les développements des autres équipes, ce qui accroît les risques structurels.
Les modèles de gouvernance qui ont soutenu les grandes entreprises il y a seulement six mois ne sont plus adaptés au contexte actuel. L’accent a été mis sur les risques à maîtriser, sans repenser le modèle opérationnel qui devrait sous-tendre cette gouvernance.
Comment les risques invisibles s’accumulent
Un goulot d’étranglement se produit souvent dans les grandes entreprises. Lorsqu’une équipe a besoin d’un soutien en matière d’IA, le processus officiel peut être lent ou peu clair, ce qui pousse les équipes à développer leurs propres outils. Bien que ce réflexe soit compréhensible, la structure qui en découle peut être problématique.
Les coûts liés à cette inefficacité peuvent rapidement s’accumuler, avec des efforts dupliqués d’un département à l’autre, sans visibilité sur le travail des autres. Les outils cloisonnés émergent, sans normes communes, et les pratiques en matière de sécurité divergent. Les employés se détournent de leurs tâches principales pour maintenir des outils d’IA développés indépendamment par d’autres équipes.
Un outil mal configuré peut être un risque maîtrisé, tandis qu’un workflow de production mis en place sans supervision reste invisible. Cette catégorie d’efforts invisibles continue de croître, rendant la situation de plus en plus difficile à ignorer. Selon Gartner, d’ici 2028, les entreprises du Fortune 500 utiliseront en moyenne plus de 150 000 agents.
Construire un modèle opérationnel pour faire évoluer la gouvernance de l’IA
Pour favoriser l’expérimentation en matière d’IA tout en maintenant une gouvernance efficace, plusieurs approches peuvent être adoptées :
Équipe centralisée : Créer une équipe dédiée aux politiques et normes de l’IA, qui servira d’interlocuteur unique pour gérer les risques identifiés par les services de sécurité, juridique et de conformité.
Responsables de la transformation IA : Intégrer des référents au sein de chaque service, qui travailleront au quotidien tout en rendant compte à une équipe de gouvernance centralisée. Cela permet de relier les tâches aux développements existants.
Évaluation de la gouvernance : Mer la valeur cumulative générée par les cas d’utilisation de l’IA au sein de l’organisation, ce qui peut indiquer une maturation de l’expérimentation tout en restant sous contrôle.
Le coût de l’inaction va s’aggraver
À me que les coûts liés à l’IA absorbent les budgets informatiques, les conséquences d’un modèle opérationnel inadéquat ne deviennent visibles qu’au moment où leur correction devient coûteuse. Les outils non supervisés, initialement considérés comme des contournements, peuvent devenir essentiels, tandis que les équipes accumulent une dette technique en développant des solutions difficiles à standardiser.
Les organisations qui voient la gouvernance de l’IA comme un simple contrôle passent à côté de l’essentiel. Les risques majeurs résident dans les tâches qui n’atterrissent jamais dans la file d’attente. La gouvernance doit évoluer pour suivre le rythme rapide des avancées en IA.
Source : Gartner
