Gouverner des agents IA : une compétence managériale qui dépasse la DSI
L’AI Act européen, qui entrera dans sa phase la plus contraignante le 2 août 2026, impose une supervision humaine documentée et une traçabilité des décisions pour les systèmes à haut risque. Parallèlement, une étude de Gartner prévoit que les grandes entreprises américaines déploieront chacune plus de 150 000 agents IA d’ici 2028, contre environ quinze en moyenne l’an dernier. Cette évolution transforme une problématique technique en une question de gouvernance, soulevant des interrogations sur qui décide des autorisations des agents et qui est responsable de leurs erreurs.
Un agent IA a la capacité de planifier, décider et agir, soit de manière autonome, soit en interaction avec d’autres agents. Cette autonomie croissante engendre des effets imprévus, entraînant l’abandon de nombreux projets pilotes en raison d’une valeur non démontrée ou d’un manque de maîtrise. Par exemple, des agents optimisant des enchères publicitaires peuvent saturer les mêmes canaux, augmentant ainsi les coûts. Dans les ressources humaines, des agents de recommandation peuvent créer des biais collectifs, écartant certains profils sans qu’aucune erreur isolée ne soit identifiable. La validation d’un agent avant son déploiement n’as pas son comportement en production, où des dérives et des inefficacités peuvent se manifester.
Certaines entreprises ont vu leur budget alloué à l’IA générative épuisé en quelques mois, conduisant à l’établissement de plafonds de dépense par utilisateur. Cette situation met en lumière la nécessité d’une gouvernance des agents qui dépasse le cadre technique, engendrant des enjeux financiers et juridiques. Par exemple, un agent qui automatise des calculs de tarification d’assurance ou qui trie des candidatures engage la responsabilité juridique et la réputation de l’organisation, impliquant des décisions de direction générale et de ressources humaines.
Il est crucial que les établissements d’enseignement supérieur intègrent la formation à la gouvernance des systèmes IA dans leurs programmes. Former des futurs managers et ingénieurs à l’utilisation des outils d’IA générative est désormais courant, mais les préparer à gouverner des systèmes autonomes l’est beaucoup moins. Cela implique d’enseigner des compétences telles que la délégation raisonnée et la gestion des indicateurs de dérive.
La gouvernance des agents IA ne doit pas être considérée comme une simple tâche technique réservée aux DSI. C’est une compétence managériale essentielle, touchant à la stratégie, à la conformité et à la réputation de l’organisation. Les entreprises qui réussiront ne seront pas celles qui auront déployé le plus d’agents, mais celles qui sauront judicieusement décider jusqu’où déléguer la prise de décision. Cette exigence dépasse le cadre de l’entreprise et questionne notre capacité collective à maîtriser les systèmes que nous développons. Gouverner l’autonomie sera une compétence déterminante dans la prochaine décennie.
Source : Gartner, AI Act européen
