L’iceberg organisationnel : les données invisibles qui nuisent à vos agents d’IA

Le raisonnement derrière chaque décision, jamais consigné, fait échouer les agents d’IA ; seules les entreprises qui capturent ce jugement organisationnel en tireront de la valeur.

Lors de la conception de plateformes de données pour de grandes organisations, les décisions sont souvent prises en fonction des informations visibles, tandis que les données invisibles, plus dangereuses que les données erronées, sont négligées. Ces données invisibles comprennent les exceptions, les approbations, le contexte, les connaissances institutionnelles non documentées, et les décisions humaines essentielles au bon fonctionnement de l’entreprise, mais rarement intégrées à un système.

Ce phénomène est significatif : selon une enquête de la Banque de France, les entreprises françaises identifient les enjeux liés aux données, au respect de la vie privée et à l’éthique comme des freins majeurs à l’adoption de l’IA.

Des audits menés dans divers secteurs, notamment au sein d’une grande entreprise de réseaux sociaux, ont révélé que la plupart des jeux de données de production étaient orphelins, sans propriétaire ou redondants. Les outils de catalogage traditionnels fournissaient des métadonnées obsolètes. Bien que des solutions aient été mises en place pour améliorer la traçabilité des actifs, le raisonnement sous-jacent aux données reste souvent introuvable dans le système.

Historiquement, l’absence de ce raisonnement était acceptable, les équipes reconstituant le raisonnement par l’expérience. Cependant, les agents d’IA mettent en lumière cette incohérence.

L’obstacle rencontré par les agents

Prenons l’exemple d’un agent d’IA chargé du renouvellement d’un contrat client, devant décider d’accorder une remise de 20 % alors que la politique limite les remises à 10 %. Bien qu’un agent puisse extraire des données pertinentes, il n’a pas accès au raisonnement des employés expérimentés qui connaissent les exceptions historiques et les changements non documentés.

Sans ce raisonnement, l’agent risque de prendre une mauvaise décision, ce qui entraîne des échecs à grande échelle.

Pourquoi les acteurs historiques ne peuvent-ils pas combler cet écart ?

La contrainte est d’ordre architectural. Les systèmes d’enregistrement opérationnels ne conservent que l’état actuel. Lorsqu’une exception est approuvée, le contexte disparaît. Les plateformes de données, quant à elles, reçoivent des données via des pipelines une fois les décisions prises, perdant ainsi la causalité.

Actuellement, les grands éditeurs de logiciels développent des capacités d’agents qui fonctionnent bien dans leurs propres systèmes, mais héritent des contraintes de ceux-ci. Un exemple est celui du Crédit Agricole CIB, où la consolidation des outils a permis de réduire les délais de livraison de 50 à 75 %.

La dimension manquante

Les systèmes de gestion des connaissances d’entreprise recensent généralement les entités et leur évolution, mais négligent souvent les événements décisionnels, c’est-à-dire les enregistrements des moments où le jugement organisationnel transforme le contexte en action. Ce raisonnement se perd dans des échanges informels et n’est pas consigné.

Dans un environnement piloté par des agents, cet écart devient critique. Les agents doivent comprendre non seulement ce que dit la politique, mais aussi comment elle a été historiquement mise en œuvre.

Comment agir

Les entreprises peuvent agir sans attendre qu’un éditeur résolve cette contrainte architecturale. Voici cinq pratiques pour construire cette couche manquante :

1. Auditer la surface d’exceptions : Identifier les décisions prises qui ne sont pas expliquées par les politiques existantes.
2. Orchestrer le chemin d’exécution : Enregistrer non seulement les événements, mais aussi les motifs à l’origine des décisions.
3. Évaluer les éditeurs : S’asr que les plateformes gèrent les décisions nécessitant un contexte provenant de plusieurs systèmes.
4. Commencer par les workflows fréquents : Cibler des processus comme les renouvellements clients pour établir un corpus de précédents.
5. Concevoir pour le rejeu : Créer un historique de décisions structuré, interrogeable et comparable.

Les entreprises qui tireront une valeur durable de leurs agents d’IA ne seront pas celles avec les modèles les plus sophistiqués, mais celles qui auront réussi à rendre leur jugement organisationnel interrogeable.

L’iceberg est bien réel, et les agents sont déjà à l’œuvre. Chaque décision prise sans en capturer le raisonnement représente une connaissance institutionnelle perdue.

Source : Banque de France