Entreprises : Comment choisir son IA experte et souveraine ?
L’intelligence artificielle (IA) est désormais un sujet incontournable au sein des comités de direction, mais le processus de sélection d’une IA reste souvent superficiel. De nombreuses entreprises continuent de choisir leur solution d’IA comme elles le feraient pour un logiciel de bureautique, en se basant principalement sur des critères de rapidité, de démonstration et de coût. Ce choix, bien que compréhensible, repose sur un malentendu qui pourrait avoir des conséquences significatives.
Les gains de productivité associés à l’IA sont indéniables, notamment avec les solutions d’IA générative qui offrent des services tels que la rédaction de brouillons ou la reformulation de documents. Cependant, face à des offres qui promettent toutes des économies de temps, il devient crucial de se concentrer sur des critères de gouvernance plus profonds : la preuve, la souveraineté, et la propriété de l’apprentissage de la machine.
Le premier critère, la preuve, implique que toute réponse générée par l’IA doit pouvoir être retracée jusqu’à sa source, avec un degré de confiance clairement défini. Un système fiable devrait également être capable d’admettre ses limites en déclarant « je ne sais pas » lorsque les informations disponibles ne suffisent pas. Dans un cadre de conformité, une affirmation invérifiable peut entraîner des coûts significatifs.
Le second critère, la souveraineté, ne se limite pas à la localisation des serveurs. Elle englobe la gestion des données, qui doivent rester dans un périmètre juridique défini, ainsi que les traitements et les modèles, qui doivent être maîtrisés par l’entreprise. Dans des secteurs sensibles comme la défense ou la santé, toute solution exposée à un droit extraterritorial est immédiatement disqualifiée.
Enfin, le critère de propriété soulève des questions stratégiques importantes : où sont stockées les informations apprises par l’IA et à qui profitent-elles ? L’utilisation de modèles mutualisés peut homogénéiser les réponses des entreprises concurrentes, créant ainsi une « monoculture algorithmique » qui nuit à l’innovation.
Une étude récente de la National Cybersecurity Alliance et de CybSafe a révélé que 38 % des employés avaient déjà partagé des informations confidentielles avec des outils d’IA sans l’autorisation de leur employeur. Cela souligne l’importance de la confidentialité dans le choix d’une solution d’IA, car une architecture qui ne garantit pas la sécurité des données peut engendrer des risques importants.
Face à ces enjeux, il devient essentiel pour les entreprises de poser des questions claires lors de l’évaluation des fournisseurs d’IA. Des interrogations telles que la destination des données, la protection de la propriété intellectuelle, et la gestion des risques doivent figurer à l’ordre du jour.
En conclusion, à l’ère de l’intelligence artificielle, l’avantage ne résidera pas simplement dans l’utilisation de l’outil le plus performant, mais dans la capacité à comprendre et à protéger les spécificités de l’entreprise.
Source : Olivier Guillo, fondateur d’Optivalue.ai
