IA générative : des travaux français s’attaquent à l’explicabilité
Un nouveau projet de recherche, baptisé CSIA (pour « Confiance dans les Systèmes d’IA »), a été lancé par IRT System X, visant à renforcer l’explicabilité et l’auditabilité des systèmes d’intelligence artificielle (IA) dans des secteurs critiques. Ce projet, qui s’étendra sur 48 mois, regroupe un consortium de six industriels, dont Naval Group, Octopize, Safenai, Safran, Sopra Steria et Thales, ainsi que trois partenaires académiques : l’ONERA, l’Université Paris-Saclay et IRT SystemX.
Le projet se concentrera sur l’IA générative et l’IA hybride, cette dernière combinant des modèles d’apprentissage automatique, souvent opaques, avec des systèmes plus transparents tels que des modèles mathématiques et des moteurs de règles. Les partenaires de CSIA travailleront à développer des méthodes et des outils open source pour améliorer ces technologies.
Les travaux porteront sur plusieurs aspects, notamment la définition du domaine d’emploi des systèmes, la formulation technique de l’usage prévu (Intended Purpose selon l’AI Act), ainsi que des outils de robustesse, de gestion de l’incertitude et de monitoring. Le projet testera ses outils sur une dizaine de cas d’usage industriels, incluant un chatbot alimenté par un modèle de langage pour interroger des historiques de données de vols d’avions, une aide à la gestion du trafic aérien en temps réel, et un système générant des trajectoires maritimes via le Deep Reinforcement Learning.
Le projet CSIA se développe dans un contexte réglementaire en pleine évolution, avec l’AI Act qui imposera des exigences strictes sur les systèmes « à haut risque » d’ici août 2027. Sana Tmar, cheffe du projet, souligne que cette réglementation représente une opportunité pour développer des technologies fiables et compétitives, plutôt qu’un frein.
Les résultats de ce projet seront également intégrés dans la trousse à outils de la Trustworthy AI Association, qui vise à unifier les efforts en matière d’IA de confiance en Europe. Cette initiative succède au programme de recherche Confiance.AI, qui regroupait déjà des acteurs académiques et industriels autour des enjeux de l’IA responsable.
Source : IRT System X.
