[Clôturée] Intelligence artificielle : nouvelle consultation publique sur le développement des systèmes d’IA | CNILLa Commission nationale de l’informatique et des libertés (CNIL) a mis à jour son outil Genmod, permettant d’explorer la généalogie des modèles d’intelligence artificielle (IA) publiés en source ouverte. Cette nouvelle version, publiée le 26 août 2026, améliore les performances, l’ergonomie et l’automatisation de l’actualisation des données. (cnil.fr)
Les modèles d’IA en source ouverte, tels que Kimi K3, Mistral Medium ou LLaMa, peuvent être téléchargés, modifiés, spécialisés avec de nouvelles données ou combinés avec d’autres modèles avant d’être remis à disposition. Un même modèle peut ainsi donner naissance à de nombreux modèles dérivés. Le démonstrateur Genmod, développé par le service IA de la CNIL en collaboration avec le Laboratoire d’innovation numérique de la CNIL (LINC), permet d’explorer ces liens et de retracer les ascendants (modèles dont il provient) et les descendants (modèles auxquels il a contribué) d’un modèle donné. (cnil.fr)
Cette traçabilité est particulièrement utile pour étudier les conséquences de la mémorisation des données d’entraînement par les modèles d’IA. Elle permet d’identifier, à partir d’un modèle ayant mémorisé des données personnelles, d’autres modèles de sa généalogie susceptibles d’avoir conservé ces informations. Cela facilite l’étude de l’exercice des droits prévus par le Règlement général sur la protection des données (RGPD). (cnil.fr)
La mise à jour de Genmod apporte plusieurs améliorations notables :
Interface bilingue : L’application est désormais disponible en français et en anglais, accessible via un bouton en haut à droite de la fenêtre. (cnil.fr)
Recherche optimisée : Le moteur d’exploration du graphe a été amélioré, réduisant significativement le temps nécessaire pour des recherches étendues. Ainsi, une recherche sans limite de profondeur prend désormais environ vingt secondes en moyenne. (cnil.fr)
Suivi de la progression : L’interface affiche désormais la progression des recherches et, lorsque cela est possible, le temps restant jusqu’à leur achèvement. Plusieurs recherches peuvent être traitées simultanément. En période de forte demande, les utilisateurs peuvent voir leur position dans la file d’attente et le nombre de recherches en cours. (cnil.fr)
Actualisation régulière des données : Un nouveau processus permet de reconstruire la base de données sous-jacente du démonstrateur à partir des données publiques sur les modèles et ensembles de données disponibles sur Hugging Face. Cette automatisation hebdomadaire des mises à jour du graphe facilite le suivi de l’évolution rapide de l’écosystème des modèles en source ouverte. La date de mise à jour des données est désormais affichée au sein de l’application. (cnil.fr)
Navigation et affichage améliorés : Les modèles les plus téléchargés sont désormais prioritaires dans les suggestions de recherche, et les résultats détaillés sont triés par nombre de téléchargements par défaut. Un accès direct à la page d’accueil a également été ajouté aux différentes pages de l’application. Enfin, la mise en page a été revue pour asr un affichage cohérent sur les principaux navigateurs modernes (Firefox, Chrome, Edge et Safari) et sur différentes tailles d’écran. (cnil.fr)
Cette nouvelle version poursuit l’expérimentation menée par la CNIL sur la traçabilité des modèles d’IA en source ouverte, tout en rendant l’exploration de leurs généalogies plus rapide et plus facilement actualisable. (cnil.fr)
Pour découvrir l’outil, vous pouvez consulter le site officiel de la CNIL. (cnil.fr)
