Marquage des contenus générés par IA : vers plus de transparence ?
Comment reconnaître les contenus générés par l’intelligence artificielle (IA) alors que faire la différence à l’œil nu est parfois devenu presque impossible ? Depuis le 2 août, de nouvelles règles de transparence sont entrées en vigueur dans le cadre de la loi européenne sur l’IA. Pour lutter contre la désinformation, les outils générant des images, vidéos, sons ou textes grâce à l’IA doivent désormais intégrer un marquage spécial. Selon l’article 50, ce marquage doit constituer « un format lisible par machine » permettant d’identifier que le contenu a été généré ou manipulé par une IA.
Un marquage invisible incrusté dans le texte
Pour la génération de texte, le marquage n’est pas encore une pratique généralisée, mais Google DeepMind a développé une technologie open source librement accessible, SynthID-Text, utilisée depuis 2024 par Gemini. Une clé oriente le choix des mots faits par l’IA parmi les différentes possibilités, permettant ainsi de déterminer l’outil qui a généré le contenu. Google est en train de développer un outil, SynthID Detector, qui est encore en phase de test pour détecter ce filigrane invisible.
« Offrir aux utilisateurs de meilleurs outils »
Anthropic, qui a déjà annoncé que les nouveaux modèles de son IA Claude se conformeraient à la loi européenne, va suivre la même approche que Google. L’entreprise indique qu’elle va ajouter un marquage aux résultats générés par Claude pour aider à l’identification des textes générés par l’IA. Ce filigrane n’altère en rien le sens, la qualité ou la lisibilité des réponses de Claude. Anthropic prévoit également de mettre en place une API de détection de ce filigrane.
Du côté de ChatGPT, la société OpenAI indique qu’elle va développer un marquage du texte généré par son IA, comme demandé par l’UE, sans donner plus de détails pour l’instant.
Un tatouage indélébile ?
Cependant, ce filigrane invisible permettra-t-il de lutter contre les usages malveillants ? Chaque entreprise a sa clé secrète et doit développer son propre outil de détection. Dans certains cas, les techniques de marquage peuvent être détournées relativement facilement. Les tests indépendants menés sur le tatouage numérique ont montré que les filigranes appliqués au texte perdent leur signal dès que le contenu est fortement paraphrasé ou traduit.
Pour les contenus visuels, des filigranes visibles
Pour les contenus visuels, plusieurs types de marquage existent, comme un filigrane visible, souvent un logo apposé dans le coin d’une image ou d’une vidéo générée par IA. Il est aussi possible d’apposer un tatouage invisible, ce qui devient obligatoire avec l’entrée en vigueur de l’article 50 de la loi européenne sur l’IA. L’un des marquages répandus est l’incrustation de métadonnées spécifiques suivant la norme de la coalition Content Credentials (C2PA), un consortium de plusieurs géants du numérique.
Le site du consortium met à disposition un outil de vérification, qui est toujours en cours de déploiement. Cependant, ces filigranes d’images peuvent être effacés par des manipulations simples comme un changement de format ou une capture d’écran.
SynthID, une technique plus performante ?
Certaines entreprises choisissent d’ajouter plusieurs couches de marquage. Google utilise la technologie SynthID, conçue pour résister à des modifications telles que le recadrage ou l’ajout de filtres. OpenAI applique également cette technique pour les médias générés par ChatGPT et DALL·E. OpenAI propose un outil pour détecter ses contenus générés par l’IA, et les résultats montrent que le détecteur reconnaît le marquage SynthID même avec des modifications.
Un gage de transparence mais pas de fiabilité
En conclusion, bien que les marquages des contenus générés par IA apportent plus de transparence, ils ne garantissent pas l’origine d’un contenu. Les nouvelles règles de l’UE s’appliquent à toutes les entités dont les produits sont utilisés ou distribués au sein de l’UE. Les nouveaux outils devront respecter cette loi, tandis que ceux qui existent déjà ont jusqu’au 2 décembre 2026 pour s’y conformer. En cas de non-respect, les entreprises s’exposent à des amendes pouvant aller jusqu’à 15 millions d’euros ou 3 % de leur chiffre d’affaires annuel mondial.
Un code de bonnes pratiques sur la transparence des contenus générés par l’IA a été signé par près de 190 organisations, incluant la majorité des géants de l’IA.
Source : France 24
