Ce détail caché trahira les textes générés par l’IA : l’astuce pour s’en débarrasser existe déjà
Les utilisateurs de textes générés par l’intelligence artificielle (IA) doivent se préparer à une nouvelle réalité. Bientôt, les textes produits par Claude, le chatbot d’Anthropic, porteront un filigrane invisible. Ce marqueur permettra aux logiciels de déterminer si un texte a été généré ou modifié par cette IA. Bien que cette technologie ne soit pas encore en place, Anthropic a déjà reconnu qu’il est relativement simple de contourner ce filigrane.
Dans un récent article, l’entreprise a fourni des détails sur ce mécanisme d’identification. Selon leur FAQ, il est possible de réécrire intégralement un texte généré par l’IA pour éliminer le filigrane. Toutefois, de simples modifications ne suffiront pas. Anthropic indique que “une simple modification ne suffira probablement pas à supprimer complètement le filigrane ; une réécriture intégrale, avec remplacement de chaque mot, y parviendra”.
Comment ce marqueur est-il créé ?
Pour générer ce filigrane, les modèles Claude choisissent des mots spécifiques en lieu et place d’autres, sans que cela n’affecte la qualité ou la pertinence du texte. Ces choix créent un schéma qui peut être détecté par un algorithme. Il ne s’agit pas de caractères cachés, et il est difficile pour un humain de repérer ce schéma.
Anthropic précise également que si l’IA est utilisée pour corriger ou éditer un texte humain, le filigrane ne s’appliquera qu’aux mots ajoutés par Claude. Par conséquent, l’intervention de l’IA pourrait ne pas être détectable dans ce cas. “Selon la longueur du texte et l’ampleur des modifications apportées par Claude, ces changements pourraient ne pas suffire à rendre perceptible l’intervention de Claude”, explique l’entreprise.
Une me qui va se généraliser
La me annoncée par Anthropic vise à se conformer aux règles de transparence de l’Union européenne et pourrait être adoptée par d’autres entreprises. Anthropic travaille déjà à intégrer le filigrane invisible dans ses modèles d’IA plus anciens. De plus, la technologie SynthID-Text, développée par Google, pourrait être adoptée par d’autres laboratoires d’IA, renforçant ainsi l’importance de cette me dans l’industrie.
Cette initiative soulève des questions sur l’utilisation éthique des textes générés par l’IA et sur la nécessité d’une transparence accrue dans le domaine.
Source : Presse-citron
