La fronde contre le marquage des textes de Claude s’organise : ces outils traquent déjà les failles du filigrane
Début août, Anthropic a annoncé que les textes générés par son modèle Claude porteraient bientôt une marque invisible, destinée à identifier les contenus écrits par intelligence artificielle. Cette décision, prise pour se conformer à l’AI Act européen, a suscité des réactions mitigées et a donné naissance à une série d’outils visant à contourner cette me.
Le 11 août 2026, Anthropic a précisé que les textes produits par Claude à partir du 2 août seraient dotés d’un « watermark » invisible, applicable à tout type de support, qu’il s’agisse de courriels ou de documents Word. Toutefois, les détails concernant le mécanisme de cette marque n’ont pas été fournis initialement, ce qui a alimenté les interrogations des utilisateurs. Le 14 août, l’entreprise a publié des éclaircissements sur son site officiel, mais ces précisions n’ont fait qu’accroître la frustration d’une partie de sa clientèle.
Anthropic a expliqué que le système repose sur une légère modification du processus aléatoire par lequel les modèles de langage choisissent les mots. Ainsi, chaque mot a une probabilité d’apparaître, et cette séquence de choix, une fois analysée avec une clé cryptographique, peut révéler une signature statistique. Cette technologie s’inspire de SynthID-Text, un tatouage numérique présenté par Google DeepMind en 2024.
Malgré l’existence de cette technologie, de nombreux utilisateurs expriment des réserves. Ils soulignent que la marque ne permet pas de distinguer un texte simplement corrigé d’un texte entièrement généré par IA. De plus, des textes fortement réécrits ou trop courts pourraient échapper à la détection.
Face à cette défiance, des outils de contournement ont rapidement vu le jour. Un dépôt GitHub intitulé watermarks-remover a déjà accumulé 12,4k étoiles. Cet outil vise à neutraliser les marques attribuées à l’IA en combinant plusieurs méthodes, telles que la suppression de caractères invisibles et le retrait de métadonnées.
Parallèlement, une autre initiative teste la robustesse de la technologie de marquage, cartographiant ses limites. Des études montrent que les modifications les plus simples, comme remplacer des tirets, échouent souvent à passer inaperçues. En revanche, l’ajout de caractères invisibles dans un texte semble être une méthode efficace pour déjouer le détecteur.
Cette situation illustre les tensions croissantes autour de l’utilisation de l’intelligence artificielle et de la nécessité de trouver un équilibre entre innovation technologique et protection des droits des utilisateurs.
Source : Numerama
