Anthropic a récemment mis en place un système d’étiquetage pour identifier les contenus générés ou modifiés par ses modèles d’intelligence artificielle. Cette initiative vise à respecter l’article 50 de l’AI Act, qui exige des fournisseurs de systèmes d’IA qu’ils instaurent un mécanisme d’étiquetage. Cependant, peu après cette annonce, plusieurs services prétendant pouvoir contourner ce système ont émergé sur Internet.
Multiplication des services de contournement
Depuis l’annonce d’Anthropic, des projets tels que watermarks-remover, claude-watermark-cleaner et remove-ai-watermarks se sont multipliés sur des plateformes comme GitHub. Ces services promettent de supprimer les filigranes et les métadonnées associés aux contenus générés par les modèles d’Anthropic. Toutefois, leur efficacité est mise en doute.
Fiabilité des outils de contournement
Pasquale Pillitteri, chercheur en cybersécurité, a testé plusieurs de ces outils et a observé que certains laissaient encore des informations cachées dans le texte. En outre, le filigrane est intégré dans les choix lexicaux du modèle, et non sous forme de caractères invisibles, ce qui complique davantage son effacement.
De manière générale, il convient de faire preuve de prudence vis-à-vis de ces services, souvent nouveaux et promettant des résultats infaillibles. Anthropic reconnaît d’ailleurs que son système d’étiquetage présente « ses limites ». Il reste à déterminer comment ce système fonctionne réellement et dans quelle me il peut être contourné. Pour Guillaume Meyer, fondateur de Memo et développeur de l’outil Watermarks Remover, cette initiative d’Anthropic est simplement une « pure obligation de conformité pour rester sur le marché de l’UE ».
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Bleeping Computer
