Claude intègre un marquage pour identifier les contenus générés par IA
Le règlement européen sur l’intelligence artificielle, en vigueur depuis le 2 août, impose que tout contenu généré ou modifié par une intelligence artificielle soit identifiable par une machine. Anthropic, la société derrière le modèle Claude, a décidé de se conformer à cette réglementation en intégrant un système de filigrane dans ses textes.
Ce marquage s’effectue de deux manières : d’une part, un filigrane statistique est intégré au niveau du modèle, modifiant subtilement la répartition des mots de manière indétectable lors d’une lecture normale. Ce filigrane reste présent même après un copier-coller ou une réécriture partielle. D’autre part, pour les fichiers compatibles, Anthropic ajoute des métadonnées de provenance signées numériquement, conformes à la norme ouverte C2PA, utilisée par plusieurs éditeurs pour tracer l’origine des contenus. Ces métadonnées peuvent être consultées dans les propriétés du fichier, semblables aux informations EXIF d’une image.
Actuellement, l’analyse pour détecter ces marques est réservée à Anthropic. L’entreprise prévoit de proposer une interface de programmation gratuite pour permettre aux utilisateurs et à des tiers, comme des rédactions ou des universités, de vérifier si un texte est marqué. Toutefois, Anthropic souligne que la présence d’une marque indique seulement que Claude a traité le texte, sans en être l’auteur. De plus, une absence de marquage ne garantit pas qu’un texte n’a pas été généré par Claude, car des modifications mineures peuvent effacer la marque.
Cette fonctionnalité est intégrée dans tous les modèles Claude lancés depuis le 2 août et s’applique à divers outils, y compris l’application Claude, l’API et Claude Code. Les versions antérieures de Claude devraient également recevoir cette mise à jour progressivement, conformément à la période de transition prévue par le règlement.
Cependant, cette traçabilité a conduit certains utilisateurs à envisager de quitter la plateforme. En effet, lorsqu’un utilisateur de Claude intègre du contenu dans un e-mail ou un rapport, des traces de l’utilisation de Claude persistent, même si le texte a été modifié.
Source : Clubic.
