Un marqueur invisible pour identifier les textes générés par Claude
Bientôt, les textes produits par Claude, l’intelligence artificielle d’Anthropic, pourront être identifiés grâce à un marqueur invisible. Cette initiative fait suite à la signature par Anthropic du « Code de bonnes pratiques sur la transparence du contenu généré par l’IA » de l’Union européenne, visant à se conformer aux nouvelles régulations mises en place à Bruxelles.
Cette me de transparence s’appliquera d’abord à tous les modèles d’IA que Claude propose dans l’UE depuis le 2 août. Selon Anthropic, « le texte généré comportera des filigranes intégrés et les fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est possible. » L’entreprise précise également qu’elle travaille sur l’intégration de ce type de marqueur pour ses anciens modèles.
Ces marqueurs, bien que masqués, seront présents sur les textes générés dans le monde entier, pas seulement dans l’UE. Tous les produits utilisant cette fonctionnalité seront concernés, incluant Claude, Claude Code, Claude Cowork, Claude Tag, ainsi que les modèles utilisés par des applications tierces via l’API. Un logiciel pour détecter ce marqueur invisible est actuellement en développement.
Interprétation prudente requise
Anthropic souligne que cette technologie présente des limites. La présence d’un marqueur détecté indique que le contenu a été traité par Claude, mais cela ne constitue pas une preuve définitive. Par exemple, un texte peut contenir le marqueur si l’utilisateur a utilisé l’IA d’Anthropic pour des tâches comme la correction ou la traduction. De même, l’absence de marqueur ne garantit pas qu’un texte n’a pas été généré ou modifié par Claude.
Anthropic n’est pas le seul laboratoire d’IA à avoir signé le Code de bonnes pratiques de l’UE. D’autres signataires incluent Google et le groupe Meta.
Source : Presse-citron
