Anthropic lance son détecteur de fichiers générés par Claude
Le 2 septembre, Anthropic a annoncé le lancement d’un outil public permettant de vérifier la présence d’une signature numérique sur les fichiers générés par son modèle d’intelligence artificielle, Claude. Cet outil s’inscrit dans le cadre d’une initiative visant à renforcer la transparence et la traçabilité des contenus générés par IA.
Un outil qui lit les métadonnées d’un fichier
Nommé Check if a file was made with Claude, cet outil fonctionne directement dans le navigateur et ne nécessite pas le transfert de fichiers vers les serveurs d’Anthropic. Il suffit de glisser un fichier dans l’interface pour obtenir un résultat simple : la présence ou l’absence d’un « content credential ». Ce dernier est intégré aux métadonnées au moment du téléchargement et est basé sur le standard ouvert C2PA, utilisé par les fabricants d’appareils photo.
Anthropic précise que cet outil ne fournit aucune information sur le contenu textuel. Le marquage des fichiers et celui des textes reposent sur des mécanismes distincts. Le premier est ajouté aux métadonnées, tandis que le second modifie les choix de mots lors de la génération. Le filigrane textuel, quant à lui, reste indétectable sans clé, et son interrogation est réservée à une API de détection accessible uniquement à certaines organisations.
Les formats pris en charge par l’outil incluent divers types d’images (JPG, PNG, GIF, WEBP, TIFF, HEIC, AVIF, SVG, DNG, JXL), de vidéos (MP4, MOV, AVI), et d’audio (WAV, MP3, M4A, FLAC), avec une taille maximale de fichier de 100 Mo.
Claude sait-il détecter les documents qu’il a lui-même générés ?
Des tests effectués par la rédaction ont révélé des résultats variés. Pour un document spécifique, deux membres de l’équipe ont soumis le même fichier, chacun depuis son ordinateur. Les résultats étaient contradictoires : l’un a reçu un message indiquant que le fichier avait été traité par Claude, tandis que l’autre n’a trouvé aucun signe de cette intervention.
Anthropic a anticipé ce type de divergence, expliquant que l’absence de détection ne signifie pas que le fichier n’a pas été généré par Claude. Les signaux du content credential peuvent disparaître si le fichier est modifié, compressé ou converti, ce qui souligne les défis liés à la création d’outils de détection fiables pour le contenu généré par IA.
Ce développement met en lumière la complexité de garantir une fiabilité constante dans les outils de détection de contenu généré par IA, un domaine en pleine évolution depuis 2023.
Source : Blog du Modérateur.
