Anthropic introduit un filigrane invisible pour identifier les textes générés par Claude
Depuis le 2 août 2023, l’AI Act impose aux fournisseurs d’intelligence artificielle de rendre leurs contenus identifiables, avec des amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial. En réponse, Anthropic a mis en place un système de filigrane invisible dans chaque texte généré par son modèle Claude, suscitant des réactions variées parmi les utilisateurs.
Dans un billet publié le 14 août, l’entreprise a détaillé sa méthode inspirée de SynthID-Text, développée par Google DeepMind. Ce filigrane remplace le choix aléatoire des mots par une séquence dérivée d’une clé secrète, permettant ainsi de vérifier l’origine des textes sans compromettre leur qualité.
Les traductions générées par Claude seront systématiquement marquées, tandis que les relectures légères de textes existants ne laisseront pas de traces significatives. La détection est collective, signalant simplement l’utilisation d’un modèle Claude sans identifier les utilisateurs. Anthropic reconnaît également qu’il n’existe pas de moyen fiable pour restreindre cette fonctionnalité à l’Europe.
La fiabilité de ces systèmes de détection soulève des interrogations, surtout après l’échec du détecteur d’OpenAI, qui n’identifiait correctement que 26 % des textes générés par IA et accusait à tort des humains dans 9 % des cas. En revanche, le filigrane de Claude est apposé à la source, vérifiable par une clé que seule Anthropic détient.
Une API de détection est prévue pour un lancement prochain, permettant ainsi aux utilisateurs de tester cette nouvelle fonctionnalité. En attendant, les textes générés par Claude reviendront signés à l’insu de leurs auteurs, laissant ouverte la question de l’efficacité de cette méthode sur le long terme.
Source : Anthropic
