Marquer les textes générés par IA : pourquoi l’idée d’Anthropic est un parapluie troué
Le 11 août, l’entreprise Anthropic a annoncé que les textes produits par ses modèles d’intelligence artificielle, connus sous le nom de Claude, porteront désormais une marque invisible. Cette initiative vise à identifier les contenus générés par l’IA, suscitant des réactions variées, allant des éloges aux critiques. Les opposants évoquent des préoccupations concernant la confidentialité et le risque d’être étiqueté comme tricheur, notamment dans le cadre éducatif.
Le mécanisme technique en question est moins complexe que les débats qu’il engendre. Les modèles d’IA génèrent du texte en sélectionnant des séquences de mots, un processus basé sur des « tokens », qui sont des unités de calcul et de facturation. À chaque étape de cette génération, plusieurs résultats sont possibles, et l’IA en choisit un au hasard. Le filigrane, quant à lui, modifie ce tirage au sort en favorisant discrètement une partie du vocabulaire, déterminée par une clé secrète.
Cette approche soulève des questions sur l’efficacité et l’éthique de la surveillance des contenus générés par IA. Les critiques soulignent que, malgré la bonne volonté d’Anthropic, le système pourrait ne pas être suffisamment robuste pour empêcher des abus ou des erreurs d’identification.
Source : L’Express.
