Anthropic va marquer tous les textes générés par Claude, mais l'idée a « ses limites »

Anthropic introduit un système d’étiquetage pour les contenus générés par Claude

Anthropic, dans le cadre de sa conformité aux nouvelles réglementations de l’Union européenne, a annoncé la mise en place d’un système d’étiquetage pour les contenus générés par son intelligence artificielle, Claude. Ce système repose sur des filigranes intégrés dans le texte et des métadonnées de provenance signées, bien que l’entreprise reconnaisse que cette approche présente « ses limites ».

Depuis le 2 août 2026, l’article 50 de l’AI Act est en vigueur, imposant aux fournisseurs de modèles d’IA générative de développer un système d’étiquetage pour les contenus créés ou modifiés par leurs technologies. L’Europe prévoit des sanctions, notamment des amendes, pour ceux qui ne respectent pas ces nouvelles règles. En réponse, Anthropic a élaboré un système d’étiquetage qui s’appliquera à tous les résultats générés par ses modèles, y compris Claude Platform (API), Claude, Claude Code, Claude Cowork et Claude Tag, ainsi que les services proposés via des partenaires cloud tels qu’AWS, Google Cloud et Microsoft Foundry.

Le système d’étiquetage se décline en deux formats : des filigranes imperceptibles intégrés au texte et des métadonnées de provenance signées numériquement. Anthropic précise que ces filigranes ne modifient ni le sens, ni la qualité du texte généré. De plus, ils seront conservés lors de toute opération de copier-coller et pourront persister même après des modifications.

Cependant, Anthropic souligne que la présence d’un marquage Claude n’est pas une preuve irréfutable que le contenu a été généré par ses IA, et l’absence de marquage ne signifie pas nécessairement qu’un texte n’a pas été produit par une intelligence artificielle. Des interrogations subsistent sur les méthodes de détection de ces marquages et la difficulté de suppression des filigranes, ce qui pourrait susciter des réticences parmi certains clients qui préfèrent masquer la provenance de leurs contenus.

Source : Anthropic

Source
Leave a Comment

Comments

No comments yet. Why don’t you start the discussion?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *