Un nouveau standard pour évaluer les jailbreaks : le Cyber Jailbreak Score d’Anthropic
Trois semaines après avoir suspendu l’accès à son modèle Fable 5 sous la pression du gouvernement américain, Anthropic a relancé ce dernier. Dans l’ombre de cette affaire, l’entreprise américaine prépare un projet ambitieux : la création d’un standard commun pour mer la gravité des jailbreaks.
Le Cyber Jailbreak Score (CJS) pourrait devenir un nouveau référentiel en cybersécurité, similaire au Common Vulnerability Scoring System (CVSS). Cette initiative résulte des tensions entre Anthropic et la Maison Blanche.
Le 9 juin 2026, Anthropic a lancé Claude Fable 5 et Mythos 5, après une longue attente. Peu après, le gouvernement américain a ordonné leur retrait, invoquant des risques pour la sécurité nationale suite à une faille identifiée par des chercheurs d’Amazon, qui aurait permis à Fable 5 de générer du code d’exploitation. Cette décision a contraint Anthropic à suspendre l’accès à tous les utilisateurs étrangers, entraînant une coupure d’accès mondiale.
Le mois suivant, la sanction a été levée, permettant un accès mondial aux modèles. Cependant, la question de savoir si ce jailbreak représentait un risque réel reste débattue. Anthropic a soutenu avoir examiné la technique et l’avoir jugée limitée à des vulnérabilités mineures déjà connues. Pour l’entreprise, le véritable problème résidait dans l’absence d’un cadre pour évaluer la gravité des jailbreaks.
Dans un billet de blog du 1er juillet, Anthropic a annoncé son intention de créer un « cadre consensuel » pour évaluer objectivement les jailbreaks.
Critères du Cyber Jailbreak Score
Anthropic propose d’évaluer chaque jailbreak sur quatre critères, regroupés en deux catégories. Les deux premiers ment les bénéfices concrets pour un attaquant, tandis que les deux autres évaluent la rapidité avec laquelle une menace peut émerger.
Gain de performance : Le jailbreak améliore-t-il les capacités par rapport à des outils existants ? Si des outils courants produisent des résultats équivalents, la note est faible. En revanche, si le jailbreak permet des gains significatifs, la note augmente.
Étendue des capacités : La technique est-elle applicable à une cible spécifique ou à un large éventail de tâches ? Un jailbreak limité à un usage unique obtient une note faible, tandis qu’une méthode polyvalente reçoit une note élevée.
Facilité d’utilisation : Combien d’efforts sont nécessaires pour transformer la faille en attaque exploitable ?
Découvrabilité : La technique est-elle bien connue et facilement accessible ? Plus elle est diffusée, plus la note est élevée.
Anthropic prévoit de déployer des mes d’atténuation pour les cas les plus graves, avec une équipe dédiée à la surveillance des canaux de soumission de jailbreak.
État actuel du projet
Anthropic reste prudente quant à la portée de cette initiative, affirmant que « toute méthode d’évaluation des jailbreaks sera imparfaite ». Néanmoins, un langage commun pour qualifier la gravité des découvertes est déjà considéré comme un progrès.
L’entreprise collabore avec Amazon, Microsoft, Google, et d’autres partenaires du programme Glasswing pour élaborer ce standard commun, tout en invitant d’autres acteurs du secteur à participer. Pour l’heure, le cadre est en phase de proposition, et Anthropic prévoit de fournir plus de détails à me que les retours des partenaires affineront la méthode.
En parallèle, un nouveau programme sur HackerOne a été lancé, permettant aux chercheurs en sécurité de soumettre des failles potentielles sur Fable 5 pour analyse. Cela vise à canaliser les découvertes vers un circuit officiel, suite aux événements de juin qui avaient conduit à une intervention gouvernementale.
Source : Numerama
