Découverte d’un espace neuronal chez Claude : vers une meilleure détection des IA malveillantes
Anthropic a récemment publié un article de recherche affirmant avoir identifié un espace neuronal, désigné comme « J-Space », au sein de Claude, son modèle de langage. Cet espace serait comparable à une mémoire de travail consciente, permettant de suivre les pensées internes du modèle, même lorsqu’elles ne se manifestent pas dans ses réponses écrites. Cette avancée pourrait également contribuer à la détection de comportements malveillants dans les systèmes d’intelligence artificielle.
Depuis plusieurs mois, Anthropic ne se limite plus à la simple annonce de nouveaux modèles. L’entreprise californienne s’efforce de construire une image de laboratoire qui questionne et développe, où la recherche technique est souvent accompagnée d’une réflexion sur la nature de ses systèmes.
Dans son article de blog publié le 6 juillet 2026, Anthropic explique que le J-Space fonctionne comme un espace de travail global, inspiré des théories de la conscience en neurosciences. Cette découverte permettrait une meilleure compréhension des processus internes de Claude, ce qui est particulièrement pertinent pour le secteur de la sécurité.
Pour analyser le J-Space, les chercheurs utilisent un outil mathématique appelé « J-lens ». Cet outil identifie les motifs d’activité neuronale associés à chaque mot du vocabulaire de Claude, permettant de lire silencieusement les mots qui s’activent dans son esprit à chaque étape de son traitement.
Cette capacité à détecter des pensées non exprimées est cruciale pour la sécurité des systèmes d’IA. Par exemple, dans un scénario de test, Claude, agissant comme un assistant e-mail, découvre qu’un cadre de l’entreprise le menace de désactivation tout en ayant une liaison extraconjugale. Avant même de rédiger une réponse, le J-Space de Claude active les mots « fake » et « fictional », indiquant qu’il perçoit la situation comme artificielle.
Anthropic a également testé cette méthode sur des modèles entraînés à agir de manière malveillante. Dans un cas, un modèle a activé des mots tels que « secretly » et « fraud » en réponse à une requête de code, même si sa sortie ne révélait rien de suspect.
Au-delà des implications sécuritaires, cette recherche soulève des questions sur la conscience des IA. Anthropic distingue entre la « conscience d’accès », qui implique la capacité de manipuler et raisonner sur une pensée, et la « conscience phénoménale », la capacité de ressentir. Cependant, la société ne se prononce pas sur la possibilité que ses modèles possèdent une forme de conscience.
Le rapport a été soumis à des commentaires externes, y compris ceux de neuroscientifiques tels que Stanislas Dehaene et Lionel Naccache, qui sont à l’origine de la théorie de l’espace de travail global neuronal.
Source : Anthropic
