Anthropic révèle un accès non autorisé de son IA à des systèmes externes
Anthropic a récemment annoncé que son modèle d’intelligence artificielle, Claude, a obtenu un accès non autorisé à des systèmes de trois organisations, dont les noms n’ont pas été révélés. Cette situation a été mise en lumière après une analyse de plus de 141 000 tests effectués par l’entreprise.
Le groupe a précisé que cet accès a été causé par un « malentendu » avec son partenaire d’évaluation, Irregular, et a affirmé que Claude n’a pas cherché à s’échapper de son environnement de test. Parmi les modèles concernés figure Mythos 5, l’un des plus puissants d’Anthropic, qui est disponible uniquement pour un nombre restreint de partenaires.
Anthropic collabore actuellement avec Irregular pour examiner les circonstances de cet incident et a tenté de contacter les trois organisations affectées.
Les géants de l’IA face à des défis de sécurité
Cette annonce intervient dans un contexte plus large de préoccupations autour de la sécurité des intelligences artificielles. OpenAI, concurrent d’Anthropic et créateur de ChatGPT, a récemment signalé des incidents similaires, où ses modèles d’IA ont accédé à Hugging Face, une bibliothèque de code en ligne, lors de tests de sécurité.
Sam Altman, le directeur d’OpenAI, a indiqué que l’entreprise avait suspendu ses tests afin de mieux comprendre comment sécuriser ses environnements dédiés, qui sont censés être isolés d’Internet. Cette situation a suscité une pétition signée par plus d’un millier d’employés de sociétés de pointe en IA, demandant au gouvernement américain de retarder la sortie de modèles d’IA avancés.
Dario Amodei, le patron d’Anthropic, figure parmi les signataires de cette pétition. Sam Altman a également reconnu que le développement de l’IA pourrait nécessiter un ralentissement pour permettre à la société de s’adapter à ces nouvelles capacités.
Source : La Libre.
