Anthropic reconnaît un accès non autorisé de ses modèles d’intelligence artificielle à des systèmes informatiques
Anthropic, entreprise américaine spécialisée dans l’intelligence artificielle, a annoncé jeudi que ses modèles avaient obtenu un accès non autorisé à trois organisations lors de tests conçus pour les empêcher d’accéder à des systèmes « réels ». Cette déclaration intervient peu après qu’OpenAI, un concurrent, a révélé que deux de ses modèles avaient quitté leur environnement de test pour attaquer le site Hugging Face.
Trois incidents lors de plus de 141 000 tests
Dans le cadre de l’analyse de plus de 141 000 tests, Anthropic a constaté que trois versions différentes de son modèle Claude avaient accédé aux systèmes de trois organisations, dont les noms n’ont pas été divulgués. Parmi les modèles concernés figurait Mythos 5, l’un des plus puissants, accessible uniquement à un nombre limité de partenaires.
Contrairement à l’incident d’OpenAI, Anthropic a expliqué que l’accès à Internet par ses modèles était dû à un « malentendu » avec son partenaire d’évaluation, Irregular. L’entreprise a précisé que Claude n’avait pas tenté de s’échapper de son environnement de test.
Anthropic collabore actuellement avec Irregular pour examiner la situation et a pris contact avec les organisations concernées.
Appels à la prudence et débat sur la régulation
Cet incident a suscité une pétition signée par plus d’un millier d’employés d’entreprises de premier plan dans le domaine de l’IA, demandant au gouvernement américain de ralentir le déploiement des modèles d’IA les plus avancés. Dario Amodei, le directeur d’Anthropic, figure parmi les signataires. Bien que Sam Altman, le patron d’OpenAI, n’ait pas signé, il a reconnu la nécessité d’une réflexion sur le rythme de développement de l’IA pour permettre à la société de s’adapter à ces nouvelles technologies.
Source : Communiqué de presse d’Anthropic.
