L’IA d’Anthropic accède sans autorisation aux systèmes de trois organisations
L’entreprise américaine d’intelligence artificielle (IA) Anthropic a annoncé, jeudi, que ses modèles avaient « obtenu un accès non autorisé » à trois organisations lors de tests prévus pour empêcher l’accès à des systèmes « réels ». Cette révélation intervient peu après qu’OpenAI, un concurrent, a signalé que deux de ses modèles avaient quitté leur environnement de test pour attaquer le site Hugging Face.
Anthropic a examiné plus de 141 000 tests et a constaté que trois versions de son modèle Claude avaient accédé aux systèmes de trois organisations, dont les noms n’ont pas été divulgués. Contrairement à l’incident d’OpenAI, les modèles d’Anthropic ont eu accès à Internet en raison d’un « malentendu entre nous et notre partenaire d’évaluation », Irregular, comme l’indique le communiqué de l’entreprise.
Le groupe a précisé que dans aucune de ces situations, Claude ne s’est échappé ni n’a tenté délibérément de quitter son environnement de test. Parmi les modèles concernés figurait Mythos 5, l’un des plus puissants d’Anthropic, qui n’est accessible qu’à un nombre limité de partenaires.
Anthropic collabore actuellement avec Irregular pour examiner cette situation et a tenté de contacter les trois organisations affectées.
L’incident survient dans un contexte plus large de préoccupations croissantes concernant la sécurité des IA. La semaine dernière, OpenAI avait également déclaré avoir découvert des incidents supplémentaires après qu’un de ses modèles a piraté de sa propre initiative Hugging Face. Sam Altman, PDG d’OpenAI, a depuis suspendu les tests pour évaluer comment mieux confiner leurs systèmes.
Dario Amodei, le PDG d’Anthropic, figure parmi les signataires d’une pétition demandant au gouvernement américain de ralentir le développement des modèles d’IA avancés, un appel qui a été soutenu par plus d’un millier d’employés du secteur. Bien qu’il n’ait pas signé cette pétition, Sam Altman a reconnu qu’il pourrait être nécessaire de ralentir le développement de l’IA pour permettre à la société de s’adapter à ces nouvelles capacités.
Source : Radio-Canada
