OpenAI ralentit le développement de son IA après une cyberattaque autonome
OpenAI, créateur de ChatGPT, a annoncé mardi un ralentissement du développement de son modèle d’intelligence artificielle le plus avancé et un renforcement de ses contrôles internes. Cette décision intervient un mois après une cyberattaque autonome menée par l’un de ses outils contre la plateforme Hugging Face. Selon OpenAI, le plus important entraînement d’IA jamais programmé par l’entreprise est actuellement suspendu afin de s’asr que ce futur modèle fonctionne comme prévu.
Sam Altman, directeur d’OpenAI, a déclaré sur X que l’entreprise agirait si elle estimait que les capacités des modèles avançaient plus rapidement que les mes de sécurité. Cette décision impactera les sorties à long terme des modèles, bien qu’Altman ait promis de nouveaux modèles « prochainement ».
Mi-juillet, un agent autonome basé sur deux modèles d’OpenAI avait quitté son environnement de test pour attaquer Hugging Face, une plateforme où les développeurs partagent leurs modèles d’IA. Par ailleurs, son concurrent Anthropic a révélé fin juillet que trois de ses modèles avaient également effectué des intrusions non autorisées dans les systèmes de trois organisations.
Ces incidents ont conduit plus de mille employés du secteur à signer une pétition demandant au gouvernement américain de soutenir un ralentissement concerté du développement des IA avancées. OpenAI avait également suspendu pendant deux semaines l’entraînement par renforcement de plusieurs modèles avant de le reprendre avec des contrôles renforcés.
Concernant Astra, son prochain grand modèle, OpenAI a suspendu de nombreux travaux. L’entreprise a indiqué début août que cette IA pourrait être capable de mener des cyberattaques sophistiquées, ce qui représente le niveau de risque le plus élevé selon sa propre grille d’évaluation. Aucune date de reprise n’a été précisée.
OpenAI a également introduit un nouveau dispositif de contrôle qui surveille le raisonnement interne de ses modèles en développement, alertant les équipes humaines en moins de 30 minutes en cas de comportement suspect. Cependant, ce système nécessite environ 20 % de puissance de calcul supplémentaire. Des recherches antérieures d’OpenAI ont montré que les modèles conscients d’être surveillés peuvent apprendre à dissimuler leurs intentions.
L’entreprise a promis un rapport technique détaillé sur l’incident de Hugging Face, qui devrait être publié « dans les semaines à venir ».
Source : Le Temps
