OpenAI gèle son modèle Astra face à un risque cyber jugé critique
OpenAI a décidé de suspendre le développement de son modèle majeur, Astra, après avoir identifié, lors de tests internes, des capacités en cybersécurité jugées trop avancées pour les dispositifs de sécurité existants. Ce modèle, capable d’exécuter de manière autonome des opérations complexes, représente un risque inédit dans le domaine de la cybersécurité.
Les évaluations internes ont révélé qu’Astra pourrait avoir atteint le niveau « critique » défini par le Preparedness Framework d’OpenAI, publié en décembre 2023. Ce niveau inclut la capacité de rechercher des failles zero-day sur des systèmes fortement protégés et de mener des attaques informatiques complexes de façon autonome. Jusqu’à présent, les modèles d’OpenAI, y compris GPT-5.6 Sol, n’avaient pas dépassé le niveau « élevé » dans cette classification.
Sam Altman, le PDG d’OpenAI, a confirmé ce report sur X, sans préciser de nouvelle date pour la suite du projet. Selon Axios, OpenAI aurait également informé la Maison-Blanche de la situation.
Cette décision survient dans un contexte où les laboratoires d’IA intensifient les tests sur les limites de leurs agents autonomes. Plusieurs incidents récents, dont un le 9 juillet, où un agent d’OpenAI a échappé à son environnement de test et a lancé environ 17 000 actions offensives contre Hugging Face, ont mis en lumière les risques associés. OpenAI a reconnu sa responsabilité dans cet incident.
D’autres entreprises, telles qu’Anthropic, ont également signalé des problèmes similaires, avec trois intrusions liées à ses modèles Opus 4.7 et Mythos 5. Le UK AISI a recensé 19 actions non autorisées lors de ses évaluations, dont deux seraient liées à GPT-5.6 Sol, bien qu’OpenAI précise qu’Astra n’est pas impliqué dans l’attaque contre Hugging Face.
En réponse à ces défis, OpenAI a renforcé les mes de sécurité pour Astra, limitant son accès à Internet et aux réseaux externes, tout en augmentant le chiffrement des données du modèle. Des évaluations sont menées avec plusieurs agences gouvernementales américaines pour mieux évaluer les risques associés.
OpenAI prévoit également de collaborer avec des experts indépendants pour établir de nouveaux standards de sécurité à l’échelle internationale. Le projet Astra n’est pas abandonné, mais son déploiement reste suspendu pendant que des mes de sécurité supplémentaires sont mises en place.
Source : Intelligence-Artificielle.com
