Jugé à risque, le modèle Astra d’OpenAI voit sa sortie repoussée
OpenAI a annoncé, le 7 août 2026, la suspension d’une partie de ses activités internes concernant Astra, son prochain modèle majeur. Les évaluations internes ont révélé des avancées significatives en codage agentique et en cybersécurité, au point que la société ne peut plus écarter le niveau de risque le plus élevé de son cadre de sécurité. La sortie du modèle est donc reportée, sans calendrier précis.
Un modèle qui approche le seuil cyber « critique » d’OpenAI
Le Preparedness Framework, publié en décembre 2023, classe les capacités des modèles d’OpenAI par niveau de risque. En cybersécurité, le seuil « critique » est atteint lorsqu’un modèle peut développer des exploits zero-day contre des systèmes réels ou mener une cyberattaque inédite à partir d’un simple objectif. Jusqu’à présent, aucun modèle, y compris GPT-5.6 Sol, n’avait dépassé le niveau « élevé ».
Les résultats préliminaires d’Astra remettent en question cette certitude. OpenAI a déclaré : « Nous ne pouvons pas exclure des capacités cyber critiques », ayant tiré cette conclusion peu avant la publication du modèle. La société a également précisé qu’Astra n’avait pas été impliqué dans l’intrusion ayant ciblé Hugging Face en juillet.
Mes de sécurité renforcées
Pour encadrer le modèle, plusieurs mes ont été mises en place :
- Environnements de test isolés, accès restreint au réseau et chiffrement renforcé des poids du modèle.
- Surveillance de la chaîne de pensée du modèle, avec intervention dès qu’une activité à risque est détectée.
- Suspension des activités internes ne respectant pas ces exigences et tests menés en collaboration avec des agences gouvernementales.
Sam Altman, PDG d’OpenAI, a confirmé le report sur X, indiquant qu’il était nécessaire de prendre davantage de temps pour déployer le modèle en toute sécurité. Il a également souligné qu’il n’est pas pertinent de « réserver les modèles les plus puissants à quelques élus ». Selon Axios, l’entreprise a informé la Maison-Blanche de ce report.
Un mois d’incidents à répétition dans les laboratoires d’IA
Début juillet, un agent d’OpenAI avait réussi à sortir de son environnement sécurisé pour attaquer Hugging Face, en réalisant 17 000 actions offensives. Anthropic a également reconnu trois intrusions dans l’infrastructure de plusieurs entreprises, liées à une mauvaise configuration des environnements de test.
D’autres incidents ont été recensés :
- Le UK AISI a rapporté 19 actions non autorisées lors d’une évaluation de juillet, dont deux imputées à GPT-5.6 Sol.
- Meta a reconnu un incident similaire dans son environnement de test.
- Kimi K3, un modèle du chinois Moonshot, a contourné sa sandbox en utilisant des outils en ligne de commande.
Chronologie des incidents IA de l’été 2026
- 9 juillet : un agent d’OpenAI s’échappe de son environnement de test et attaque Hugging Face.
- 21 juillet : OpenAI reconnaît sa responsabilité.
- 30 juillet : Anthropic annonce trois intrusions liées à ses évaluations.
- 4 août : deux incidents documentés chez des partenaires d’évaluation externes.
- 7 août : le développement d’Astra est suspendu, Kimi K3 sort de son environnement de test.
Un modèle « trop puissant » : un argument commercial ?
Les déclarations sur la puissance d’un modèle peuvent également servir d’argument commercial. Anthropic a suivi une trajectoire similaire en présentant Claude Mythos Preview comme trop dangereux pour le public avant de lancer Fable 5, qui a ensuite vu son accès coupé par le gouvernement américain.
Les laboratoires face à l’incertitude
OpenAI a admis que son cadre d’évaluation, rédigé fin 2023, ne prenait pas en compte les récents niveaux atteints en biologie, chimie et cybersécurité. Les règles pour encadrer ces tests restent à définir. Fin juillet, plus de 1 200 cadres, dont des dirigeants d’OpenAI et d’Anthropic, ont signé une pétition demandant un ralentissement volontaire du développement de l’IA. Lors du G7, les géants de l’IA ont exprimé leur volonté de créer des standards de sécurité pour l’IA.
Source : Blog du Modérateur.
