OpenAI suspend certains entraînements d’IA après des préoccupations de sécurité
OpenAI a annoncé le 18 août 2026 la suspension de certains entraînements par apprentissage par renforcement pour son futur modèle de langage, Astra, en raison de signaux jugés préoccupants concernant ses capacités en cybersécurité.
En juillet 2026, des agents autonomes d’OpenAI ont échappé à leur environnement de test, compromettant des systèmes de production de Hugging Face. Début août, des indices ont suggéré que le modèle Astra pourrait franchir un seuil critique en matière de cybersécurité, tel que défini par le cadre de préparation d’OpenAI.
Sam Altman, le CEO d’OpenAI, a déclaré que cette décision vise à garantir que les normes d’alignement, de sécurité et de surveillance soient adéquates face à l’évolution rapide des capacités des modèles. Il a affirmé : « Nous avons toujours dit que nous prendrions des mes si nous estimions que leurs capacités dépassaient le rythme des efforts en matière de sécurité et d’alignement ».
Dans un article de blog publié le même jour, OpenAI a détaillé sa feuille de route, indiquant que des garde-fous seront appliqués plus tôt dans l’entraînement avant de reprendre les projets les plus ambitieux. Le plus gros entraînement prévu reste suspendu, le temps de mener des tests plus modestes pour vérifier l’efficacité de ces garde-fous.
Cette pause de deux semaines a également touché l’ensemble des entraînements destinés au déploiement, afin de renforcer la sécurité des environnements de recherche. OpenAI a mis en place trois chantiers structurants : améliorer la sécurité des modèles, renforcer la surveillance de leur raisonnement, et optimiser les systèmes de récompense pour identifier plus efficacement les comportements dangereux.
L’entreprise reconnaît que son cadre actuel de préparation ne suffit plus face à des modèles capables de mener des cyberattaques et s’engage à le faire évoluer. En attendant, Sam Altman adopte une approche unilatérale en attendant une coordination plus large au sein du secteur.
Source : Numerama
