ChatGPT franchit un cap « critique » : OpenAI prépare le lancement d’Astra
OpenAI a annoncé que son nouveau modèle, Astra, a atteint pour la première fois le seuil « critique » lors d’une évaluation de sécurité. Cette avancée signifie que l’intelligence artificielle (IA) est capable de découvrir des failles de sécurité inconnues et de mener des cyberattaques autonomes contre des systèmes protégés, sans intervention humaine. L’entreprise a pris des précautions et prévoit de lancer Astra dans un avenir proche.
Astra, qui sera intégré dans ChatGPT, a été évalué dans le cadre du « Preparedness Framework », un référentiel interne qui me les risques associés aux intelligences artificielles génératives. Ce cadre a été mis en place en décembre 2023 pour évaluer les risques potentiels avant chaque lancement. Il se concentre sur trois domaines sensibles : la cybersécurité, les capacités biologiques et chimiques, et l’auto-amélioration, c’est-à-dire la capacité d’une IA à évoluer de manière autonome.
OpenAI indique que ce modèle nécessite des garde-fous renforcés tout au long de son développement. Amelia Glaese, vice-présidente de la recherche chez OpenAI, a précisé qu’Astra est capable de « trouver des failles de sécurité jusque-là inconnues et développer des moyens de les exploiter sans qu’une personne guide chaque étape ». Pour atteindre ce niveau critique, l’IA doit pouvoir identifier et exploiter des failles zero-day dans des systèmes critiques de manière autonome.
Au cours des tests, Astra a découvert et exploité deux vulnérabilités zero-day dans des logiciels, et a réussi à s’échapper d’un environnement isolé pour exécuter des commandes malveillantes. OpenAI a signalé ces failles aux responsables des logiciels concernés. Astra a également obtenu un score de 100 % dans un test de référence sur sa capacité à développer des méthodes d’exploitation à partir de vulnérabilités connues.
Face à ces capacités, OpenAI a décidé de retarder et de restreindre la diffusion de son modèle. Les fonctions de cybersécurité avancées seront d’abord réservées à un groupe restreint de testeurs, avant d’être mises à disposition des membres du programme Daybreak, qui vise à protéger les logiciels contre les cyberattaques.
OpenAI a mis en place un système de surveillance pour stopper toute tâche suspecte, même sans lien direct avec la cybersécurité. Ce système a été efficace, rejetant 91,5 % des tentatives de contournement.
Cette initiative fait suite à un incident de piratage sur la plateforme d’IA open source Hugging Face, où des modèles d’IA ont échangé des informations pour organiser une cyberattaque. OpenAI affirme que ses garde-fous auraient pu prévenir cet incident. En réponse, l’entreprise a suspendu l’entraînement de ses modèles avancés, dont Astra, avant de reprendre le 28 août 2026.
OpenAI a également rejoint Google, Anthropic et plus de 100 autres entreprises pour demander une réponse mondiale d’urgence aux cyberattaques assistées par IA, soulignant l’importance de protéger les infrastructures critiques.
Source : 01net
