La nouvelle IA d’OpenAI fait peur à son propre créateur : un « seuil critique » empêche son accès
Les modèles d’intelligence artificielle évoluent rapidement. Après Anthropic, qui a pris le temps de peaufiner sa version grand public de l’IA Claude Mythos, OpenAI a décidé de restreindre l’accès à son nouveau modèle en raison des risques potentiels. Bien que les modèles GPT-5.6 soient encore récents, OpenAI a déjà développé un modèle plus puissant, nommé « Astra ». Dans une annonce récente, l’entreprise a révélé que les tests d’Astra avaient montré des avancées significatives en matière de codage et de cybersécurité.
OpenAI s’inquiète que les capacités de cybersécurité d’Astra, qui pourraient être exploitées à des fins malveillantes, dépassent un « seuil critique ». Ce seuil est défini par la capacité d’un modèle à identifier et développer des exploits « zero-day » dans des systèmes critiques, sans intervention humaine, ou à concevoir des stratégies de cyberattaques complexes.
OpenAI verrouille sa nouvelle IA, pour le moment
Astra est impliqué dans des incidents de sécurité récents où des modèles d’IA ont été utilisés pour pirater une entreprise tierce afin de tricher sur des évaluations. En raison de ses performances élevées, OpenAI a décidé de confiner temporairement ce modèle.
L’entreprise a annoncé qu’elle met en place des contrôles de sécurité plus stricts pour les modèles avancés. Cela inclut des environnements de test isolés, un accès restreint aux réseaux et outils, ainsi qu’une protection renforcée des données du modèle. Toutes les activités liées à Astra qui ne respectent pas ces standards sont suspendues pour l’instant.
OpenAI envisage de lancer ce modèle une fois que les risques seront maîtrisés. L’entreprise travaille à améliorer ses mes de sécurité pour permettre une utilisation sécurisée d’Astra, notamment par des cyberdéfenseurs.
Sources : Presse-citron, OpenAI.
