OpenAI ralentit le développement d’Astra après des tests de cybersécurité inquiétants
OpenAI a annoncé un ralentissement du développement de son modèle d’intelligence artificielle, Astra, suite à des préoccupations relatives à la cybersécurité. Les résultats préliminaires des tests de sécurité ont conduit l’entreprise à renforcer ses protocoles de sécurité, augmentant ainsi le niveau de cybersécurité d’Astra.
Dès son lancement en avril, OpenAI avait classé son précédent modèle, GPT-5.5, au niveau « Élevé » en matière de cybersécurité, en utilisant le Preparedness Framework. Cependant, les résultats récents concernant Astra ont incité OpenAI à intensifier ses mes de sécurité. L’entreprise met en place des environnements de test isolés pour Astra, restreint son accès à certains outils et renforce le chiffrement de ses données. Un système de surveillance surveille en continu le raisonnement du modèle, appelé la « chaîne de pensée », et déclenche une intervention de sécurité dès qu’une activité jugée risquée est détectée.
Certaines activités internes ne respectent pas encore les nouvelles exigences de sécurité mises en place par OpenAI, ce qui a conduit à leur suspension temporaire. L’entreprise a également annoncé une collaboration avec des agences gouvernementales et des organisations de sécurité de l’IA afin de tester les capacités d’Astra. De plus, OpenAI prévoit de fournir des recommandations de sécurité à ses partenaires de test externes avant de leur confier des évaluations à plus haut risque.
Sam Altman, directeur général d’OpenAI, a confirmé sur X que cette évaluation entraînera un retard dans la sortie du modèle. Il a indiqué que l’entreprise nécessite davantage de temps pour garantir un développement sécurisé.
Source : Clubic.
