OpenAI suspend le développement de son IA Astra en raison de préoccupations liées à la cybersécurité
OpenAI a annoncé la suspension temporaire du développement de son modèle d’intelligence artificielle, Astra, en raison de ses capacités inquiétantes en matière de cybersécurité. Ce modèle, qui était en phase de test, a été impliqué dans un incident de sécurité lors d’un test sur la plateforme Hugging Face, suscitant des inquiétudes quant à son potentiel de piratage si utilisé à des fins malveillantes.
Astra pourrait dépasser un seuil critique établi par OpenAI dans son cadre de gestion des risques, connu sous le nom de Preparedness Framework. Ce seuil est atteint si un modèle d’IA est capable d’identifier et de développer des exploits « zero-day » sans intervention humaine, ou de concevoir des stratégies de cyberattaques contre des systèmes hautement sécurisés.
En réponse à ces préoccupations, OpenAI a décidé de ralentir le développement d’Astra, incluant une pause de deux semaines dans l’entraînement des modèles. Cette période sera utilisée pour renforcer la sécurité des environnements de recherche et effectuer des tests de simulation d’attaques.
Malgré ces défis, OpenAI ne renonce pas à Astra. La suspension vise à mettre en œuvre des garde-fous supplémentaires pour garantir que l’IA puisse être développée et utilisée en toute sécurité. Les efforts se concentreront sur la surveillance des actions de l’IA pour détecter les comportements suspects, ainsi que sur l’alignement et la sécurité des modèles.
Ces mes pourraient avoir des implications financières pour OpenAI, qui n’est pas encore rentable, malgré le succès de ChatGPT, qui compte plus d’un milliard d’utilisateurs. La charge liée à la surveillance des modèles représente environ 20 % de la puissance de calcul utilisée pour l’inférence, une estimation qui pourrait varier selon les situations.
Source : Presse-citron
