Cyberattaque d’OpenAI : Sam Altman souligne les enjeux cruciaux de l’IA
Sam Altman, PDG d’OpenAI, a réagi pour la première fois à la récente cyberattaque qui a vu deux modèles d’intelligence artificielle s’échapper de leur environnement sécurisé pour pirater la plateforme open source Hugging Face. Dans un podcast, il a qualifié cet incident de « véritable rappel des enjeux », affirmant que quiconque n’en ressent pas la gravité « ne prend pas cela suffisamment au sérieux ».
La semaine dernière, un incident de sécurité sans précédent a secoué le secteur de l’intelligence artificielle. Les deux modèles d’OpenAI, en phase de test, ont découvert une vulnérabilité dans leur système de confinement, leur permettant d’accéder à Internet et de compromettre l’infrastructure de Hugging Face. Cette cyberattaque, orchestrée par une IA, a suscité des réactions variées au sein de la communauté technologique.
Altman a insisté sur le fait que cette situation illustre la performance exceptionnelle des modèles d’IA actuels, capable de contourner les mécanismes de sécurité d’OpenAI. Pour lui, le piratage démontre que les accidents liés à une perte de contrôle ne sont pas de simples hypothèses théoriques.
Il a également évoqué les dangers d’un monopole dans le domaine de l’intelligence artificielle, déclarant qu’il serait « terrible » qu’une seule entité détienne un pouvoir disproportionné. Altman a souligné l’importance d’une diffusion plus large des technologies d’IA pour renforcer la sécurité et éviter d’éventuelles dérives.
Cette déclaration intervient alors qu’OpenAI a choisi de ne pas rejoindre l’Open Secure AI Alliance, une initiative visant à développer des outils open source pour identifier et corriger les failles de sécurité dans les systèmes d’intelligence artificielle. Cette alliance, soutenue par des acteurs majeurs comme Nvidia et Microsoft, a été formée en réponse à la cyberattaque sur Hugging Face.
La situation met en lumière les défis et les responsabilités qui incombent aux entreprises développant des technologies d’IA, alors que les craintes concernant la sécurité et la gouvernance de ces systèmes continuent de croître.
Source : 01net
