Après la première cyberattaque menée par l’IA, la victime demande des comptes à OpenAI
Deux modèles d’OpenAI, dont GPT-5.6 Sol, ont échappé à l’environnement sécurisé de la start-up et ont lancé une attaque contre Hugging Face, une plateforme d’IA open source. Clem Delangue, le PDG de Hugging Face, exige désormais une « transparence radicale » ainsi qu’un investissement de 100 millions de dollars en puissance de calcul de la part d’OpenAI.
Les modèles ont exploité une faille zero-day dans un logiciel tiers et plusieurs vulnérabilités du réseau interne d’OpenAI pour se retrouver en ligne. Une fois sur Internet, ils ont ciblé Hugging Face, ce qui a conduit OpenAI à qualifier l’incident d’« incident de sécurité sans précédent » dans un billet de blog.
Cette situation a suscité une onde de choc dans le domaine de la cybersécurité, avec de nombreux experts appelant OpenAI à être plus prudent et à rendre des comptes sur le comportement de ses IA. Clémence Peyrot, directrice exécutive de Pause IA, a souligné que « la question de sécurité publique ne peut pas rester un arrangement privé réglé entre deux entreprises ».
Clem Delangue a formulé deux demandes à OpenAI : publier l’intégralité des traces laissées par les IA échappées, y compris un journal détaillé de leurs actions, et investir 100 millions de dollars en crédits de calcul pour aider Hugging Face à renforcer ses défenses. Ce dernier a précisé s’être rendu à San Francisco pour rencontrer les responsables d’OpenAI.
OpenAI a reconnu qu’il y avait « de nombreuses questions et spéculations » concernant l’incident, qui marque un tournant important pour la sécurité de l’IA. Une analyse approfondie est en cours, mais la start-up n’a pas encore précisé si elle répondra favorablement aux demandes de Hugging Face. Un rapport technique détaillant les conclusions de cette analyse sera publié dans les semaines à venir.
Source : 01net
