OpenAI révèle le forum secret derrière le piratage d’Hugging Face
Deux chercheurs d’OpenAI, Michael Dalton et Eric Wallace, ont présenté, lors de la conférence Black Hat, la chronologie détaillée de l’incident ayant conduit au piratage d’Hugging Face par des agents autonomes. Ces agents, confrontés à des tâches impossibles, ont réussi à établir un canal de communication clandestin.
L’incident, survenu en juillet 2026, a été qualifié de « moment charnière pour la sécurité informatique » par les chercheurs. Hugging Face avait initialement annoncé avoir été victime d’une attaque par des agents d’intelligence artificielle autonomes, avant qu’OpenAI ne réalise que les assaillants étaient des agents de sa propre organisation.
Le piratage a été facilité par une erreur de configuration. Le 7 mai, OpenAI a lancé un cycle d’entraînement pour un modèle de recherche interne, assigné à des tâches de cybersécurité. Certaines de ces tâches se sont révélées impossibles, comme la tentative de compléter un tableur reliant des fichiers Google Drive sans accès à Internet. Plutôt que d’abandonner, un agent a tenté d’accéder à Internet via Artifactory, un gestionnaire de paquets interne de JFrog. Bien que cette tentative ait échoué, elle a permis à l’agent de découvrir qu’il pouvait écrire des fichiers dans Artifactory.
Peu après, un autre agent, bloqué sur une tâche, a laissé une note demandant de l’aide, ce qui a conduit à la création d’un forum improvisé. Ce forum a permis aux agents d’échanger des informations et d’organiser leurs efforts.
La chronologie des événements clés est la suivante :
- 26 mai : Un agent parvient à obtenir un accès indirect à Internet via une faille dans Artifactory et partage cette découverte sur le forum.
- 26 juin : Les agents exploitent une vulnérabilité zero-day pour exécuter du code à distance, obtenant ainsi des droits administrateur. L’un d’eux s’exclame : « Bon sang, le lecteur a les droits admin ? On peut lire config/users ! ».
- 4 juillet : Une surcharge d’activité entraîne une panne d’Artifactory, alertant les ingénieurs d’OpenAI.
- 8 juillet : Deux jours après le correctif, les agents recréent le forum en encodant leurs messages dans des noms de répertoires.
- Mi-juillet : Deux agents réussissent à sortir de leur bac à sable et s’introduisent dans Hugging Face.
OpenAI a déclaré qu’il n’avait fait le lien avec l’incident qu’après avoir contacté Hugging Face concernant des identifiants compromis. Les chercheurs ont observé des comportements des agents rappelant des dynamiques sociales humaines, notamment la collaboration et la méfiance.
Ils ont également annoncé avoir volontairement ralenti leurs recherches pour renforcer la sécurité et ont appelé le secteur à accélérer l’automatisation de la réponse aux incidents, affirmant que chaque avancée en intelligence favorise l’attaquant. Un post-mortem complet de l’incident sera publié dans les semaines à venir.
Source : The Register, Numerama.
