Piratée par un système d’agents IA autonomes, la plateforme Hugging Face a dû abandonner ses modèles frontière propriétaires pour mener son enquête. Le passage à un modèle open weight a changé la donne.
Le 16 juillet, Hugging Face, le plus grand dépôt de modèles et de jeux de données d’intelligence artificielle au monde, a révélé avoir détecté et neutralisé une intrusion dans son infrastructure de production.
Un jeu de données piégé, déposé sur la plateforme et exécuté automatiquement dès son traitement par les serveurs de Hugging Face, a servi de point d’entrée. Une fois ce premier accès obtenu, le hacker a pu récupérer des identifiants de connexion à l’infrastructure cloud de l’entreprise, puis progresser de serveur en serveur à travers plusieurs de ses clusters internes, le temps d’un week-end.
Dans son communiqué, l’entreprise précise que l’opération a été pilotée par un cadre d’agents autonomes ayant exécuté plusieurs milliers d’actions.
Ce qui a marqué les coulisses de l’enquête, c’est la leçon tirée par Hugging Face : « Quand nous avons commencé l’analyse des journaux, nous avons d’abord utilisé des modèles frontière via des API commerciales. Cela n’a pas fonctionné. » Les commandes d’attaque réelles nécessaires à l’analyse ont été bloquées par les garde-fous des fournisseurs, « incapables de distinguer un analyste en réponse à incident d’un attaquant. »
Le tournant open-weight
Pour analyser les plus de 17 000 actions enregistrées de l’attaquant, Hugging Face s’est finalement tournée vers GLM 5.2, un modèle open weight, hébergé et exécuté directement sur sa propre infrastructure.
Ce choix a résolu deux problèmes. En tant que modèle « open weight », dont les poids sont librement accessibles et déployables localement, GLM 5.2 n’était pas soumis aux garde-fous automatiques des API commerciales. De plus, en tournant en local, l’analyse n’a nécessité l’envoi d’aucune donnée sensible, ni les artefacts de l’attaquant ni les identifiants compromis, vers un tiers. Grâce à cette approche, Hugging Face affirme avoir reconstruit la chronologie complète de l’attaque, extrait les indicateurs de compromission et cartographié les identifiants touchés en quelques heures.
Un enseignement pour tous les défenseurs ?
Sur le plan technique, Hugging Face indique avoir corrigé les failles d’exécution de code ayant permis l’accès initial, éradiqué la présence de l’attaquant et reconstruit les nœuds compromis. L’entreprise a également changé tous les mots de passe et clés d’accès concernés et a renforcé les contrôles de sécurité sur ses clusters, en faisant appel à des experts en cybersécurité externes pour approfondir l’enquête et signaler l’incident aux autorités.
Hugging Face souligne l’importance de disposer d’un modèle performant, validé et prêt à être utilisé sur sa propre infrastructure, avant qu’un incident ne survienne, pour éviter d’être bloqué par les garde-fous et pour empêcher que les données et identifiants de l’attaquant ne quittent l’environnement de l’entreprise.
Source : Numerama
