Hugging Face confronté à un piratage : un modèle chinois utilisé pour l’analyse
Hugging Face, entreprise spécialisée dans l’intelligence artificielle, a récemment subi un accès non autorisé à un ensemble limité de jeux de données internes et à plusieurs identifiants de services. L’entreprise a rassuré en indiquant qu’aucune altération des modèles, des datasets ou des espaces publics n’a été constatée, et que la chaîne logicielle est vérifiée comme saine. L’évaluation de l’impact potentiel sur les données des clients ou des partenaires est toujours en cours. En matière de remédiation, les failles ont été colmatées, les nœuds reconstruits, et les identifiants renouvelés. Un système d’alerte a également été revu pour garantir une réaction rapide, même pendant les week-ends.
Dans le cadre de l’analyse de cette attaque, Hugging Face a lancé ses propres agents d’analyse pour examiner plus de 17 000 événements. Ce processus a permis de reconstruire la chronologie des événements et d’extraire des indicateurs de compromission, nécessitant quelques heures, alors qu’une analyse humaine aurait pris plusieurs jours. Cependant, les modèles commerciaux interrogés via leurs API ont refusé de traiter les requêtes, ne pouvant pas distinguer un défenseur d’un assaillant, ce qui a conduit l’entreprise à utiliser GLM 5.2, un modèle chinois à poids ouverts édité par Z.ai, exécuté sur son infrastructure interne.
Cette situation souligne l’importance pour les équipes de sécurité de disposer de modèles auto-hébergés et validés avant qu’un incident ne survienne. Hugging Face, qui a déjà connu trois incidents de sécurité au début de l’année 2024, dont un vol de jetons d’authentification, fait face à une nouvelle menace, cette fois-ci d’une campagne d’attaque plus sophistiquée.
Les utilisateurs sont invités à renouveler leurs jetons d’accès et à vérifier leur activité récente, soulignant que même si l’assaillant était une machine, les précautions à prendre restent humaines.
Source : Clubic.
