L’Open Secure AI Alliance : une réponse collective à la sécurité des intelligences artificielles ouvertes
L’Open Secure AI Alliance a été lancée récemment par un consortium de près de quarante entreprises et organisations, dont Nvidia, Microsoft, IBM, Cisco et Hugging Face. Cette coalition vise à développer une pile de sécurité ouverte pour les modèles et agents d’intelligence artificielle (IA), en réponse à l’incident de sécurité survenu chez Hugging Face. Cette initiative cherche à garantir que la cyberdéfense ne repose pas uniquement sur des plateformes propriétaires, souvent impossibles à inspecter ou à déployer localement.
À me que les agents d’IA deviennent plus autonomes, leur sécurité doit s’étendre au-delà des simples garde-fous des modèles. Un agent d’IA est un assemblage complexe comprenant des modèles, des outils, des mécanismes d’orchestration, des identités, des permissions et des environnements d’exécution. L’Alliance vise donc à tester, tracer et auditer l’ensemble de cette chaîne.
Les membres de l’Alliance incluent des fournisseurs de cloud, des éditeurs de cybersécurité, ainsi que des utilisateurs majeurs tels qu’Adobe, Capital One, et Cloudflare. En revanche, des acteurs notables comme OpenAI, Anthropic, Apple et Google ne font pas encore partie de cette coalition, une situation qui pourrait évoluer rapidement.
L’objectif principal n’est pas de créer un modèle unique, mais de mutualiser des modèles ouverts, des jeux de données et des outils d’évaluation. Les travaux porteront sur l’identité des agents, leur isolation, la protection de la chaîne logicielle, et la détection automatisée de vulnérabilités.
L’Open Secure AI Alliance s’inscrit dans la continuité d’initiatives comme OpenSSF et Akrites, qui se concentrent sur la correction et la divulgation de vulnérabilités dans les logiciels open source. Cependant, l’Alliance élargit son champ d’action pour inclure des systèmes autonomes capables d’analyser et d’exécuter des logiciels.
L’incident de sécurité chez Hugging Face, où la plateforme a rencontré une intrusion pilotée par IA, a mis en lumière les limites des modèles commerciaux fermés. La plateforme a finalement dû recourir à un modèle à poids ouverts pour analyser et contenir l’incident, soulignant la nécessité d’un accès à des outils adaptables et souverains.
Bien que la coalition possède un potentiel industriel significatif, son annonce ressemble davantage à un manifeste qu’à une feuille de route concrète, sans calendrier ni mécanisme de certification clairement définis. L’enjeu sera de transformer cette initiative en une pile interopérable et durable, afin de fournir une alternative crédible aux solutions propriétaires.
Source : Informatiquenews.fr
