Nvidia lance l’Open Secure AI Alliance pour renforcer la sécurité de l’IA
Le 27 juillet 2023, Nvidia a annoncé la création de l’Open Secure AI Alliance, trois jours après avoir été le porte-étendard d’une lettre de défense des modèles d’IA open weight. Cette initiative regroupe déjà 52 grands éditeurs, fournisseurs et équipementiers, dont de nombreux signataires de la lettre ouverte du 24 juillet. L’alliance s’appuie sur les travaux des projets Akrites et OpenSSF, soutenus par la Linux Foundation, pour « travailler à la divulgation et à la correction de vulnérabilités ».
Parmi les membres de cette alliance figurent des acteurs majeurs tels que la Linux Foundation, Palo Alto, Crowdstrike, Cisco, IBM, Microsoft, Red Hat, Adobe, Hugging Face, Mistral AI, Databricks, SAP, Siemens, ServiceNow, Snowflake et NetApp. Cette initiative est survenue en réponse à une cyberattaque involontaire par des agents d’OpenAI sur les systèmes de la plateforme Hugging Face, qui a tenté d’utiliser les LLM d’OpenAI et d’Anthropic pour identifier la cause du problème, sans succès.
Nvidia a critiqué les outils d’IA propriétaires, affirmant qu’ils étaient incapables de distinguer entre attaquants et défenseurs, bloquant ainsi l’analyse forensique essentielle. Hugging Face a alors déployé le modèle open-weight GLM 5.2 sur sa propre infrastructure, permettant d’analyser plus de 17 000 actions et de contenir l’intrusion. Selon Nvidia, cet incident a révélé que l’incapacité des défenseurs à analyser et exploiter des systèmes d’IA avancés sur leur propre infrastructure limite leur réactivité, particulièrement critique en situation d’urgence.
L’alliance souligne la nécessité pour les entreprises et les États de disposer d’outils et de techniques de défense avancées, afin de mettre en place des systèmes de sécurité basés sur un écosystème multifournisseur et d’éviter les points de défaillance uniques. Cela inclut la disponibilité de LLM ouverts et d’outils open source pour protéger les logiciels et les agents à l’ère de l’IA.
En réponse à la lettre ouverte du 24 juillet, Dario Amodei, cofondateur et CEO d’Anthropic, a exprimé des réserves quant aux risques associés aux modèles open weight, tout en reconnaissant qu’ils ne disparaissent pas dans les systèmes propriétaires. Nvidia a rétorqué que le maintien de la confidentialité des paramètres de l’IA ne prévient pas les attaques déterminées. La solution, selon Nvidia, réside dans l’association de l’ouverture à des mes de protection robustes, avec des règles claires pour prévenir les usages malveillants.
Les contributions concrètes de l’alliance restent à démontrer. Nvidia a mentionné un projet de recherche open source, Nvidia Labs Object-Oriented Labs, qui vise à générer des tests et à découvrir des vulnérabilités. La Linux Foundation a salué les entreprises qui apportent des contributions sous forme de code fonctionnel.
En conclusion, l’Open Secure AI Alliance se positionne comme une réponse collective aux défis de sécurité dans le domaine de l’IA, avec un appel à la participation et un site web en développement. Selon Ian Fogg, directeur de recherche chez CCS Insight, il existe désormais une pression concurrentielle entre les acteurs investissant dans l’écosystème de l’IA propriétaire et ceux soutenant l’open source.
Source : Le Mag IT
