CoSAI : Une coalition pour sécuriser l’intelligence artificielle
La Coalition for Secure AI (CoSAI), fondée en 2024, regroupe des géants de l’intelligence artificielle tels qu’Amazon, Google, Anthropic, Microsoft et OpenAI, ainsi que des acteurs de la cybersécurité. Cette initiative vise à réfléchir aux moyens de sécuriser les agents d’intelligence artificielle.
Les membres de la CoSAI se concentrent particulièrement sur l’agentique, dont le protocole de communication de base, nommé MCP, est actuellement jugé peu sécurisé. Parmi les participants spécialisés en cybersécurité figurent des entreprises comme Sailpoint, Trend Micro, HackerOne, Wiz et Zenity.
Lors d’une session au forum InCyber, Carlos de Segovia, responsable des partenariats de recherche chez Google, a souligné l’évolution rapide des menaces liées à l’IA, notant que l’on ne parle plus seulement d’injection de prompt, mais de systèmes autonomes capables de raisonner et d’exécuter des tâches. Il a également évoqué les risques d’identité, où des IA peuvent agir en se faisant passer pour des humains, et a affirmé l’importance d’une collaboration accrue entre le secteur académique et l’industrie.
Hector de Rivoire, directeur de la politique d’IA responsable chez Microsoft, a mentionné que l’autonomie des agents crée de nouveaux risques, rendant nécessaire le renforcement des partenariats en cybersécurité. Il a indiqué que Microsoft a déjà déployé 5 000 agents en interne, ce qui soulève des questions de gestion des identités, d’authentification et d’interventions humaines.
Elie Bursztein, responsable de la recherche en cybersécurité chez Google et DeepMind, a noté que le protocole MCP a été conçu pour répondre à un besoin immédiat sans être suffisamment sécurisé. Il a insisté sur l’importance d’une observabilité accrue pour suivre l’utilisation des IA.
Sonia Vanier, professeur à l’École Polytechnique, a souligné que les échanges entre agents IA sont encore peu explorés sur le plan académique, malgré leur importance cruciale. Elle a identifié trois défis majeurs : la gestion des nouvelles vulnérabilités, le manque de coordination et de standards, et les vulnérabilités émergentes liées à la prolifération des IA dans les organisations.
La chercheuse a également averti que ces vulnérabilités pourraient être exploitées par des acteurs malveillants pour orchestrer des attaques à grande échelle. Elle a plaidé pour la mise en place de normes de sécurité, semblables au modèle Zero Trust, pour valider et sécuriser les interactions entre agents.
Hector de Rivoire a ajouté que la réglementation sur l’IA reste fragmentée aux États-Unis, avec environ 300 actes au niveau des États, dont 82 concernent spécifiquement les chatbots. Il a suggéré que l’AI Act européen pourrait s’appliquer aux agents dans des cas d’usage à haut risque, tout en privilégiant l’approche de Singapour en matière de protection des données.
Les discussions au sein de la CoSAI mettent en lumière la nécessité d’une transparence accrue dès la conception des modèles d’IA et d’une collaboration étroite entre chercheurs et entreprises pour garantir la sécurité des systèmes d’intelligence artificielle.
Source : Propos recueillis lors de l’InCyber Forum 2026
