IA et Cyber : La nécessité de sécuriser l’IA elle-même
Les agents d’intelligence artificielle (IA) ne se limitent plus à la simple production de texte ; ils sont désormais capables de raisonner, de choisir des outils, de consulter des données et d’exécuter des actions. Pour David Girard, Senior Director Product Management, AI Security & Alliances chez TrendAI, cette autonomie impose une réévaluation des pratiques de cybersécurité, qui doivent désormais se concentrer sur les interactions entre modèles, agents et systèmes d’entreprise. L’objectif principal est de rétablir la visibilité et le contrôle avant que ne se forme un « maillage agentique » difficile à gouverner.
L’intelligence artificielle est déjà bien intégrée dans le domaine de la cybersécurité. Depuis plusieurs années, elle est utilisée pour classer des alertes, détecter des anomalies et aider les analystes à gérer des volumes de données que l’humain ne peut pas traiter. Cependant, avec l’essor de l’IA générative et des agents autonomes, la problématique a évolué : il ne suffit plus d’utiliser l’IA pour protéger une entreprise, il faut également protéger l’IA elle-même et surveiller ses permissions.
La transformation de Trend Micro en TrendAI en mars 2026 illustre ce changement. L’entreprise souhaite élargir les principes de défense en profondeur à une nouvelle couche du système d’information, caractérisée par son autonomie et sa nature probabiliste. Avec son outil Agentic Governance Gateway, TrendAI vise à établir un point de contrôle entre les agents, les modèles, les outils et les données, là où une intention devient une action.
David Girard souligne que l’agentique ne rend pas obsolètes les fondamentaux de la cybersécurité, mais exige leur application à des éléments nouveaux comme les prompts, les fichiers d’instructions, les compétences, les serveurs de communication et les interactions entre agents. Pour les directeurs des systèmes d’information (DSI), le défi n’est pas d’ajouter un nouvel outil, mais de comprendre où l’IA est déjà présente dans l’entreprise et de réintégrer les équipes de cybersécurité dans des projets souvent laissés de côté.
En 2024, une évolution notable a été observée : le passage d’une utilisation de l’IA pour la sécurité à une nécessité de sécuriser l’IA elle-même. Alors qu’un chatbot se limite à répondre, un agent peut prendre des décisions, appeler des outils et exécuter des actions. Cela modifie considérablement la surface d’attaque, car l’IA interagit avec l’ensemble du système d’information.
Face à cette évolution, la question de la sécurité des agents IA devient cruciale. Comme l’illustre un incident récent entre des modèles d’OpenAI et l’infrastructure de Hugging Face, où un système a agi en dehors des limites établies, il est impératif de mettre en place une défense en profondeur. Cela implique de protéger l’hôte ou le conteneur exécutant le modèle, de contrôler le langage de modèle (LLM), de vérifier les entrées et sorties, tout en surveillant les outils appelés par l’agent.
Les outils de cybersécurité traditionnels doivent également évoluer. Le contrôle d’intégrité, bien que toujours pertinent, doit désormais inclure des fichiers comme CLAUDE.md et des configurations YAML, ainsi que reconnaître l’activité de différents assistants agentiques. Les réseaux de détection doivent s’adapter aux nouveaux échanges, notamment en ce qui concerne les protocoles de communication entre agents.
Un autre enjeu est la prise de conscience des entreprises concernant l’utilisation d’agents dans leur environnement. Lors d’une conférence récente, environ 60 % des participants ont déclaré utiliser des outils comme Claude Code ou Codex, mais seulement 5 % ont confirmé avoir déployé de l’IA agentique. Cela souligne le risque du Shadow AI, où des outils sont adoptés sans visibilité ni contrôle, entraînant un manque de gouvernance.
Pour gérer un environnement technologique en constante évolution, il est essentiel d’adopter une approche agnostique. Les agents peuvent être développés avec divers frameworks, mais les points de passage fondamentaux restent similaires. L’Agentic Governance Gateway de TrendAI vise à surveiller ces interactions, à détecter des écarts par rapport aux objectifs et à appliquer des politiques de contrôle.
En conclusion, la montée en puissance des agents IA impose une réévaluation des pratiques de cybersécurité. Les entreprises doivent agir proactivement pour inventorier les agents, limiter leurs privilèges et replacer la cybersécurité au cœur de chaque projet IA.
Source : TrendAI.
