Le tiercé létal de l’IA agentique : ce que les RSSI doivent savoir
À ce jour, chaque Responsable de la Sécurité des Systèmes d’Information (RSSI) a probablement entendu parler du tiercé létal dans le cadre des discussions sur la sécurité de l’intelligence artificielle (IA). Ce terme fait référence à une combinaison de trois propriétés de l’IA agentique qui, ensemble, rendent les agents vulnérables aux attaques et exposent les entreprises qui les utilisent à des risques considérables.
Le programmeur Simon Willison est crédité d’avoir inventé le terme lethal trifecta en relation avec l’IA agentique. Toutefois, le domaine de la cybersécurité n’a pas encore de définition universelle, différents analystes et chercheurs en IA choisissant souvent des trios de propriétés différents. Les discussions sur le tiercé létal de l’IA agentique se concentrent souvent sur les trois propriétés suivantes :
- L’accès de l’agent à des informations privées ou sensibles, qu’il s’agisse d’informations sur le personnel ou les clients, ou de propriété intellectuelle confidentielle.
- L’ingestion de contenu non contrôlé par l’agent, c’est-à-dire la lecture de données provenant de sources non vérifiées, pouvant contenir des informations incorrectes ou des invites cachées.
- La capacité de l’agent à communiquer à l’extérieur, permettant ainsi l’exfiltration de données.
Certains experts en cybersécurité ajoutent d’autres propriétés à ce tiercé létal, telles que la capacité d’agir sur d’autres systèmes d’entreprise, de planifier des objectifs à long terme sans confirmation humaine, ou encore de s’améliorer et d’acquérir des capacités autonomes.
L’IA agentique introduit une nouvelle catégorie de cybermenaces, capable d’exploiter toutes les autres catégories de menaces existantes. Un agent ayant accès aux données, à une connectivité externe et à la capacité d’agir de manière autonome pourrait reconfigurer des systèmes et exfiltrer des données sensibles, représentant ainsi une menace significative tant interne qu’externe.
Les outils de sécurité traditionnels ne suffisent pas à résoudre les problèmes potentiels liés à l’IA agentique. Par exemple, les pare-feu d’applications web ne peuvent pas prévenir les attaques par injection de prompt. Il est donc impératif que les organisations mettent à jour leurs architectures pour intégrer des outils de sécurité adaptés à l’IA agentique, ainsi que des politiques régissant son utilisation et la réponse aux incidents.
Pour évaluer l’exposition au risque, les RSSI doivent se poser des questions clés concernant le niveau d’accès des agents IA aux logiciels d’entreprise, aux données, à l’infrastructure et à Internet. Les réponses à ces questions peuvent révéler la portée des agents IA et établir la base du risque.
La meilleure stratégie pour atténuer ce risque est la mise en œuvre d’une architecture de sécurité de type « zéro confiance ». Cela inclut la gestion d’identité pour les agents IA, la canalisation des communications via des passerelles de contrôle, et l’adoption d’un accès par défaut « refuser tout ». De plus, il est essentiel d’étendre les outils de sécurité pour inclure des pare-feu sémantiques et des systèmes de gestion d’accès qui surveillent les comportements des agents.
En conclusion, l’IA agentique présente des risques nouveaux et complexes que les RSSI doivent prendre en compte pour protéger efficacement leurs organisations.
Source : Simon Willison
