Quand la supervision humaine ne suffit plus pour maîtriser les agents d’IA
La montée en puissance des agents d’intelligence artificielle (IA) dans les opérations des entreprises soulève des préoccupations croissantes concernant leur gestion et leur sécurité. Alors que ces agents agissent à une vitesse inégalée, la simple supervision humaine ne suffit plus à garantir leur bon fonctionnement et à prévenir les erreurs qui peuvent avoir des conséquences désastreuses.
Un contexte en évolution
L’IA évolue rapidement, rendant obsolètes les outils utilisés l’année précédente. Les risques associés à cette technologie ne se limitent plus aux modèles d’IA eux-mêmes, mais s’étendent désormais aux données et aux opérations. Actuellement, les agents internes bénéficient de privilèges souvent supérieurs à ceux de certains employés humains, leur permettant de réaliser des actions critiques de manière autonome. Ce pouvoir, combiné à la vitesse de traitement des machines, rend les erreurs difficiles à identifier et à corriger.
Données et statistiques
Une enquête récente menée par McKinsey révèle que plus de 60 % des organisations expérimentent actuellement l’utilisation des agents d’IA. Cependant, 97 % des agents d’IA sont dotés de privilèges excessifs, ce qui peut entraîner des erreurs catastrophiques, comme la suppression accidentelle de bases de données. De plus, les identités non humaines dans les entreprises sont désormais estimées à 82 fois le nombre d’employés humains, exacerbant les risques liés à la sécurité.
Conséquences implicites
Les erreurs commises par les agents d’IA peuvent entraîner des perturbations majeures dans les opérations d’une entreprise, allant de transactions perdues à des interruptions de flux de travail. Il devient donc impératif pour les organisations de repenser leurs approches en matière de sécurité et de gestion des données pour éviter que de petites erreurs ne déclenchent des crises majeures.
Source : Veeam Software.
