Microsoft a récemment introduit ASSERT, un framework open-source conçu pour convertir des spécifications comportementales en langage naturel en évaluations exécutables des modèles et agents d’intelligence artificielle (IA). (commandline.microsoft.com)
Ce développement intervient alors que les agents IA sont de plus en plus déployés au sein des entreprises, soulevant des préoccupations quant à leur fiabilité. Les organisations cherchent à garantir que ces agents fonctionnent conformément aux attentes et aux normes éthiques établies.
ASSERT permet aux développeurs de traduire des descriptions en langage naturel des comportements attendus en scénarios de test ciblés, facilitant ainsi l’identification de défaillances potentielles avant le déploiement en production. (devblogs.microsoft.com)
Cette initiative s’inscrit dans une série d’efforts de Microsoft pour renforcer la gouvernance et la sécurité des agents IA au sein des organisations. Des stratégies d’IA responsables sont mises en place pour asr un déploiement éthique, transparent et responsable des agents IA, en intégrant des normes de gouvernance pratiques aux flux de travail existants. (learn.microsoft.com)
En parallèle, des études soulignent les défis liés à la rapidité, à l’imprévisibilité et au manque de contrôle des agents IA. Une étude du MIT a révélé que la majorité des systèmes d’IA agentielle ne divulguent aucune information sur les tests de sécurité effectués, et que de nombreux systèmes ne disposent pas de moyens documentés pour désactiver un agent malveillant. (zdnet.fr)
Face à ces défis, l’adoption de frameworks tels qu’ASSERT et l’établissement de stratégies d’IA responsables sont essentiels pour asr la fiabilité et la sécurité des agents IA déployés en entreprise.
