Mistral dévoile Shieldstral pour sécuriser les contenus IA
Mistral AI a présenté Shieldstral, un nouveau modèle de sécurité multimodal en open weight, conçu pour filtrer et contrôler les contenus générés ou analysés par des systèmes d’intelligence artificielle. Ce modèle est disponible sous licence Apache 2.0 et peut être déployé localement avec des ressources limitées, notamment sur un seul GPU doté de 16 Go de mémoire.
La spécificité de Shieldstral réside dans son approche : au lieu de se baser uniquement sur des catégories de risques prédéfinies, les développeurs peuvent établir leurs propres règles de modération en langage naturel. Le modèle évalue ensuite si un texte ou une image respecte ces critères, tant avant qu’après la génération de contenu.
Mistral affirme que Shieldstral offre des performances comparables, voire supérieures, à celles de modèles de sécurité open source beaucoup plus volumineux, affichant de bons résultats lors des tests de sécurité textuelle et multimodale. Le modèle prend en charge douze langues et est accessible sur la plateforme Hugging Face.
Source : INCYBER NEWS
