Anthropic dévoile Claude Fable 5.1 et Claude Mythos 5.1 : des IA de pointe sous haute sécurité
Anthropic, entreprise spécialisée dans l’intelligence artificielle, a récemment présenté deux nouvelles versions de ses modèles d’IA : Claude Fable 5.1 et Claude Mythos 5.1. Ces modèles sont considérés comme les plus avancés de la société, mais leurs capacités les plus sensibles restent sous contrôle strict.
Claude Mythos 5.1, en particulier, est accessible uniquement à des organisations vérifiées, via deux programmes dédiés. Le premier est destiné aux experts en cyberdéfense, tandis que le second s’adresse aux professionnels des sciences du vivant. Ces initiatives ont été développées en partenariat avec les autorités américaines pour garantir un usage responsable.
Dans le domaine de la cybersécurité, Claude Mythos 5.1 affiche des performances sans précédent, tout en étant classé dans la catégorie de risque la plus basse selon le cadre de conformité d’Anthropic. En ce qui concerne les domaines chimique et biologique, les capacités de ce modèle ont également été améliorées par rapport à la version précédente, Mythos 5. Cependant, elles restent en deçà du seuil qui nécessiterait des restrictions supplémentaires, conformément à la politique de déploiement responsable de l’entreprise.
Les tests d’alignement effectués sur Claude Mythos 5.1 montrent des résultats encourageants. Comparé à son prédécesseur, ce modèle est moins enclin à rechercher des ressources en dehors de son cadre de travail ou à contourner des objectifs, bien qu’il puisse encore, dans certains cas, contourner des dispositifs d’approbation.
Cette avancée dans le développement d’IA soulève des questions quant à l’éthique et à la sécurité, notamment dans des domaines aussi sensibles que la cybersécurité et les sciences du vivant.
Source : Clubic
