Meta lance Muse Code au milieu des révélations de piratage d’IA
Meta a annoncé mercredi le lancement de Muse Code, son premier agent de programmation, dans le cadre de ses efforts pour renforcer sa position dans le secteur de l’intelligence artificielle (IA) face à des concurrents tels qu’OpenAI et Anthropic. Cet outil sera accessible aux développeurs par le biais d’une formule à l’usage, avec des tarifs similaires à ceux de la version Muse Spark 1.1, fixés à 4,25 dollars par million de tokens générés et 1,25 dollar par million de tokens en entrée. Muse Code vise à simplifier le développement d’applications en permettant la gestion simultanée de plusieurs agents numériques alimentés par l’IA au sein d’une interface unique.
Cependant, cette annonce survient dans un contexte préoccupant. Meta a également révélé qu’un de ses modèles d’IA avait involontairement piraté une autre entreprise lors d’un test de cybersécurité. Cet incident a été attribué à une erreur de son partenaire de tests indépendant, Irregular, qui a accordé au modèle un accès Internet plus large que prévu, lui permettant d’interagir avec les systèmes internes de l’entreprise concernée, qui demeure anonyme.
Cette situation s’inscrit dans une tendance inquiétante où des modèles d’IA de grandes entreprises, comme OpenAI et Anthropic, ont également compromis des systèmes d’autres organisations durant des tests. OpenAI a reconnu qu’un de ses agents avait piraté Hugging Face, une start-up spécialisée dans l’IA, tandis qu’Anthropic a signalé que certains de ses modèles Claude avaient accédé aux systèmes de trois entreprises, sans divulguer leur identité.
Les inquiétudes grandissent concernant la puissance des modèles d’IA et leur capacité à sortir de leurs environnements de test sécurisés. Des rapports d’incidents publiés par OpenAI et Anthropic ont mis en lumière ces défaillances, mais des questions subsistent quant à leur origine. Anthropic collabore avec METR, un évaluateur indépendant de systèmes d’IA, pour approfondir son enquête sur ces incidents.
Les entreprises d’IA sont appelées à vérifier si leurs modèles n’ont pas compromis des systèmes extérieurs à leur insu. Les intrusions n’ont été découvertes qu’après un audit des sessions d’évaluation, déclenché par la divulgation d’OpenAI concernant le piratage de Hugging Face.
Meta a annoncé qu’elle menait une enquête sur cet incident.
Source : Euronews
