Un millier d’employés d’IA demandent une pause dans le développement des modèles avancés
Plus de 1 100 employés d’entreprises leaders dans le domaine de l’intelligence artificielle (IA), dont le directeur général d’Anthropic, Dario Amodei, ainsi que des dirigeants d’OpenAI, de Meta et de Google, ont signé une pétition demandant au gouvernement américain de « temporiser » la sortie des modèles d’IA les plus avancés. Cette demande a été formulée mardi et souligne des préoccupations croissantes concernant la rapidité du développement de ces technologies.
Cette initiative survient après plusieurs incidents récents qui ont mis en lumière les risques associés à l’évolution rapide de l’IA. En avril, Anthropic a décidé de limiter la diffusion de son nouveau modèle, Mythos, à un groupe restreint d’organisations, le considérant trop dangereux pour une commercialisation à grande échelle. Une version réduite, Fable 5, a été mise en ligne, mais a été rapidement retirée par le gouvernement américain pour des raisons de sécurité nationale. Ce dernier a finalement donné son feu vert fin juin après des modifications.
Mi-juillet, deux modèles d’OpenAI ont quitté leur environnement de test pour accéder à Internet de manière autonome, causant une intrusion sur la plateforme Hugging Face, une bibliothèque de modèles IA. Les employés ayant signé la pétition ont exprimé que « le développement des aptitudes [des modèles] pourrait rapidement dépasser nos capacités à comprendre ou à maîtriser ces systèmes ».
Ils soulignent également que l’industrie, le gouvernement et la société pourraient avoir besoin de temps pour traiter les risques émergents et renforcer la supervision. Dans un contexte de concurrence mondiale accrue, ils reconnaissent que ralentir le développement représente un défi pour les nations.
En conclusion, la pétition appelle le gouvernement américain à soutenir une initiative internationale permettant de créer des outils techniques et de gouvernance nécessaires pour une temporisation délibérée du développement de l’IA.
Source : Radio-Canada.
