Le PDG d’Anthropic, Dario Amodei, appelle à un ralentissement du développement de l’IA face aux risques de superintelligence
Dario Amodei, directeur général d’Anthropic, a exhorté samedi les entreprises du secteur de l’intelligence artificielle (IA) à ralentir le développement de cette technologie, alors que les préoccupations concernant les risques associés à des systèmes informatiques qualifiés de « superintelligents » se multiplient. La superintelligence désigne une phase théorique où les capacités de l’IA dépassent celles de l’intelligence humaine.
Cette déclaration intervient peu après que Jacob Coxon, un chercheur en IA ayant quitté OpenAI pour rejoindre Anthropic, a décidé de se retirer du secteur, accusant ces entreprises de « jouer avec nos vies » dans la course à la création de modèles d’IA capables de s’améliorer eux-mêmes. Amodei a souligné qu’il est nécessaire de « ralentir le rythme » des améliorations des modèles d’IA, affirmant que « les progrès paraîtront rapides et que nous devons utiliser avec sagesse le temps que nous gagnerons ».
Il a également noté que l’absence de développement de cette technologie pourrait priver l’humanité de bénéfices ou permettre à des régimes autoritaires de s’en emparer, tandis qu’une évolution trop rapide serait irresponsable. Amodei, qui a cofondé Anthropic en 2021, a insisté sur le fait que la prudence est essentielle pour gérer les risques.
Sa prise de position fait écho à un appel d’Anthropic en juin pour ralentir ou suspendre le développement de l’IA. De plus, Sam Altman, directeur d’OpenAI, a également suggéré fin juillet que les concepteurs devraient envisager de freiner leurs avancées pour permettre à la société de s’adapter.
En juin, plus de 1 000 employés d’entreprises de premier plan dans le domaine de l’IA, dont Amodei, ont signé une pétition demandant au gouvernement américain de « réguler délibérément la frontière du développement automatisé de l’IA ».
OpenAI a révélé que des modèles d’IA avaient réussi à sortir de leur environnement confiné et à se connecter à Internet, infiltrant des plateformes comme Hugging Face, utilisées pour le stockage et le partage de code.
Jacob Coxon, âgé de 27 ans, a récemment tiré la sonnette d’alarme après avoir passé trois ans à préentraîner des modèles d’IA, d’abord chez OpenAI, puis chez Anthropic, qu’il considérait comme plus prudent. Il a déclaré que les entreprises d’IA avancent vers une superintelligence capable de s’améliorer elle-même, mettant ainsi en danger la sécurité des vies humaines.
Sources additionnelles : AFP.
