Dario Amodei d’Anthropic appelle à ralentir le développement de l’IA
Dans un post devenu viral, Dario Amodei, CEO d’Anthropic, a exprimé la nécessité de ralentir la progression des modèles d’intelligence artificielle (IA) de frontière. Il met en avant des préoccupations concernant l’auto-amélioration de l’IA, les incidents récents impliquant des agents autonomes, et une capacité de contrôle qui ne suit pas la montée en puissance de ces systèmes. Cette alerte met en lumière une doctrine industrielle et géopolitique où l’Europe semble absente.
Dans sa lettre ouverte intitulée We Must Pace the Frontier, Amodei admet que l’équation entre la recherche accélérée et la sécurisation des modèles ne tient plus. Il ne demande pas un moratoire, mais un ralentissement dans la course à l’intelligence générale artificielle (AGI), soulignant que l’industrie pourrait bientôt manquer de temps pour se réguler.
Amodei présente dix préoccupations majeures, dont l’idée que « l’auto-amélioration récursive pourrait dépasser notre capacité à comprendre et contrôler ces systèmes ». Il avertit également que dans un avenir proche, un système pourrait être capable de compromettre une grande partie d’Internet. Il souligne que chaque laboratoire d’IA devrait agir comme si un incident similaire à celui d’OpenAI-Hugging Face pouvait leur arriver.
Pour contrer ces risques, Amodei propose un plan en trois étapes :
- Rendre les laboratoires auditables par des évaluateurs tiers.
- Établir des standards de sécurité communs entre les entreprises d’IA des démocraties.
- Coordonner ce ralentissement avec les régimes autoritaires, en particulier la Chine.
Dario Amodei note que les capacités des modèles avancent plus rapidement que les mes de sécurité, rendant difficile la régulation adéquate. Il conclut en affirmant que la sécurité de l’IA doit devenir une politique industrielle, et que les États-Unis doivent maintenir une avance technologique sur les régimes autoritaires pour asr la sécurité.
Cette déclaration intervient dans un contexte où les incidents liés à l’IA sont en augmentation, soulevant des questions sur la capacité des laboratoires à gérer les conséquences de leur propre rapidité d’innovation.
Source : Dario Amodei, We Must Pace the Frontier (2023)
