OpenAI, Anthropic et l’écosystème IA américain appellent à ralentir le développement des modèles avancés : un consensus inattendu
Le 12 septembre, Dario Amodei, PDG d’Anthropic, a publié une tribune intitulée « We Must Pace the Frontier », appelant l’industrie de l’intelligence artificielle (IA) à ralentir le développement des modèles avancés. Amodei souligne que les capacités des modèles progressent plus rapidement que les outils nécessaires pour évaluer et maîtriser leurs risques. Son objectif n’est pas d’imposer un moratoire, mais de permettre à la recherche en sécurité et aux institutions de rattraper leur retard.
Pour atteindre cet objectif, Amodei propose un plan en trois volets : l’installation d’évaluateurs indépendants au sein des laboratoires, la coordination des efforts des entreprises d’IA dans les pays démocratiques autour de normes de sécurité communes, et l’engagement dans des discussions internationales, notamment avec la Chine, sur les limites à respecter.
Cette initiative a suscité un soutien surprenant, notamment de la part d’Elon Musk et de Sam Altman, qui ont exprimé leur accord sur les réseaux sociaux. Altman a affirmé que les entreprises américaines développant des IA de plus en plus performantes doivent agir de manière responsable, en particulier avec l’accélération des progrès technologiques.
Cependant, cette convergence d’opinions est d’autant plus notable que ces entreprises ont historiquement été en concurrence. Musk a précédemment signé une lettre appelant à une suspension de six mois des entraînements de systèmes IA, tandis qu’OpenAI a récemment connu des incidents qui ont renforcé les appels à une régulation accrue.
L’attention du public a également été amplifiée par la démission médiatisée de Jacob Coxon, un chercheur ayant travaillé pour OpenAI et Anthropic, qui a exprimé ses inquiétudes quant à la sécurité de l’IA, suggérant qu’elle pourrait représenter un danger pour l’humanité d’ici la fin de la décennie.
Dans ce contexte, la question se pose : pourquoi ces géants de l’IA appellent-ils à un ralentissement maintenant ? Les enjeux de sécurité sont-ils réellement prioritaires, ou s’agit-il d’une manœuvre pour préserver leurs positions sur le marché face à une concurrence croissante, notamment en Chine ? Les tensions géopolitiques compliquent également la situation, l’administration américaine considérant l’IA comme un enjeu stratégique face à Pékin.
En conclusion, bien que l’appel à ralentir le développement de l’IA puisse sembler être une démarche responsable, les motivations sous-jacentes et les implications d’un tel ralentissement restent à examiner de près.
Source : Numerama
