Ralentir le développement de l’intelligence artificielle : le plaidoyer de Dario Amodei

Dario Amodei, PDG d’Anthropic, a récemment exprimé des préoccupations majeures concernant le développement rapide de l’intelligence artificielle (IA). Dans un essai de 4 000 mots publié par le Wall Street Journal, il appelle à ralentir l’amélioration des capacités des modèles d’IA et à utiliser le temps gagné de manière judicieuse. Amodei avertit qu’au cours des 6 à 12 prochains mois, des modèles pourraient potentiellement prendre le contrôle de l’intégralité d’Internet, entraînant des dommages financiers considérables.

Ce n’est pas la première fois qu’Amodei évoque les risques associés à l’IA, mais cette déclaration est considérée comme l’un des plaidoyers les plus marquants pour des mes d’urgence dans le secteur. Le débat autour des dangers de l’IA a récemment gagné en intensité, notamment après des déclarations d’anciens chercheurs d’Anthropic, qui affirment que les entreprises d’IA « jouent avec nos vies » et que certains dirigeants croient que l’IA pourrait représenter une menace existentielle d’ici la fin de la décennie.

Amodei propose trois stratégies pour aborder ces préoccupations : impliquer des experts en évaluation des risques au sein des entreprises, établir des standards communs dans les démocraties et collaborer avec des gouvernements, y compris des régimes autoritaires.

La réponse à cet appel a été variée. Des figures majeures de l’IA, comme Sam Altman d’OpenAI et Elon Musk, ont exprimé leur soutien, soulignant un rare consensus parmi des concurrents. Cependant, des critiques émergent également. Certains estiment que ces appels à ralentir le développement sont hypocrites, venant de ceux qui ont précédemment avancé à toute vitesse sans tenir compte des conséquences.

La dynamique internationale est également un sujet de préoccupation. Les discussions sur la régulation de l’IA et la coopération internationale, en particulier avec la Chine, soulèvent des questions complexes. Les défis juridiques et pratiques à surmonter pour une action coordonnée sont considérables.

En somme, la déclaration d’Amodei met en lumière les tensions croissantes autour de l’IA, à la fois en termes de sécurité et de concurrence internationale, alors que le secteur continue de se développer à un rythme rapide.

Source : Wall Street Journal, NBC News, New York Times, Politico, TechCrunch, Axios.