L’IA va-t-elle vraiment tous nous tuer ?
Embarqueriez-vous dans un avion dont vous savez qu’il a une chance sur dix de se crasher ? Probablement pas, mais manifestement, Evan Hubinger, responsable de l’alignement scientifique chez Anthropic, le ferait. Ce 9 septembre, sur X, il a déclaré : « Nous croyons sincèrement que l’IA pourrait bien anéantir l’humanité tout entière ! Personnellement, j’estime que la probabilité est supérieure à 10 % au cours de la prochaine décennie ». Face à cette inquiétude, l’idée d’un ralentissement du développement des IA commence à émerger, y compris chez les grands acteurs du secteur. Cependant, une décélération collective reste, à ce jour, difficilement envisageable.
Un petit vent de panique dans le monde de l’IA
Le post d’Evan Hubinger faisait suite à un long thread publié par Jacob Coxon, qui a récemment annoncé sa démission d’Anthropic, où il était chargé du pré-entraînement des modèles. Ce chercheur, également passé par OpenAI, a dénoncé l’irresponsabilité des dirigeants, qu’il accuse de « jouer avec nos vies ».
Jacob Coxon a déclaré : « Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Il ne s’agit pas d’un coup de pub. Au contraire, de nombreux dirigeants et chercheurs de haut niveau veillent à modérer leurs propos dans la presse pour paraître raisonnables, mais j’entends ces mêmes personnes exprimer leurs craintes en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »
En février 2026, Mrinank Sharma, responsable de la recherche sur les garde-fous censés limiter les dérives des modèles, a également démissionné. Dans sa lettre de départ, il a écrit : « Le monde est en péril. Et pas seulement à cause de l’IA ou des armes biologiques, mais à cause de toute une série de crises interconnectées qui se déroulent en ce moment même. »
La crainte d’une superintelligence
La superintelligence est au cœur des préoccupations liées au développement des IA. Sam Altman, cofondateur d’OpenAI, a lui-même souligné que l’avènement d’une superintelligence pourrait « s’avérer très dangereux et mener à l’affaiblissement de l’humanité, voire à son extinction ». Ce concept désigne un système dont les capacités dépasseraient celles de l’esprit humain dans tous les domaines.
Les chercheurs s’inquiètent particulièrement du scénario d’auto-amélioration récursive, où une IA suffisamment avancée pourrait mener elle-même des recherches en intelligence artificielle, entraînant ainsi ses propres successeurs. Une fois cette boucle enclenchée, chaque nouvelle génération de modèles produirait la suivante, avec une intervention humaine de plus en plus réduite.
Anthropic a détaillé cette trajectoire en quatre étapes.
- 2023-2025, les chatbots : Les premiers modèles se limitaient à générer de courts extraits de code, que les développeurs copiaient eux-mêmes.
- 2025-2026, les agents de codage : Des agents plus autonomes ont commencé à écrire et modifier des fichiers entiers sans intervention humaine.
- Aujourd’hui, les agents autonomes : Ces systèmes exécutent leur code et délèguent des tâches entières à d’autres agents.
- Étape suivante, non datée : Des agents suffisamment compétents pour entraîner de nouveaux modèles, complétant ainsi la boucle d’auto-amélioration.
Sam Altman et Dario Amodei envisagent l’arrivée d’une superintelligence totale à très court terme, respectivement autour de 2030 et 2027. Bien que ce scénario semble encore éloigné, des signes d’autonomie préoccupants commencent à apparaître.
Vers un ralentissement des IA ?
L’épisode récent impliquant Hugging Face a éveillé les esprits. Le 29 juillet 2026, plus de 1 100 employés et dirigeants d’OpenAI, Anthropic, Google DeepMind et Meta ont publié une déclaration commune, « Pacing the Frontier », demandant au gouvernement américain de se doter des outils nécessaires pour ralentir le développement des IA avancées. Les signataires ont exprimé : « Il existe un risque que le développement des aptitudes des modèles accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes. »
Cependant, l’exécutif américain a rapidement fermé la porte à cette demande. Interrogé sur l’appel à ralentir le secteur, Donald Trump a déclaré : « Whoever wins with AI wins », insistant sur le fait que la Chine ne devait pas prendre l’avantage. Un ralentissement concerté du développement des IA ne semble donc pas à l’ordre du jour.
Le marketing de la peur : un carburant pour les géants de l’IA
Evan Hubinger a lui-même affirmé que « rien n’est plus difficile que de ne pas détruire le monde ». L’attitude des grands laboratoires soulève des interrogations. S’ils craignent les conséquences de leurs innovations, pourquoi continuent-ils à développer ces IA ?
La réponse économique semble être un facteur clé. Les laboratoires se retrouvent pris dans un cercle vicieux. Ralentir unilatéralement signifierait laisser le champ libre à des concurrents. Cette rhétorique du risque existentiel alimente également un marketing de la peur, souvent entretenu par les dirigeants eux-mêmes.
David Sacks, conseiller IA de la Maison-Blanche, a accusé Anthropic de mener « une stratégie sophistiquée de captation réglementaire fondée sur la peur », plaidant pour une réglementation si lourde que seuls les acteurs déjà en place pourraient s’y conformer.
La situation actuelle soulève des questions cruciales sur l’avenir des IA et leurs implications sur l’humanité.
