Jacob Coxon démissionne et accuse les géants de l’IA de « jouer avec nos vies »
Jacob Coxon, ancien chercheur en intelligence artificielle chez OpenAI et Anthropic, a annoncé sa démission dans une série de tweets publiés sur X dans la nuit du 8 au 9 septembre 2026. Son message a rapidement suscité un large écho, atteignant des dizaines de millions de vues. Dans ses déclarations, il critique les deux entreprises pour leur manque de responsabilité, affirmant qu’elles se dirigent vers une « superintelligence auto-améliorante » tout en prenant des risques existentiels.
Coxon, qui a travaillé sur le pretraining des grands modèles de langage, souligne que ce rôle lui a permis d’observer de près les dynamiques internes des deux laboratoires. Il fait écho aux préoccupations précédemment exprimées par d’autres chercheurs, notamment Mrinank Sharma, un membre de l’équipe de sécurité d’Anthropic, qui a quitté son poste en février 2026, évoquant un « monde en péril ».
Le chercheur met en avant le fait que, chez OpenAI, de nombreux employés ne semblent pas saisir l’ampleur des enjeux civilisationnels liés à l’IA. À Anthropic, bien que ces enjeux soient mieux compris, la pression de la compétition pousse l’entreprise à avancer sans ralentir, de peur qu’un concurrent moins prudent ne devance ses efforts.
Coxon évoque également le concept d’« alignement », qui désigne les méthodes visant à garantir que les systèmes d’IA agissent selon les intentions humaines. Il s’inquiète de l’éventualité que les laboratoires lancent des cycles d’apprentissage par renforcement à grande échelle sur des systèmes dont le raisonnement interne n’est pas encore bien compris.
Son message ne réclame pas un arrêt immédiat du développement de l’IA, mais appelle plutôt ses anciens collègues à réfléchir sur leur rôle dans cette dynamique de course.
Ce témoignage s’inscrit dans un contexte plus large où des signaux d’alarme ont été émis récemment, notamment à la suite d’une cyberattaque par des agents IA d’OpenAI contre l’infrastructure de Hugging Face, qui a incité plusieurs milliers d’employés de laboratoires concurrents à signer une lettre ouverte demandant un « ralentissement maîtrisé » du développement de l’IA.
L’alerte lancée par Coxon pourrait renforcer les discussions sur la régulation de l’IA, un sujet qui suscite un intérêt croissant au sein de la communauté scientifique et du grand public.
Source : Numerama
