Risques existentiels : un ex-chercheur accuse OpenAI et Anthropic
Le 9 septembre 2026, le chercheur en intelligence artificielle Jacob Coxon a annoncé sa démission d’Anthropic, dénonçant les « risques existentiels » que l’entreprise et son ancien employeur, OpenAI, feraient courir à l’humanité. Selon Coxon, spécialiste du pretraining, les deux géants de l’IA n’agissent pas de manière responsable et se dirigent vers une « superintelligence auto-améliorante » qui pourrait menacer « l’avenir de l’humanité ».
Coxon exprime ses craintes quant à l’évolution des modèles d’IA, qui pourraient devenir « surhumains » et capables de pirater n’importe quel système ou de bouleverser la recherche scientifique mondiale. Il distingue cependant les approches d’OpenAI et d’Anthropic : OpenAI, selon lui, ne semble pas mer l’ampleur des enjeux civilisationnels, tandis qu’Anthropic en aurait conscience, mais serait piégée dans une « course » à l’innovation, craignant de se faire distancer par des concurrents moins prudents.
Ces entreprises pourraient perdre leur capacité à comprendre le raisonnement interne de leurs modèles, ce qui compromettrait leur capacité à garantir que ces derniers agissent conformément aux intentions humaines. Le 6 septembre 2026, Jakub Pachocki, chef scientifique d’OpenAI, a reconnu que l’outil utilisé pour surveiller ce raisonnement devenait « de moins en moins fiable ».
Coxon appelle ses anciens collègues à réfléchir sur leur rôle dans cette dynamique inquiétante. En février 2026, un autre chercheur d’Anthropic, Mrinank Sharma, avait également démissionné pour des raisons similaires, évoquant un « monde en péril ».
Source : INCYBER NEWS
