Sécurité de l’IA chez Anthropic : le départ de Jacob Coxon
Jacob Coxon, chercheur en intelligence artificielle ayant travaillé chez OpenAI et Anthropic, a récemment annoncé sa démission, critiquant l’industrie de l’IA pour son manque de précautions face aux dangers qu’elle représente. Dans un message publié sur la plateforme X, il a exprimé ses préoccupations concernant la course à la « super-intelligence », affirmant que « les responsables du développement de l’IA pensent sincèrement qu’elle a la capacité de tous nous tuer d’ici à la fin de la décennie ».
Coxon a souligné que « aucune autre activité humaine ne représente un tel danger » et a mis en avant la concurrence entre les entreprises d’IA, qui empêche toute me de ralentissement pour éviter des conséquences catastrophiques. Il a averti que nous pourrions bientôt disposer de systèmes suprahumains capables de pirater des infrastructures critiques et de transformer radicalement divers domaines de recherche.
Le discours de Coxon s’inscrit dans un contexte où les inquiétudes sur les risques associés à l’IA sont de plus en plus fréquentes, notamment chez des figures influentes de l’industrie. Anthropic, entreprise fondée en partie pour répondre à ces préoccupations, a vu son PDG exprimer des craintes similaires sur les dangers existentiels posés par l’IA.
Les conséquences de l’IA sont déjà visibles, touchant des domaines tels que la santé mentale, où des incidents tragiques ont été rapportés, et le marché du travail, avec des estimations suggérant que jusqu’à 40 % des emplois mondiaux pourraient être menacés par l’automatisation.
Coxon a également appelé à un « embargo temporaire sur l’amélioration des modèles » d’IA, une proposition jugée difficile à mettre en œuvre dans un monde où les avancées technologiques sont rapides et où la compétition entre nations est forte.
En février 2026, Anthropic avait déjà assoupli certaines de ses politiques de sécurité, justifiant cette décision par la nécessité de rester compétitif. Ce changement a soulevé des inquiétudes quant à la capacité de l’entreprise à gérer les risques associés à ses technologies.
En somme, le départ de Jacob Coxon met en lumière des tensions croissantes au sein de l’industrie de l’IA, où les préoccupations éthiques et sécuritaires sont de plus en plus pressantes, mais souvent éclipsées par la quête de progrès technologique.
Source : Frandroid
