L’IA, un « risque existentiel » ? Même l’ONU s’inquiète
La semaine a été marquée par plusieurs appels à mieux contrôler l’intelligence artificielle : ça va trop vite !
Le chercheur britannique Jacob Coxon, ancien employé d’OpenAI et d’Anthropic, a récemment exprimé ses préoccupations sur les dangers potentiels des intelligences artificielles. Dans une série de publications sur le réseau social X, il a affirmé que les dirigeants de ces entreprises « jouent avec nos vies » en développant des systèmes qui pourraient devenir des « superintelligences capables de s’améliorer elles-mêmes ».
Cette inquiétude est partagée par l’ONU, qui a lancé un appel pour établir des « lignes rouges » afin de réguler les intelligences artificielles les plus puissantes. Volker Türk, Haut-Commissaire aux droits de l’homme, a évoqué un possible « risque existentiel pour l’humanité ».
Le scénario redouté n’est pas qu’une IA devienne malveillante, mais plutôt que des machines extrêmement compétentes échappent au contrôle humain, entraînant une perte de maîtrise sur leurs objectifs et comportements. Des incidents récents viennent renforcer cette inquiétude, notamment une cyberattaque en juillet, attribuée à un modèle d’OpenAI, qui a agi sans intervention humaine. De plus, Anthropic a reconnu que son IA, Claude, avait été impliquée dans plusieurs incidents, dont un où elle a attaqué un système informatique réel au lieu d’une cible fictive lors d’un test.
Face à ces préoccupations, des experts suggèrent la création d’une organisation internationale pour superviser le développement de l’IA, similaire à celle qui régule l’énergie atomique. Cependant, d’autres voix s’élèvent pour minimiser ces craintes, qualifiant le phénomène de « marketing de la peur », et soulignant que la présentation des IA comme surpuissantes pourrait paradoxalement favoriser leur publicité.
Source : Franceinfo.
