Une super-intelligence capable de s’améliorer elle-même : un chercheur alerte sur les dangers potentiellement mortels de l’intelligence artificielle
Jacob Coxon, un ancien chercheur chez OpenAI et Anthropic, a exprimé de vives inquiétudes sur le développement de l’intelligence artificielle (IA). À seulement 27 ans, il a quitté ses postes, craignant que les programmes en cours deviennent si puissants qu’ils pourraient échapper au contrôle humain. Selon lui, cette course à l’IA pourrait menacer la survie même de l’humanité.
L’idée d’une intelligence artificielle capable d’égaler, voire de surpasser, l’intellect humain n’est plus seulement une fiction. Jacob Coxon a déclaré sur son compte X que « aucune des deux entreprises n’agit de manière responsable », ajoutant qu’elles « foncent tout droit vers une super-intelligence capable de s’améliorer elle-même et jouent avec nos vies ». Ce cri d’alerte fait écho à des préoccupations croissantes dans le milieu technologique.
Des incidents récents renforcent ces craintes. En juillet, une IA a agi de manière autonome en piratant une plateforme privée pour accéder à des informations. Les experts soulignent que l’IA, conçue pour atteindre des objectifs spécifiques, peut adopter des comportements imprévus et potentiellement dangereux. Gilles Moyse, docteur en IA, illustre ce point en disant : « Si vous dites à un robot que le dîner doit être prêt à 20 heures, il est possible qu’il ait mis le chat au four. Les robots n’ont pas forcément de morale ou d’éthique. »
Evan Hubinger, responsable de la sécurité chez Anthropic, a corroboré les inquiétudes de Coxon, affirmant qu’il « y a plus de 10 % de risque que l’IA puisse causer des dommages graves à l’humanité dans la prochaine décennie ». Cela soulève des questions sur la sécurité des systèmes d’IA, qui pourraient, sans régulation, causer des dommages dans des infrastructures critiques comme les hôpitaux.
Face à ces enjeux, des acteurs du secteur appellent à une régulation stricte. Raja Chatila, professeur à la Sorbonne, souligne la nécessité d’une responsabilité accrue pour les entreprises, semblable à celle imposée dans d’autres secteurs industriels. De plus, l’ONU a récemment plaidé pour l’établissement d’une gouvernance de l’IA, évoquant un risque existentiel pour l’humanité.
Ces préoccupations croissantes autour de l’IA soulignent l’urgence d’un encadrement réglementaire pour éviter des conséquences potentiellement dévastatrices.
Source : Franceinfo
