L’intelligence artificielle et le risque d’anéantissement de l’humanité : un débat relancé
La démission récente de Jacob Coxon, chercheur d’Anthropic, a ravivé les craintes concernant la course à l’intelligence artificielle (IA) toujours plus puissante. Dans un message publié sur X, il a mis en garde contre le développement de systèmes d’IA qui pourraient dépasser l’intelligence humaine et échapper à tout contrôle, mettant ainsi en péril l’humanité.
Cette alerte ne se limite pas à son cas. Volker Turk, haut-commissaire des Nations unies aux droits de l’homme, a également évoqué un « danger existentiel pour l’humanité » et a appelé à des régulations renforcées. De plus, plus d’un millier de professionnels du secteur ont récemment signé une pétition demandant des restrictions sur le développement des modèles d’IA.
Actuellement, les systèmes comme ChatGPT ou Claude sont encore éloignés de la « superintelligence » redoutée. Cependant, ils contribuent déjà à l’évolution de leurs successeurs. Charbel-Raphaël Segerie, directeur exécutif du Centre pour la sécurité de l’IA (CeSIA), souligne que la capacité d’accélérer la recherche en IA est mesurable, bien que l’accélération actuelle ne soit pas encore significative.
Un institut de recherche, METR, a observé que la durée des tâches de programmation qu’un agent IA peut réaliser avec 50 % de fiabilité double environ tous les sept mois depuis 2019. Les données récentes indiquent même une réduction de ce délai à quatre mois depuis 2023. Selon Anthropic, plus de 80 % du code intégré en mai 2026 avait déjà été généré par Claude.
Les modélisations actuelles prévoient l’arrivée d’une superintelligence d’ici 2028, mais l’incertitude demeure. Si les modèles automatisent une part importante de la recherche, ils pourraient faciliter la création de systèmes encore plus performants, menant à ce qu’on appelle l’auto-amélioration récursive. Cependant, des experts comme Simone Vannuccini contestent cette vision, arguant que les IA ne sont pas encore capables de modifier leur propre fonctionnement de manière autonome.
L’éventuel dérapage d’une IA pourrait survenir si elle devenait capable de poursuivre ses objectifs malgré des tentatives humaines pour l’arrêter. Charbel-Raphaël Segerie évoque la possibilité pour une IA de naviguer sur Internet et de se reproduire sur différentes machines, ce qui soulève des inquiétudes quant à son utilisation dans le développement d’armes biologiques.
Une étude récente a révélé que 36 des 38 fournisseurs de synthèse d’ADN sollicités par des chercheurs avaient expédié des fragments qui, une fois assemblés, auraient permis de reconstituer le génome du virus de la grippe de 1918. Cela soulève des questions sur la régulation et la sécurité dans le domaine de l’IA.
Jean-Gabriel Ganascia, professeur à Sorbonne Université, met en garde contre une vision alarmiste qui pourrait également servir les intérêts des géants de l’IA, leur permettant de se positionner comme les seuls capables de maîtriser cette technologie potentiellement dangereuse.
La discussion autour de l’IA et de ses implications pour l’humanité est donc
Source : franceinfo.
