OpenAI appelle à un ralentissement coordonné du développement de l’IA
Alors que les préoccupations concernant les dérives potentielles de l’intelligence artificielle se multiplient, OpenAI a déclaré être prêt à ralentir ses activités. Sam Altman, le PDG de la société, a exprimé son souhait que son entreprise ne soit pas la seule à le faire, appelant tous les laboratoires d’IA à accepter un moratoire.
Ces dernières semaines, plusieurs voix se sont élevées pour demander un ralentissement du développement de l’IA. Dans une lettre ouverte, OpenAI, Google, Anthropic et plus de cent entreprises technologiques, financières et de cybersécurité ont réclamé une « réponse mondiale » urgente face à l’essor d’intelligences artificielles capables de lancer des cyberattaques. De plus, plus de 1 000 employés des principaux acteurs de l’IA ont signé une pétition similaire, appelant à la création d’un mécanisme permettant de ralentir le développement des modèles si nécessaire.
Jacob Coxon, un ancien employé d’Anthropic, a récemment démissionné, affirmant que « les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie ». Evan Hubinger, responsable de la sécurité chez Anthropic, a également signalé un risque supérieur à 10 % que l’intelligence artificielle entraîne la fin de l’humanité dans les dix prochaines années.
Dans ce contexte alarmant, OpenAI a décidé de ralentir et de suspendre le développement de certains de ses modèles les plus puissants, tout en dévoilant son nouveau modèle, Astra, qui alimente ChatGPT. Lors d’une réunion interne, Altman a indiqué que la société pourrait modérer le rythme de développement de ses IA.
Cependant, Altman a précisé qu’OpenAI ne souhaite pas être le seul géant de l’IA à freiner ses innovations. Il envisage un moratoire coordonné entre les laboratoires spécialisés en IA, craignant qu’une entreprise qui ralentit seule ses travaux ne perde du terrain face à des concurrents moins soucieux de la sécurité.
Altman a reconnu que tous les acteurs du marché ne seraient pas nécessairement d’accord avec une telle initiative. Cette déclaration intervient alors qu’OpenAI se prépare activement à son entrée en Bourse, un moment financièrement délicat pour suspendre la recherche sur l’IA.
Source : Reuters
