Plus de 1 000 experts en intelligence artificielle (IA), dont Elon Musk et Steve Wozniak, ont signé une lettre ouverte appelant à une pause de six mois dans le développement de systèmes d’IA plus puissants que GPT-4, récemment lancé par OpenAI. Cette initiative vise à élaborer des protocoles de sécurité communs, supervisés par des experts indépendants, afin de garantir que les effets de ces technologies soient positifs et que leurs risques soient gérables. (latribune.fr)
La lettre, publiée par l’organisation à but non lucratif Future of Life Institute, souligne les préoccupations croissantes concernant les impacts potentiels de l’IA avancée sur la société et l’humanité. Les signataires estiment que ces systèmes pourraient provoquer des perturbations économiques et politiques majeures. Ils appellent les développeurs à collaborer avec les décideurs politiques et les autorités de régulation pour élaborer des mes de sécurité appropriées. (latribune.fr)
Parmi les signataires figurent des personnalités influentes du secteur technologique, telles que Yoshua Bengio, directeur scientifique de Mila, et Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley. Cette mobilisation intervient alors qu’Europol a récemment mis en garde contre l’utilisation abusive de systèmes comme ChatGPT dans des activités malveillantes telles que le phishing, la désinformation et la cybercriminalité. (latribune.fr)
Cette initiative reflète une inquiétude grandissante quant aux implications éthiques et sociétales de l’IA avancée, soulignant la nécessité d’une régulation proactive pour encadrer le développement de ces technologies.
