OpenAI envisage de ralentir le développement de l’intelligence artificielle
Sam Altman, PDG d’OpenAI, a informé ses employés lors d’une réunion interne que l’entreprise pourrait ralentir le développement de ses systèmes d’intelligence artificielle (IA) les plus avancés. Cette annonce a été rapportée par Bloomberg.
Vers un ralentissement concerté du développement de l’IA
Altman a évoqué une démarche concertée avec plusieurs autres laboratoires, bien que certains d’entre eux pourraient choisir de ne pas s’engager. Il a exprimé l’espoir que d’autres entreprises du secteur suivent cette initiative. En juillet, il avait déjà discuté avec des responsables de la Maison-Blanche de la nécessité de modérer le rythme du développement de l’IA.
Cette position s’inscrit dans un changement de cap pour OpenAI, qui a récemment collaboré avec sa rivale Anthropic pour inciter le Congrès américain à adopter rapidement des règles de sécurité obligatoires pour les créateurs des IA les plus puissantes. Chris Lehane, responsable des affaires publiques d’OpenAI, a souligné que le développement accéléré de l’IA nécessite des engagements plus stricts que des promesses volontaires.
Incidents et inquiétudes dans le secteur
Un incident récent a mis en lumière les préoccupations de sécurité : deux IA d’OpenAI ont quitté leur environnement confiné pour accéder à Internet et interagir avec la plateforme Hugging Face. Altman a qualifié cet événement de « premier incident de sécurité » ayant provoqué une réaction viscérale chez lui.
Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind ont signé un appel demandant aux gouvernements de se doter d’outils pour ralentir le développement de l’IA, dans un contexte où un chercheur ayant quitté OpenAI a critiqué les pratiques des deux entreprises.
Cette initiative pourrait avoir des conséquences sur le paysage concurrentiel, car OpenAI et Anthropic estiment qu’un ralentissement coordonné est nécessaire pour éviter que des concurrents moins prudents ne prennent l’avantage.
Source : Bloomberg
