OpenAI, Anthropic et Google unissent leurs efforts pour la régulation de l’intelligence artificielle
OpenAI, Anthropic et Google DeepMind collaborent depuis plusieurs semaines sur des questions de sécurité liées à l’intelligence artificielle. Cette initiative a été révélée par Chris Lehane, responsable des affaires publiques internationales d’OpenAI, lors d’une déclaration à l’agence de presse Bloomberg le 15 septembre. Les trois entreprises envisagent la création d’un organe de supervision pour évaluer les risques associés à cette technologie, en réponse à une demande croissante pour une régulation plus stricte.
Cette idée émane de Demis Hassabis, président de Google DeepMind, qui avait proposé en juillet la mise en place d’une entité inspirée de l’Autorité américaine de régulation de l’industrie financière (Finra). Cet organisme serait chargé de surveiller l’IA, d’évaluer les modèles avancés et de coordonner un ralentissement du développement si les risques devenaient préoccupants, selon TechCrunch.
Lors de la conférence Dreamforce à San Francisco, Sam Altman, PDG d’OpenAI, a déclaré que les préoccupations concernant les risques associés à l’IA étaient légitimes, mais a exprimé sa confiance envers les acteurs du secteur pour promouvoir un développement sûr de cette technologie.
Jensen Huang, le patron de Nvidia, a également pris la parole lors de l’événement, affirmant qu’il n’était pas nécessaire d’introduire de nouvelles lois ou réglementations. Cependant, Aidan Gomez, CEO de Cohere, a mis en garde contre le fait qu’un petit groupe d’entreprises ne devrait pas définir la politique de l’IA pour le reste du monde, soulignant l’importance de consulter un large éventail de parties prenantes.
L’annonce de cette collaboration survient alors que se tient à Washington la Pro-Human Assembly, un événement axé sur la nécessité de réguler l’IA. Des personnalités politiques telles que le sénateur Bernie Sanders et Steve Bannon ont exprimé des opinions divergentes sur la manière de gérer les risques liés à cette technologie, mettant en lumière des inquiétudes croissantes quant à son potentiel destructeur.
Source : Bloomberg, TechCrunch, Axios.
