OpenAI, Anthropic et Google DeepMind créent un organe de supervision des risques liés à l’IA
OpenAI, Anthropic et Google DeepMind annoncent la mise en place d’un organe de supervision des risques associés à l’intelligence artificielle (IA), comme l’a précisé OpenAI le 15 septembre. Cette initiative intervient dans un contexte où les appels à un meilleur contrôle des dérives de l’IA se multiplient.
L’idée émane de Demis Hassabis, ancien directeur général de Google DeepMind, qui a proposé la création d’une entité comparable à l’Autorité américaine de régulation de l’industrie financière (FINRA), une instance d’autorégulation du secteur financier. La FINRA a été établie par la loi fédérale et est sous la supervision de la SEC, le régulateur des marchés américains.
Depuis plusieurs mois, les principaux acteurs de l’IA incitent le gouvernement américain à encadrer le secteur et à garantir la sécurité des systèmes d’IA. L’administration Trump a lancé un processus d’évaluation des nouveaux modèles d’IA début août, bien que celui-ci repose sur le volontariat et que son fonctionnement n’ait pas été précisé.
Suite à l’appel au ralentissement du développement de l’IA formulé par Dario Amodei, le patron d’Anthropic, Donald Trump et d’autres membres de la majorité présidentielle ont réaffirmé leur volonté de ne pas restreindre le secteur, craignant notamment un désavantage face à la Chine.
La mise en place d’un organe de surveillance au sein de l’industrie nécessiterait probablement une loi, afin d’éviter des accusations d’entente ou d’infraction à la concurrence. Dans un message publié en juillet, Hassabis a imaginé une structure financée par les entreprises du secteur, avec un conseil composé d’experts indépendants et de représentants de l’écosystème ouvert.
Ce dernier inclut des développeurs d’IA ouvertes, c’est-à-dire accessibles gratuitement et modifiables, contrairement aux modèles fermés d’OpenAI ou d’Anthropic. Une fois l’organisation établie, les entreprises les plus avancées en IA devront soumettre leurs nouveaux modèles à un examen axé sur la sécurité avant leur commercialisation. Cette instance pourrait également être à l’origine d’un ralentissement coordonné du développement de l’IA si la gestion des risques ne suit pas le rythme de l’évolution technologique.
Source : OpenAI
