OpenAI, Anthropic et Google DeepMind créent un organe de supervision des risques liés à l’IA

L’instauration par la profession de son propre organe de surveillance nécessiterait une loi, notamment pour éviter que l’industrie de l’IA ne soit accusée d’entente et d’infraction à la concurrence.

Les entreprises américaines OpenAI, Anthropic et Google DeepMind travaillent à la création d’un organe de supervision des risques liés à l’intelligence artificielle (IA), a déclaré OpenAI à l’AFP le 15 septembre. Cette initiative intervient alors que les appels à un meilleur contrôle des dérives de l’IA se multiplient.

L’idée a été proposée par Demis Hassabis, directeur général de Google DeepMind, qui a suggéré la création d’une entité similaire à l’Autorité américaine de régulation de l’industrie financière (FINRA), une instance d’auto-régulation pour le secteur financier.

L’instauration d’un tel organe nécessiterait vraisemblablement une loi pour éviter des accusations d’entente et d’infraction à la concurrence au sein de l’industrie de l’IA. Dans un message publié en juillet, Hassabis a imaginé une structure financée par les entreprises du secteur, avec un conseil composé d’experts indépendants et de représentants de l’écosystème ouvert.

L’écosystème ouvert inclut les développeurs d’IA accessibles gratuitement, en opposition aux modèles fermés comme ceux d’OpenAI ou Anthropic. Une fois l’organisation établie, les sociétés d’IA avancées devraient soumettre leurs nouveaux modèles à un examen axé sur la sécurité avant de pouvoir les commercialiser.

Cette nouvelle instance pourrait également envisager un ralentissement coordonné du développement de l’IA, selon Hassabis, si l’évaluation des risques ne suit pas le rythme de l’évolution technologique.

Source : AFP.