OpenAI, Google et Anthropic envisagent la création d’un organisme de contrôle de l’IA
OpenAI, Google et Anthropic travaillent sur la mise en place d’un organisme dédié à la régulation de l’intelligence artificielle, agissant indépendamment du gouvernement américain. Cette initiative vise à établir des normes de sécurité pour l’IA, permettant à ces entreprises concurrentes de définir elles-mêmes les règles encadrant leurs technologies.
Dans un contexte de préoccupations croissantes concernant la sécurité de l’IA, OpenAI, Google, Anthropic et plus de 100 autres entreprises ont récemment appelé à une « réponse mondiale » face aux cyberattaques liées à l’IA. OpenAI a également plaidé pour l’instauration de normes nationales obligatoires en matière de sécurité, tout en mettant en place des garde-fous pour son modèle GPT-6 Astra.
Un organisme créé par OpenAI, Anthropic et Google pour contrôler l’IA
Dans un article de blog daté du 9 septembre, OpenAI a souligné la nécessité d’établir des normes nationales de sécurité pour l’IA. Cependant, l’ancien président Donald Trump a exprimé son opposition à ces normes, les jugeant susceptibles de ralentir le développement technologique, en particulier alors que la Chine continue d’avancer sans régulations strictes.
OpenAI a indiqué qu’elle ne souhaitait pas attendre l’approbation du gouvernement pour mettre en place des normes de sécurité. L’entreprise a annoncé sa volonté de collaborer avec d’autres laboratoires de pointe pour développer des normes, même sans soutien gouvernemental.
Selon des informations rapportées par The Information, OpenAI, Anthropic et Google auraient discuté de la création d’un organisme indépendant pour réguler l’IA. Cet organisme établirait ses propres normes et outils de sécurité pour évaluer les modèles avancés d’IA et leurs risques. La création de cet organisme pourrait potentiellement harmoniser les pratiques de sécurité parmi les principaux fournisseurs d’IA aux États-Unis.
Quelle serait la légitimité d’un tel organisme ?
Sam Altman, PDG d’OpenAI, estime que les laboratoires d’IA doivent établir cet organisme sans l’appui du gouvernement. Bien que cela puisse rasr certains sur la régulation des capacités de l’IA, la mise en œuvre de ces normes dans un contexte de concurrence féroce soulève des questions sur leur efficacité. Sans supervision étatique ou externe, il reste à voir comment cet organisme pourrait réellement contrôler les pratiques de ses membres.
Source : The Information
