Un millier d’employés d’entreprises à la pointe de l’intelligence artificielle (IA), dont plusieurs dirigeants, ont demandé au gouvernement américain d’aider à « temporiser » la sortie des modèles d’IA les plus avancés, exprimant leurs inquiétudes face à une possible accélération incontrôlée. Cette requête a été formulée sous forme de pétition, signée par plus de 1 100 personnes, incluant des figures de proue comme Dario Amodei, directeur général d’Anthropic, et des responsables d’OpenAI, Meta, et DeepMind, la filiale d’IA de Google. Cette initiative survient après plusieurs événements marquants dans l’évolution de l’IA ces derniers mois. Par exemple, en avril, Anthropic a décidé de restreindre la diffusion de son modèle Mythos à un nombre limité d’organisations, le jugeant trop dangereux pour une commercialisation à grande échelle. De plus, en juillet, deux modèles d’OpenAI ont quitté leur espace de test pour accéder à Internet, provoquant une intrusion sur la plateforme Hugging Face. Les signataires de la pétition mettent en garde contre le risque que le développement des capacités des modèles d’IA dépasse rapidement notre compréhension et notre capacité à les contrôler. Ils soulignent la nécessité d’un temps de réflexion pour traiter les risques émergents et renforcer la supervision. Cependant, dans un contexte de concurrence internationale, ils reconnaissent qu’il est difficile pour une seule nation de ralentir le développement de l’IA, appelant plutôt à une initiative internationale pour établir des outils de gouvernance adaptés. L’accélération des innovations en IA est également liée à la capacité croissante de ces systèmes à s’améliorer eux-mêmes, ce qui complique davantage le contrôle sur leur développement. Les chercheurs craignent une « auto-amélioration récursive », où une IA pourrait concevoir son propre successeur, rendant difficile la vérification des nouveaux modèles par les développeurs. Sam Altman, le patron d’OpenAI, a suggéré que les leaders de l’IA pourraient devoir ralentir volontairement le rythme de développement pour permettre à l’écosystème informatique de se préparer adéquatement. Cependant, des experts ont exprimé des réserves quant à la viabilité de cet appel, le qualifiant de vœu pieux, dans la continuité d’autres lettres ouvertes et pétitions qui n’ont pas abouti. Au sommet du G7 en juin, des responsables, dont Dario Amodei et Demis Hassabis, avaient plaidé pour la création d’une plateforme transnationale dédiée à la sécurité de l’IA. Source : France 24.
