Les États-Unis envisagent la possibilité de couper une IA jugée hors de contrôle
Le Congrès américain est actuellement en pleine discussion sur la régulation de l’intelligence artificielle (IA). Cette semaine, les élus Jay Obernolte, républicain, et Lori Trahan, démocrate, ont présenté un projet de loi, le Great American AI Act, visant à interdire pendant trois ans toute réglementation étatique sur le développement des modèles d’intelligence artificielle. Cette initiative fait face à une opposition significative, avec trente-six procureurs généraux d’États américains ayant déjà rejeté une préemption fédérale aussi large.
Ce débat met en lumière une dualité au sein du Congrès : d’une part, la volonté d’établir un nouveau pouvoir d’urgence fédéral pour gérer les risques liés à l’IA, et d’autre part, un mouvement vers un assouplissement des règles locales.
Le jour même du dépôt de ce texte, Ted Lieu a fait référence aux modèles d’IA Mythos 5 et Fable 5 d’Anthropic. Le département du Commerce avait précédemment ordonné leur retrait en raison de garde-fous jugés insuffisants. À l’international, l’Union européenne a adopté une règle similaire dans son AI Act, stipulant que les systèmes à haut risque doivent bénéficier d’une supervision humaine capable d’interrompre leur fonctionnement à tout moment.
Pour Ted Lieu, le développement des intelligences artificielles, qui passaient auparavant par des réponses à des questions, a évolué vers des actions concrètes, telles que des transactions financières ou des opérations de cyberdéfense. Il estime donc qu’un mécanisme d’arrêt est nécessaire pour prévenir des dommages potentiellement catastrophiques.
À la suite d’un incident récent, Clément Delangue, cofondateur et directeur général de Hugging Face, a exprimé sur son compte X.com qu’il ne voyait aucune intention malveillante de la part d’OpenAI, tout en qualifiant l’événement d’« stupéfiant ».
Source : Clubic
