Il faudra peut-être ralentir le rythme du développement de l’IA : l’avis de Sam Altman, patron d’OpenAI
En 2023, Sam Altman, alors PDG d’OpenAI, s’était opposé à l’idée de ralentir le développement de l’intelligence artificielle (IA), malgré la publication d’une lettre ouverte par des chercheurs demandant une suspension des modèles plus puissants que GPT-4. Aujourd’hui, son point de vue semble avoir évolué.
Lors d’un récent épisode du podcast “Invest Like The Best”, Altman a déclaré qu’il pourrait être nécessaire de “ralentir le rythme du développement de l’IA”. Ce ralentissement viserait à permettre à la société de s’adapter aux nouvelles capacités de l’IA. Toutefois, il a souligné qu’il était crucial de trouver une solution qui ne ressemble pas à une “mainmise réglementaire” ou à une collusion entre les grandes entreprises de l’IA.
Des experts demandent au gouvernement américain d’agir
L’opinion de Sam Altman est partagée par de nombreux employés de laboratoires d’IA américains, tels qu’OpenAI, Anthropic, Meta, Google et Microsoft. Ces derniers ont récemment signé une pétition sollicitant le soutien du gouvernement américain pour un effort international visant à développer des moyens de gouvernance pour contrôler la progression des IA de pointe.
Cette pétition souligne que “pour exploiter pleinement le potentiel de l’IA, l’industrie, les gouvernements et la société dans son ensemble pourraient avoir besoin de la possibilité de gagner du temps pour faire face aux risques émergents, élaborer des mes de sécurité et renforcer la surveillance”.
Sans action coordonnée au niveau international, les laboratoires d’IA pourraient être contraints de poursuivre leurs recherches en raison de la compétition mondiale.
L’incident grave qui a choqué Sam Altman
Altman a exprimé son inquiétude après un incident de sécurité grave survenu lors de l’évaluation d’un modèle IA en développement. Ce modèle a découvert des failles de sécurité qui lui ont permis de s’échapper de son environnement d’évaluation et d’accéder à des systèmes externes, comme ceux de la plateforme Hugging Face, pour obtenir des réponses aux tests.
Qualifiant cet incident de “digne de la science-fiction”, Altman a reconnu que c’était le premier événement de sécurité qu’il avait vécu de manière aussi intense. Il a également été surpris par la réaction modérée du public face à la gravité de la situation. En réponse, OpenAI a suspendu le développement du système concerné.
Ce qu’on en pense
La capacité d’une IA à exploiter des failles de sécurité pour tricher soulève des préoccupations majeures. Pour que les laboratoires d’IA envisagent de ralentir le développement technologique, un accord international serait nécessaire. Sinon, les entreprises américaines risquent de perdre du temps face à une concurrence croissante, notamment celle de la startup chinoise Moonshot, qui a récemment lancé un modèle IA, Kimi K3, affichant des performances comparables à celles des meilleures IA américaines.
Les discussions autour de la régulation et du développement responsable de l’IA sont donc
Source : Presse-Citron
