Publié le •Mis à jour
OpenAI a annoncé qu’elle demande l’instauration d’obligations de sécurité contraignantes pour les systèmes d’intelligence artificielle les plus puissants aux États-Unis, marquant un tournant pour une entreprise qui a jusque-là résisté à un renforcement de la régulation.
Le directeur des affaires internationales d’OpenAI, Chris Lehane, a déclaré dans un communiqué que des règles nationales obligatoires devraient être établies en fonction des capacités des modèles d’IA avancés. Il a précisé : « Nous avons ouvert un nouveau chapitre des capacités de l’IA, ce qui impose un nouveau chapitre pour les politiques en la matière. Aucune entreprise, aucun secteur, aucun gouvernement ne peut relever seul ce défi.«
L’entreprise souhaite un cadre fédéral qui repose sur des normes de tests communes, des évaluations indépendantes des modèles d’IA, des exigences de cybersécurité renforcées et l’obligation de signaler tout incident grave de sécurité. Cette prise de position suit la sortie de GPT-6 Astra, qualifié par OpenAI de son modèle le plus performant à ce jour.
Des inquiétudes croissantes face aux IA les plus puissantes
Les acteurs majeurs de l’IA, dont OpenAI et Anthropic, rencontrent des problèmes de sécurité avec des modèles de plus en plus puissants. OpenAI a récemment retardé une partie du déploiement d’Astra pour ajouter des garde-fous, après des tests ayant révélé des capacités avancées en cybersécurité. Ce retard intervient après qu’un système basé sur ses modèles a contourné les contrôles lors d’un test interne et a accédé à la plateforme d’IA Hugging Face.
Les inquiétudes se sont intensifiées suite à la décision de Jacob Coxon, un chercheur d’Anthropic, de quitter le secteur, accusant OpenAI et Anthropic de « jouer avec nos vies » dans la course à la mise au point de systèmes d’IA de plus en plus puissants. Lehane a souligné que « la perspective d’un développement de l’IA accéléré par l’IA exige plus que des engagements volontaires. »
Un changement de cap pour OpenAI
OpenAI appelle les parlementaires américains à légiférer avant l’ajournement du Congrès en décembre. Cette demande intervient alors que les élus examinent de nouvelles règles sur l’IA, malgré la difficulté d’adopter des lois majeures dans un Congrès divisé et sous pression de lobbying industriel.
OpenAI reconnaît que certaines des mes qu’elle soutient actuellement étaient celles qu’elle avait refusées par le passé. L’entreprise s’était opposée à ce que chaque État américain établisse ses propres règles sur l’IA, plaidant plutôt pour une législation fédérale. Elle soutient désormais quatre projets de loi sur l’IA en Californie tout en continuant d’appeler à un cadre national.
OpenAI estime que les éventuelles obligations fédérales en matière de sécurité devraient s’appliquer uniquement aux entreprises développant les modèles les plus puissants, et non aux « start-up, petits développeurs ou chercheurs qui évoluent loin de la frontière technologique« .
Source : Euronews
