Nvidia, en collaboration avec plusieurs grandes entreprises technologiques, a annoncé le lancement d’une initiative de sécurité de l’intelligence artificielle (IA) centrée sur les modèles ouverts. Cette initiative a été mise en place en réponse aux retombées d’une cyberattaque impliquant un modèle d’OpenAI, dont les effets continuent de se faire sentir dans l’écosystème technologique mondial.
Une cyberattaque révélatrice des limites des modèles fermés
Une récente cyberattaque a mis en lumière les vulnérabilités des modèles d’IA fermés. La startup Hugging Face a été ciblée et n’a pas pu utiliser les modèles américains pour se défendre, car les garde-fous ne distinguaient pas les agresseurs des défenseurs. En conséquence, Hugging Face a dû se tourner vers un modèle open-weight auto-hébergé d’origine chinoise, exempt des mêmes restrictions.
Cette situation a souligné l’importance des modèles ouverts, qui peuvent être téléchargés, modifiés et auto-hébergés, contrairement aux modèles fermés, comme ceux développés par Anthropic et OpenAI, qui ne sont accessibles que via des infrastructures spécifiques.
Face à cette problématique, Nvidia, Microsoft, SpaceX, Palantir et d’autres acteurs technologiques des États-Unis et d’Europe ont décidé d’unir leurs forces. Dans leur déclaration, ils ont affirmé que « l’Open Secure AI Alliance travaillera à corriger et à divulguer les vulnérabilités en s’appuyant sur des technologies ouvertes ».
La cyberattaque contre Hugging Face a agi comme un catalyseur, rappelant que les défenseurs ont besoin de systèmes ouverts et avancés pour se protéger. Nvidia a également souligné que « l’incident OpenAI-Hugging Face a révélé une vérité pratique : lorsque les défenseurs ne peuvent pas inspecter, adapter et exécuter une IA avancée sur leur propre infrastructure, leur capacité de réponse est limitée au moment où la rapidité est cruciale. »
Tensions croissantes autour des modèles chinois
Le secteur technologique fait face à des appels croissants à Washington pour restreindre l’accès aux modèles d’IA chinois, qui sont souvent ouverts et performants. Les concepteurs de ces modèles sont accusés de mener des campagnes d’extraction d’informations des systèmes concurrents américains, un processus connu sous le nom de « distillation ». Récemment, le secrétaire au Trésor Scott Bessent a menacé de sanctions les entreprises chinoises impliquées dans ces activités.
Chris McGuire, expert en technologies émergentes au Council on Foreign Relations, a déclaré que le gouvernement américain pourrait imposer des restrictions sur les modèles chinois, y compris l’interdiction de transactions liées à ces modèles. Il a précisé que ce débat ne porte pas uniquement sur l’open source contre le closed source, mais sur la tolérance face au vol de propriété intellectuelle chinois.
La majorité des modèles open source les plus performants proviennent d’entreprises chinoises, ce qui soulève des préoccupations quant aux restrictions potentielles. La semaine dernière, Nvidia, Microsoft, Meta, Palantir et plus de 20 autres entreprises ont signé une lettre appelant les décideurs à éviter des « restrictions prématurées » sur les modèles d’IA open-weight, qui pourraient « étouffer la concurrence ou pousser l’innovation à l’étranger ».
Source : Journal du Net
