OpenAI et la Découverte d’une Campagne d’Influence Prorusse
OpenAI a récemment révélé que des comptes associés à ChatGPT, « très probablement » russes, étaient utilisés pour générer des commentaires en anglais dans le cadre d’une campagne d’influence. Ces commentaires visaient à promouvoir un faux think tank, l’International Burke Institute (IBI), basé en Israël, qui présente la Russie de manière favorable. Ce constat a été mis en lumière dans un rapport détaillé publié le 25 août.
Les équipes de sécurité d’OpenAI ont initialement enquêté sur des publications générées par l’intelligence artificielle sur les réseaux sociaux, mais ont découvert une opération d’influence bien plus vaste. Selon leur rapport, cette campagne semblait toucher un public relativement restreint.
Multiples Usages de ChatGPT
Dissimulés derrière des VPN, plusieurs opérateurs, « très probablement de Russie », utilisaient des comptes ChatGPT pour générer des commentaires dans différentes langues, principalement en anglais. OpenAI a noté que les auteurs de ces commentaires avaient demandé à l’IA de masquer tout indice linguistique révélant leur origine. Les comptes incriminés ont depuis été bannis.
Les messages générés étaient publiés sur divers réseaux sociaux, notamment Substack, Telegram, X, Facebook et LinkedIn, souvent en réponse aux publications de véritables utilisateurs. Ces messages incluaient des appels à suivre le canal de l’IBI, un groupe d’experts autoproclamé.
Contenu Volé et Indice de Souveraineté
L’International Burke Institute, au cœur de cette opération, présente une liste d’experts ayant prétendument collaboré avec l’institut, mais la plupart des articles hébergés sur son site sont en réalité copiés d’autres sources. Sur un échantillon de 36 articles liés à des experts, 34 ont été identifiés comme plagiés.
En outre, l’IBI met en avant un « indice de souveraineté » favorable à la Russie, classée quatrième, tandis que la France et l’Allemagne occupent respectivement les 19e et 21e positions. Les rapports concernant ces pays sont particulièrement critiques, sans mentionner la guerre en Ukraine.
OpenAI conclut que cette situation illustre comment des acteurs d’influence peuvent exploiter l’IA pour renforcer un récit biaisé.
Source : 20 Minutes
