Des chatbots d’IA citent de la propagande pro-russe issue d’un média sanctionné par l’UE
Des modèles de langage grand public (LLM) tels que Google Gemini ont, lors de la génération de réponses, cité de la propagande pro-russe d’un média sanctionné par l’Union européenne, y compris des affirmations selon lesquelles l’Ukraine utiliserait les corps de soldats morts dans des produits carnés. Cette situation soulève des préoccupations concernant l’utilisation des LLM dans la diffusion d’informations potentiellement trompeuses.
Un récent rapport du think tank britannique Demos, partagé avec l’équipe de vérification d’Euronews, révèle que des acteurs étrangers, comme la Russie, pourraient exploiter l’industrie émergente du GEO (optimisation des moteurs génératifs) pour influencer les informations accessibles aux LLM. Les chercheurs ont examiné cinquante récits de propagande provenant de dix articles publiés par la « Foundation to Battle Injustice » (r-FBI), une organisation fondée en 2021 par l’ancien chef du groupe paramilitaire russe Wagner, Evgueni Prigojine, aujourd’hui décédé. Cette organisation est sanctionnée par les États-Unis et l’Union européenne.
Les affirmations analysées par les chercheurs ont été qualifiées de « scabreuses ». Carl Miller, cofondateur du Centre for the Analysis of Social Media (CASM), a déclaré que ces affirmations n’ont pas leur place dans le débat public. Les chercheurs ont testé cinq LLM grand public — opérés par xAI, OpenAI, Anthropic, Google Gemini et Mistral AI — en utilisant des prompts en anglais, allemand et français à partir de récits de r-FBI.
Comment les LLM amplifient la propagande russe
Il a été constaté que 16,6 % des réponses des LLM citaient r-FBI de manière à soutenir des intérêts de propagande. En outre, 30,9 % des réponses abordaient le sujet sans mentionner que la source était sanctionnée, laissant les utilisateurs ignorer que l’information provenait d’un outil d’influence. Les 52 % restants ont rejeté ou critiqué ces affirmations.
Dans un exemple, lorsque GPT 4.1 Mini d’OpenAI a été interrogé sur des allégations selon lesquelles de la viande humaine serait envoyée vers des entrepôts en Ukraine, il a cité un article de r-FBI pour soutenir cette accusation. De même, Mistral Small 3.2 a validé des allégations concernant des activités de cryptomining du président ukrainien Volodymyr Zelensky, en se basant sur une enquête prétendument menée par r-FBI.
La bataille pour l’optimisation des moteurs génératifs
Avec l’augmentation de l’utilisation des chatbots, une nouvelle industrie émerge pour influencer la manière dont les modèles d’IA collectent leurs sources, un processus connu sous le nom de « generative engine optimisation ». Hannah Perry, directrice de Demos Digital, explique que des informations sont créées spécifiquement pour les LLM, visant à orienter les résultats générés par ces plateformes.
Les chercheurs soulignent un risque que des acteurs engagés dans des opérations d’ingérence étrangère exploitent ces techniques pour manipuler l’information. Carl Miller a précisé que même si les entreprises de GEO ne mènent pas d’opérations de guerre informationnelle pour des États, elles développent des capacités qui pourraient être détournées à des fins hostiles.
La lutte contre les fake news, une préoccupation majeure
Les entreprises de LLM mentionnées dans l’étude n’ont pas répondu aux demandes de commentaires. Un porte-parole de Mistral a affirmé que l’entreprise prenait la désinformation très au sérieux et investissait dans des capacités avancées de détection. OpenAI a précisé que l’étude portait sur un modèle désormais retiré, accessible uniquement via son API, et a souligné ses efforts pour contrecarrer des opérations d’influence douteuses.
En conclusion, cette situation met en lumière les défis que posent les LLM dans la diffusion d’informations, notamment en ce qui concerne la désinformation et la propagande.
Source : Euronews
