Bercy débranche Qwen AI après des soupçons de biais prochinois
Le ministère de l’Économie a mis fin à l’expérimentation du modèle d’intelligence artificielle Qwen AI, utilisé depuis début juin par une centaine d’agents de la direction générale du Trésor. Cette décision fait suite à des réponses jugées biaisées sur des sujets relatifs à la Chine, ce qui a conduit Bercy à adopter un modèle de Mistral AI.
Selon les informations relayées par Le Monde et l’AFP, l’expérimentation de Qwen AI, un modèle développé par le géant chinois Alibaba, a été interrompue le 24 juin. Des alertes de hauts fonctionnaires ont signalé des « biais chinois » dans les réponses générées par le modèle, ce qui a suscité des inquiétudes au sein du ministère.
Le modèle était intégré dans un assistant conversationnel nommé « HéphAIstos », en référence au dieu grec du feu et de la forge. Il était en phase de test depuis le début du mois, assisté par des agents de la direction générale du Trésor pour des tâches comme la transcription. Certains agents ont été surpris par des « réponses orientées » sur des questions touchant à la Chine.
Un haut fonctionnaire a qualifié ce choix de « gravissime » pour le conseil au gouvernement français sur la politique commerciale envers la Chine, soulignant qu’un biais prochinois est inévitable avec un logiciel développé sous la surveillance des autorités chinoises. Le modèle de Mistral AI a été sélectionné pour remplacer Qwen AI.
Un test contradictoire ?
Bien que les biais ne soient pas exclusifs aux modèles chinois, le fait qu’ils concernent des sujets liés à la Chine soulève des interrogations quant à d’éventuels ajouts délibérés des développeurs pour éviter de froisser Pékin. Aucun exemple concret des biais relevés par les fonctionnaires n’a été fourni.
Une autre question cruciale concerne la sécurité des données échangées avec ce modèle. Bercy a assuré que Qwen AI fonctionnait en local, sans accès à Internet ni porte dérobée, minimisant ainsi les risques de fuite de données. Cependant, cette situation soulève des interrogations en matière de communication, d’autant plus que le gouvernement a récemment présenté un plan de déploiement d’IA souveraines.
L’État prévoit de généraliser l’utilisation d’outils comme l’Assistant, un agent conversationnel souverain développé par la DINUM en collaboration avec Mistral AI. Des tests ont montré des gains de temps de 12 % pour les tâches de rédaction et jusqu’à 16 % pour la synthèse documentaire. Environ 75 % des agents publics ont trouvé l’Assistant utile, bien que 57 % estiment que d’autres IA génératives répondent mieux à leurs besoins.
Source : Le Monde, AFP
