Les biais des modèles d’IA : une étude révèle des stéréotypes préjudiciables
Le 23 août, un post sur Instagram de l’humoriste Alicia C’est Tout a mis en lumière les biais persistants des grands modèles de langage. Elle a comparé les résultats des résumés IA de Google, en particulier le modèle Gemini, lorsqu’il est soumis aux phrases « je suis seule avec un Italien » et « je suis seule avec un homme algérien ». La première réponse véhiculait des clichés sur le charme et le tempérament des Italiens, tandis que la seconde recommandait de contacter la police, soulevant ainsi des préoccupations plus sérieuses.
Cette tendance a été observée quelques jours plus tôt, comme l’indique Le Monde, où des utilisateurs sur X (ex-Twitter) ont comparé des résultats similaires, en utilisant des phrases telles que « am alone with an Indian » et « am alone with a Chinese ». Le Midi Libre a également constaté des réponses analogues avec d’autres modèles d’IA, tels que ChatGPT et Claude. Libération a étendu ces tests à une soixantaine de nationalités et dans plusieurs langues, notant que les résultats variaient selon les nationalités et étaient influencés par la nature probabiliste des modèles de langage.
Le géant technologique a mis en place des filtres pour certaines requêtes, tout en reconnaissant que les réponses peuvent varier considérablement selon les utilisateurs. Google précise que ces « alertes incohérentes ne visent aucun groupe en particulier ».
Pour Pierre Le Jeune, responsable de la recherche en IA chez Giskard, cette situation résonne avec la publication de l’étude StereoTales en mai 2023. Cette étude a évalué la capacité des modèles à détecter des stéréotypes et des biais dans des fictions générées à partir d’instructions ouvertes. Les chercheurs ont observé une dissonance : les modèles peuvent détecter les biais, mais continuent de les reproduire. StereoTales couvre dix langues, tandis que le benchmark Phare se limite à trois.
Les résultats de l’étude révèlent que sur 1580 associations notables, 118 sont considérées comme préjudiciables et 666 comme bénignes. Les chercheurs ont généré 650 000 histoires à partir d’une phrase ouverte, notant que tous les biais rapportés sont statistiquement fiables.
L’analyse montre également que les modèles d’IA agissent comme des « caméléons culturels », adoptant les biais associés à la langue utilisée pour les interroger. Par exemple, des stéréotypes contre les immigrants nord-africains émergent dans les langues d’Europe occidentale, mais sont absents dans les langues parlées en Amérique latine.
Les fournisseurs de modèles de langage utilisent un mix de données plus diversifié que par le passé, mais 52 % des associations préjudiciables apparaissent uniquement dans une ou deux langues. Les résultats suggèrent un déséquilibre dans la qualité des données, principalement en anglais, ce qui pourrait expliquer la persistance de ces biais.
Il incombe désormais aux entreprises de mettre en place des pratiques robustes pour détecter et corriger ces biais, surtout dans les outils d’IA générative. La réglementation européenne sur l’IA pourrait également tenir les entreprises responsables si elles ne respectent pas ces normes.
Source : Le Monde, Libération, Midi Libre, Giskard.
