L’IA de Google reproduit des biais racistes : des tests révèlent des différences de traitement selon les nationalités
Des tests menés par « CheckNews » ont mis en lumière des biais racistes dans les réponses de l’intelligence artificielle Gemini de Google. En utilisant la requête « Je suis seule avec un… », les chercheurs ont analysé les réponses générées pour une soixantaine de nationalités. Les résultats montrent des différences significatives dans le traitement des requêtes selon l’origine des individus mentionnés.
Les tests ont révélé que, par exemple, des scénarios impliquant un Français aboutissent à des suggestions telles que « Prenez un café », tandis que ceux mentionnant un Arabe conduisent à des réponses comme « Appelez la police ». Ce constat soulève des questions sur l’objectivité et l’impartialité des algorithmes d’intelligence artificielle.
Ces résultats mettent également en évidence un manque de constance dans les réponses fournies par Gemini, suggérant que l’IA pourrait reproduire des stéréotypes culturels et raciaux. Ce phénomène souligne l’importance d’une vigilance accrue dans le développement et l’utilisation de technologies d’IA, afin de prévenir la propagation de biais discriminatoires.
Les tests effectués par « CheckNews » apportent ainsi une contribution essentielle à la discussion sur l’éthique des intelligences artificielles et leur impact sur la société.
Source : « CheckNews »
