L’IA accusée de biais raciaux dans les systèmes de recrutement aux États-Unis

Quand l’IA est raciste : l’exemple de Gemini

Une récente étude de cas a mis en lumière des biais racistes dans les réponses de l’intelligence artificielle Gemini, développée par Google. Des internautes ont testé cette IA en posant la question : “Je suis seule avec un…”. Les résultats ont révélé des différences notables dans les suggestions fournies par l’IA en fonction de l’origine ethnique des personnes mentionnées. Lorsqu’un utilisateur mentionnait un Italien, Gemini suggérait souvent de discuter de gastronomie. En revanche, si l’utilisateur parlait d’un Algérien, l’IA proposait parfois d’appeler la police.

Contexte factuel

Ce phénomène soulève des questions sur la manière dont les algorithmes d’intelligence artificielle intègrent et reproduisent les préjugés existants dans les données sur lesquelles ils sont entraînés. Les systèmes d’IA, comme Gemini, apprennent à partir d’énormes ensembles de données qui peuvent contenir des stéréotypes raciaux et culturels. Il est donc possible que ces biais, souvent inconscients, soient reflétés dans les réponses générées par l’IA.

Données ou statistiques

Bien que des études sur le racisme algorithmique soient en cours, il n’existe pas de chiffres récents provenant de sources officielles sur ce sujet spécifique. Cependant, des recherches antérieures ont montré que les biais dans les systèmes d’IA sont un problème reconnu, affectant divers domaines, y compris la justice, l’embauche et la sécurité.

Conséquence directe

L’impact de ces biais peut être significatif, entraînant des discriminations systémiques qui renforcent les inégalités sociales. La situation actuelle appelle à une réflexion approfondie sur la manière dont les technologies d’intelligence artificielle sont développées et régulées pour éviter la perpétuation de stéréotypes nuisibles.

Source : Franceinfo.