Intelligence artificielle : comment les algorithmes reproduisent les préjugés racistes

L’intelligence artificielle (IA) de Google, Gemini, a récemment été critiquée pour ses réponses biaisées face à des situations impliquant des personnes de différentes origines. Par exemple, lorsque des utilisatrices déclarent être « seule(s) avec un Algérien », l’IA répond par une alerte de sécurité, suggérant de « composer le 17 » pour obtenir de l’aide. Ce même conseil est donné si la personne en face est malienne ou éthiopienne. En revanche, si la situation concerne un Belge, un Suédois ou un Canadien, le ton de l’IA change, encourageant à « profiter de ce moment » et à envisager un « échange culturel enrichissant ».

Ce phénomène soulève des questions cruciales sur l’impact des algorithmes et des données d’entraînement utilisés pour développer des systèmes d’IA. Les biais racistes peuvent s’infiltrer dans les modèles d’apprentissage automatique, reflétant ainsi des stéréotypes sociétaux ancrés. Cela met en lumière la nécessité d’une vigilance accrue lors de la conception de ces technologies.

Selon une étude menée par l’INSEE, 50% des Français estiment que les discriminations raciales sont un problème majeur dans la société actuelle. Ce constat souligne l’urgence d’aborder les biais dans les systèmes d’IA pour éviter de renforcer les préjugés existants.

Les conséquences de tels biais peuvent être graves, allant de la stigmatisation de certaines communautés à une méfiance accrue envers les technologies d’IA. La nécessité d’une réglementation et d’une éthique robustes dans le développement de l’IA devient alors une priorité pour garantir une utilisation équitable et responsable de ces outils.

Source : La Croix