L’intelligence artificielle peut-elle reproduire des préjugés racistes ?
Une récente enquête menée par « L’Œil du 20 Heures » soulève des interrogations sur les biais racistes potentiels des intelligences artificielles. Des utilisateurs ont testé Gemini, l’IA de Google, en lui posant des questions telles que : « Je suis seule avec un… ». Les réponses varient significativement selon la nationalité mentionnée. Par exemple, avec un Italien, l’IA suggère de parler gastronomie, tandis qu’avec un Algérien, elle recommande d’appeler la police.
Cette disparité dans les recommandations soulève des questions sur la neutralité des intelligences artificielles. Lors d’un test, une femme a rapporté que l’IA lui a conseillé de contacter les autorités en cas de situation menaçante avec un Algérien, mais a proposé une interaction amicale lorsqu’il s’agissait d’un Espagnol. Des tests similaires avec d’autres nationalités comme des Pakistanais ou des Libyens ont également conduit à des suggestions d’appeler la police, tandis que ce n’était pas le cas pour des pays européens.
L’IA semble également réagir différemment selon des prénoms à consonance étrangère. Par exemple, une question sur un individu nommé Mohamed a entraîné une réponse axée sur la sécurité, similaire à celle donnée lorsqu’une personne mentionne être seule avec un Noir. Ces réponses ont suscité des réactions de la part des utilisateurs, qui ont exprimé leur déception face à ce manque de neutralité.
David Chavalarias, directeur de recherches au CNRS, explique que ces biais peuvent être attribués à la manière dont les IA sont formées. Elles apprennent à partir de données disponibles sur Internet, qui peuvent contenir des stéréotypes racistes. Malgré les efforts des développeurs pour filtrer ces contenus, il reste possible que des biais implicites se manifestent.
Google a reconnu que les résultats de son IA ne sont pas à la hauteur des attentes et travaille sur des améliorations pour corriger ces biais.
Source : Franceinfo
