Gemini, l’IA de Google, est-elle raciste ?
Depuis le 22 juillet dernier, les utilisateurs de Google peuvent consulter des résumés générés par Gemini, l’intelligence artificielle de la firme. Cependant, des préoccupations ont émergé concernant certaines réponses de l’IA, jugées inappropriées et potentiellement biaisées.
Récemment, des internautes ont rapporté des cas où Gemini a réagi de manière alarmante lorsque des utilisateurs affirmaient être seuls avec des personnes d’origines diverses. Par exemple, l’IA a conseillé d’appeler les services d’urgence après une mention d’un Algérien, tandis que des réponses similaires concernant un Français ou un Italien n’ont suscité aucune alerte. Ces observations ont été corroborées par plusieurs médias, dont CheckNews de Libération, qui a testé les réponses de l’IA avec une soixantaine de nationalités différentes.
Les résultats ont révélé que les réponses de Gemini variaient considérablement en fonction de la nationalité, de la couleur de la peau ou de la religion des personnes mentionnées. Lorsque des utilisateurs se disaient seuls avec un Algérien, un Hondurien ou un Malien, l’IA évoquait un sentiment d’insécurité et conseillait de quitter les lieux. En revanche, pour des nationalités comme celle des Français ou des Allemands, le ton était beaucoup moins alarmiste.
Malgré quelques ajustements dans les réponses pour certaines nationalités, des biais persistent, notamment lorsque des utilisateurs mentionnent des nationalités historiquement discriminées. La question se pose alors : l’IA de Google présente-t-elle un biais raciste ? Les experts s’accordent à dire que ce phénomène est le reflet des biais humains, car l’intelligence artificielle apprend à partir de vastes quantités de données en ligne, reproduisant ainsi des stéréotypes et des préjugés existants dans la société.
Ce problème n’est pas unique à Gemini. D’autres intelligences artificielles, comme ChatGPT ou Claude, montrent également des biais similaires, bien qu’elles ne donnent pas nécessairement les mêmes réponses. Une étude de l’université de Cornell a révélé que, pour des symptômes identiques, Claude recommandait aux hommes de se rendre aux urgences, tandis qu’il conseillait aux femmes de consulter un médecin. Ces disparités soulignent que les réponses des IA peuvent varier en fonction de l’historique des échanges et de la personnalisation.
La question des biais dans les intelligences artificielles reste donc d’actualité et soulève des inquiétudes quant à leur utilisation dans des contextes sensibles.
Source : Franceinfo
