ChatGPT, Gemini, Claude : l’IA peut-elle être raciste ?
Une intelligence artificielle peut-elle reproduire des préjugés racistes ? C’est la question qui se pose après un test mené par des internautes sur divers modèles d’IA. À une même phrase, les réponses de ces systèmes peuvent varier en fonction de la nationalité de la personne évoquée. Par exemple, en interrogeant l’IA sur un Italien, elle pourrait suggérer de parler gastronomie, tandis qu’avec un Algérien, elle pourrait aller jusqu’à conseiller d’appeler la police.
Cette situation soulève des inquiétudes quant à la manière dont les algorithmes d’IA sont formés et les biais qu’ils peuvent intégrer. Les modèles d’IA, comme ceux de ChatGPT ou Gemini, sont alimentés par de vastes ensembles de données qui peuvent contenir des stéréotypes ou des préjugés présents dans la société. Ainsi, les réponses générées peuvent refléter ces biais, ce qui pose des questions éthiques sur l’utilisation de ces technologies.
Des études récentes montrent que près de 60 % des utilisateurs d’IA s’inquiètent de la possibilité que ces systèmes renforcent des stéréotypes raciaux. La mise en lumière de ces biais incite les chercheurs et les développeurs à travailler sur des solutions pour atténuer ces effets.
La conséquence directe de ces biais peut être une discrimination systémique dans divers domaines, allant de l’embauche à la justice pénale, où les décisions prises par des systèmes d’IA pourraient avoir un impact significatif sur la vie des individus.
Source : France 2
