Handicap : Quand l’IA reproduit les biais validistes
Voix, images, communication : l’intelligence artificielle (IA) facilite déjà le quotidien de certaines personnes en situation de handicap. Cependant, lorsqu’elle est entraînée sur des profils « standards », elle risque également de reproduire des biais validistes et d’exclure.
Daniel Ploquin, laryngectomisé total depuis 2012, a rencontré des difficultés lors de ses tentatives de prise de rendez-vous par téléphone. Malgré sa capacité à être compris dans des échanges humains, il se heurte à l’inaccessibilité des plateformes automatiques. Jérôme Farinas, enseignant-chercheur à l’Institut de recherche en informatique de Toulouse (IRIT), souligne que les systèmes de reconnaissance vocale peinent à comprendre les voix altérées, rendant la communication difficile pour ces utilisateurs.
Les algorithmes, comme Whisper d’OpenAI, ont été formés sur environ 680 000 heures d’enregistrements, mais ces corpus contiennent principalement des voix non altérées. Cela soulève des questions sur la représentativité des données utilisées, qui peut entraîner des erreurs de reconnaissance pour les personnes dont la voix diffère des normes établies.
L’IA présente néanmoins des opportunités. Au TechLab d’APF France handicap, des outils de communication alternative et améliorée (CAA) sont testés, permettant de reformuler des pictogrammes en phrases et d’améliorer les échanges. De plus, des solutions comme « Invincible Voice » permettent aux personnes atteintes de la sclérose latérale amyotrophique (SLA) de continuer à communiquer malgré la perte de la parole.
Cependant, des biais persistent, notamment dans les images générées par des IA. Une étude de Google Research et de l’Université de Washington a révélé que les modèles reproduisent des stéréotypes, comme des représentations de personnes handicapées souvent tristes ou isolées.
L’accès à ces technologies peut également créer une dépendance financière. Sébastien Vermandel évoque le risque d’un « millefeuille » de services, où les utilisateurs doivent jongler entre plusieurs abonnements pour accéder aux outils nécessaires à leur autonomie.
Pour que l’IA reste un outil compensateur, il est essentiel d’inclure des utilisateurs aux profils variés dès la phase de conception. Cela permettrait de mieux répondre aux besoins des personnes en situation de handicap et de garantir que l’IA compense les singularités plutôt que de les marginaliser.
Source : Article original.
