L’impact variable de l’assistance médicale par IA en fonction de l’expertise des utilisateurs
Une étude récente menée par des chercheurs du MIT et d’autres institutions a révélé que l’assistance par intelligence artificielle (IA) améliore généralement la précision des diagnostics de maladies cutanées, tant pour les non-experts que pour les cliniciens. Cependant, les méthodes d’explicabilité de l’IA ont des effets différents selon le niveau de connaissance des utilisateurs.
Les méthodes d’IA explicable aident les utilisateurs à déterminer quand faire confiance aux prédictions d’un modèle en décrivant ou en validant le processus décisionnel de ce dernier. Par exemple, un modèle pourrait utiliser une carte thermique pour mettre en évidence les régions d’image les plus pertinentes pour son diagnostic ou un modèle de langage de grande taille (LLM) pour expliquer la prédiction en termes simples.
Dans cette étude, les chercheurs ont testé des non-experts et des professionnels de santé en matière de diagnostic de maladies cutanées, avec ou sans l’aide de différents systèmes d’IA explicable. Ils ont constaté que la précision diagnostique des non-experts s’améliorait, mais cela était largement dû à leur déférence envers le système d’IA. Les non-experts faisaient confiance aux explications basées sur LLM, qu’elles soient correctes ou non, et trouvaient les explications plus convaincantes lorsqu’elles étaient vagues ou génériques. En revanche, les cliniciens n’étaient pas influencés par des aides incorrectes de l’IA et obtenaient de meilleurs résultats lorsqu’ils recevaient uniquement la prédiction du modèle, sans explication.
Ces résultats soulignent l’importance de concevoir des systèmes d’IA en tenant compte des utilisateurs et de développer des méthodes d’explicabilité qui encouragent la pensée critique plutôt que la dépendance excessive au modèle. Les chercheurs insistent sur le fait qu’il est crucial de prêter attention aux utilisateurs qui utiliseront ces systèmes, car la même explication peut aider un expert tout en induisant en erreur un débutant.
Cette recherche a été publiée dans Nature Medicine et a été financée en partie par la National Science Foundation, Schmidt Sciences, le National Bureau of Economic Research, et l’Université de Columbia.
Source : MIT News
