De faux médecins générés par l’IA exploitent les spectateurs âgés de YouTube
Une récente enquête révèle que des médecins fictifs, créés par intelligence artificielle (IA), diffusent sur YouTube des conseils de santé trompeurs, ciblant principalement les personnes âgées. Celi Ferreira, 82 ans, a été l’une des nombreuses victimes, croyant avoir reçu des conseils médicaux d’un professionnel alors qu’il s’agissait d’une vidéo générée par IA.
Bien que ces vidéos soient signalées comme étant générées par IA par YouTube, elles ont attiré près de 300 000 vues et suscité des centaines de commentaires. Ferreira a déclaré à la BBC avoir été convaincue de l’authenticité du médecin virtuel. Ce phénomène n’est pas isolé : une enquête a identifié 29 chaînes en portugais utilisant des médecins générés par IA, totalisant au moins 70 millions de vues.
Cette situation s’étend au niveau mondial, avec au moins 50 chaînes YouTube fournissant des tutoriels sur la création de vidéos mettant en scène des médecins générés par IA dans plusieurs langues, dont le français, l’anglais et l’espagnol. Ces créateurs ciblent les personnes âgées, considérant qu’elles ont plus de temps libre pour regarder des vidéos et un revenu disponible pour acheter des produits.
Des professionnels de santé légitimes, dont l’image est utilisée sans autorisation, mettent en garde contre les conséquences potentielles de ces conseils. Un médecin a souligné que les recommandations faites par ces faux médecins pourraient causer des dommages mortels aux personnes âgées.
Google, propriétaire de YouTube, a déclaré que les règles de la plateforme s’appliquent également au contenu généré par IA, interdisant la désinformation médicale susceptible de causer de graves préjudices. Le principe de ces vidéos repose sur la création d’un visage rassurant, vêtu d’une blouse blanche, qui met en garde contre des aliments ou des habitudes dangereuses, suivies de remèdes prétendument méconnus.
Les chaînes utilisant ces faux médecins ont été mises au jour par CTRL+Z, une organisation journalistique brésilienne. Les enquêteurs ont analysé environ 27 000 commentaires pour identifier des témoignages de changements de comportement chez les utilisateurs, certains affirmant avoir suivi les conseils de ces médecins virtuels.
Des experts juridiques brésiliens avertissent que les créateurs de contenu qui se font passer pour des médecins s’exposent à des poursuites pénales. Après avoir été contacté par BBC News Brasil, YouTube a supprimé certaines des plus grandes chaînes impliquées, totalisant environ 41 millions de vues.
Celi Ferreira a exprimé son désir d’apprendre à mieux reconnaître ce qu’elle voit en ligne, soulignant qu’elle ne sait toujours pas faire la différence entre le contenu généré par IA et le contenu réel.
Source : BBC News Brasil
