Les chatbots IA surpassent les humains dans les arnaques en ligne, selon une étude
Une récente étude menée par des chercheurs de l’Amrita Vishwa Vidyapeetham (Inde), de l’université Ca’ Foscari de Venise, de l’université de Melbourne et de l’université Ben Gurion du Néguev révèle que les chatbots IA sont désormais plus convaincants que les humains dans le cadre d’escroqueries en ligne. Pendant une semaine, 22 volontaires ont interagi, sans en connaître l’objectif, avec des chatbots IA ou des simulateurs humains, dans le but de les inciter à télécharger une application ou à jouer à un jeu en ligne, un geste servant d’indicateur de confiance.
Les résultats sont frappants : seulement 18 % des participants ont accepté la demande d’un interlocuteur humain, tandis que près de la moitié a cédé à la sollicitation d’un chatbot IA. De plus, les volontaires ont attribué une note de confiance plus élevée aux chatbots qu’à leurs homologues humains. Yisroel Mirsky, professeur en sécurité informatique à l’université Ben Gurion, souligne que cette confiance accrue, combinée au coût limité de l’agent conversationnel, en fait un outil particulièrement attractif pour les escrocs.
Pour approfondir leur recherche, les scientifiques ont interrogé 145 anciens employés de centres d’escroquerie, y compris des victimes de traite humaine contraintes de travailler dans des pays comme le Cambodge, le Myanmar et le Laos. Ces témoignages confirment que les arnaques suivent un schéma en trois étapes, appelé « hook, line, and sinker » : un message accrocheur, une relation établie sur la durée, puis une proposition d’investissement frauduleux. Les travailleurs admettent déjà utiliser l’IA pour améliorer leurs textes, traduire des échanges et créer des identités trompeuses via des vidéos manipulées.
L’utilisation exclusive de chatbots permettrait d’augmenter le nombre d’attaques simultanées, limitant l’intervention humaine à la phase finale, celle où l’argent est demandé. Anthropic, sollicité par Wired, a précisé que ses conditions d’utilisation interdisent l’usage de son chatbot Claude pour des escroqueries et a mis en place des mes techniques pour prévenir de tels abus.
Cette étude met en lumière un changement préoccupant dans le paysage des arnaques en ligne, où les technologies d’intelligence artificielle pourraient faciliter des attaques à plus grande échelle.
Source : Clubic.
