Le « slop » d’IA menace le développement cognitif et la sécurité des enfants
Le « slop » d’IA, notamment à travers les vidéos de fruits animés, serait à l’origine d’un déclin cognitif significatif et de l’émergence de comportements violents chez les enfants, selon une étude récente du Global Network on Extremism and Technology (GNET). Cette analyse souligne que ces contenus, devenus omniprésents dans les fils d’actualité des jeunes, pourraient également servir à propager des messages extrémistes.
Le « slop » d’IA fait référence à des contenus produits en masse, de manière répétitive et souvent de mauvaise qualité, avec peu ou pas d’intervention humaine. Ces vidéos, généralement conçues pour maximiser les vues et les revenus publicitaires, sont produites à faible coût, permettant à un créateur de générer des centaines de vidéos courtes, inondant les plateformes numériques. Cette stratégie s’avère efficace pour atteindre des millions d’enfants, particulièrement sur des réseaux sociaux qui favorisent l’engagement constant.
Cette surconsommation de contenus rapides et dénués de sens, parfois qualifiée de « brain rot », a des répercussions sur la culture et la psychologie des jeunes. Les applications accessibles et peu coûteuses, telles que PixVerse et VeoE.ai, ont également facilité la prolifération de ce type de contenus.
Comment le « slop » d’IA alimente la radicalisation en ligne
Les vidéos de « slop » d’IA peuvent subtilement introduire des thèmes de radicalisation. Bien que souvent perçues comme inoffensives, ces animations masquent des récits dramatiques qui incluent des éléments de violence émotionnelle et d’agressivité. Dans certains cas, elles glorifient des idéologies extrémistes, tout en utilisant des formats attrayants qui exploitent les tendances virales.
Ces contenus peuvent inclure des représentations graphiques de violence, telles que des tortures et des meurtres, dissimulées sous l’apparence de personnages animés familiers. Par exemple, un personnage populaire dans ces vidéos, Carrot Khalifah, évoque des slogans qui rappellent la propagande de groupes extrémistes tels que l’État islamique.
Bien que des plateformes comme TikTok tentent de réguler la diffusion de contenus violents, les mécanismes de contournement mis en place par les générateurs d’IA rendent ces efforts insuffisants, permettant à des contenus potentiellement dangereux de circuler sous des apparences innocentes.
Source : Global Network on Extremism and Technology (GNET)
