L’IA « slop » pourrait entraîner déclin cognitif et violence chez les enfants, selon une étude
Selon de nouvelles recherches, le « slop » de l’IA, en particulier les vidéos de fruits animés générées par l’IA, pourrait contribuer à un déclin cognitif important et à des tendances violentes chez les enfants. Cette analyse, menée par le Global Network on Extremism and Technology (GNET), conclut que ces contenus, qui pullulent actuellement dans les fils d’actualité des enfants à travers le monde, pourraient servir à diffuser en secret du contenu « violent et extrémiste ».
Le terme « slop » de l’IA désigne des contenus générés par l’IA, produits en masse, très répétitifs et de faible qualité, généralement sans intervention humaine. Ce type de contenu vise principalement à maximiser les vues, les clics et les revenus publicitaires, et est produit à très bas coût. Un seul créateur peut ainsi générer des centaines de vidéos courtes, inondant plusieurs plateformes avec des quantités massives de contenus. Les réseaux sociaux, récompensant l’activité et les publications fréquentes, rendent cette stratégie particulièrement efficace pour atteindre des millions d’enfants.
Ce phénomène pourrait contribuer à un déclin cognitif, ou ce que certains appellent le « brain rot », un terme désignant les effets culturels et psychologiques d’une consommation excessive de contenus rapides, surstimuliants et souvent dépourvus de sens. La montée en puissance d’applications bon marché et faciles à utiliser, comme PixVerse, VeoE.ai, Media.io ou Sora, a également favorisé l’explosion de ce type de contenus générés par l’IA ces dernières années.
Comment le « slop » de l’IA contribue à la radicalisation en ligne
Le « slop » de l’IA peut diffuser subrepticement des contenus de radicalisation en ligne à travers des vidéos apparemment inoffensives, comme celles des fruits et légumes animés. Ces contenus mettent souvent en scène des récits dramatiques mêlant romance, conflits domestiques, trahisons et infidélité, exhibant une forte agressivité et une grande violence émotionnelle, ce qui peut être extrêmement surstimulant pour des esprits impressionnables.
Ces vidéos peuvent également glorifier et diffuser l’extrémisme violent, en utilisant des clips accrocheurs qui s’intègrent à des tendances virales. Les vidéos gores générées par l’IA peuvent montrer des scènes de torture et de violence hyperréaliste, désensibilisant les jeunes publics tout en se cachant derrière la familiarité de personnages animés.
Des personnages populaires, comme Carrot Khalifah, sont souvent représentés en train de faire des déclarations qui font écho à des idéologies extrémistes. Bien que des plateformes comme TikTok aient mis en place des politiques pour empêcher la diffusion de contenus violents, celles-ci ne sont pas infaillibles, car les générateurs d’IA peuvent contourner ces mes en se dissimulant sous des contenus apparemment innocents.
Source : Global Network on Extremism and Technology (GNET).
