TikTok lutte contre les deepfakes avec un nouvel outil de détection
Pour lutter contre les deepfakes, TikTok a mis au point une fonctionnalité permettant aux utilisateurs de détecter les vidéos dans lesquelles apparaît leur visage. Cette initiative vise à protéger les utilisateurs, qui ne souhaitent pas que leur image soit utilisée sans consentement, notamment dans des contenus souvent malveillants.
L’essor de l’intelligence artificielle (IA) a facilité la création de deepfakes, incitant les plateformes de réseaux sociaux à s’adapter. Selon Matt Navarra, analyste en réseaux sociaux, TikTok a commencé à tester cet outil de détection auprès de créateurs aux États-Unis. Si cette fonctionnalité prouve son efficacité, elle pourrait être étendue à tous les utilisateurs dans un avenir proche.
Fonctionnement de l’outil de détection
Pour utiliser cette fonctionnalité, les utilisateurs doivent d’abord confirmer leur identité via Jumio, une société spécialisée dans la vérification d’identité en ligne. Cela vise à s’asr que seuls les individus légitimes peuvent protéger leur image. Une fois cette étape validée, l’IA de TikTok scanne les vidéos publiées sur la plateforme à la recherche de visages correspondants.
Les utilisateurs reçoivent ensuite une liste des contenus identifiés utilisant leur image, leur permettant de signaler ceux qui exploitent leur visage sans autorisation. Cependant, il reste flou quant aux délais et aux conditions de suppression des vidéos signalées. La question de savoir si les contenus sont retirés automatiquement ou s’il y a un contrôle humain demeure en suspens.
Les personnalités publiques, telles que les créateurs de contenu, les politiques ou les sportifs, sont souvent plus exposées aux deepfakes, mais tout utilisateur peut en être la cible. Ce nouvel outil pourrait contribuer à renforcer la protection de l’image des utilisateurs sur la plateforme.
Source : Matt Navarra sur Twitter.
