TikTok lance un détecteur de clones avant les amendes européennes
Votre visage pourrait déjà apparaître dans des vidéos que vous n’avez jamais filmées. TikTok a annoncé le déploiement d’une fonction de détection de ressemblance, deux semaines avant que Bruxelles ne commence à infliger des amendes pour les violations liées aux deepfakes.
Les clones générés par intelligence artificielle se répandent plus rapidement que les outils destinés à les contrôler. TikTok teste actuellement cette nouvelle fonctionnalité auprès d’un groupe restreint de créateurs américains, sur la base du volontariat. Ce dispositif permet de repérer les vidéos qui utilisent leur visage sans autorisation.
Un détecteur de clones pour un nombre limité de créateurs
Pour participer, les créateurs doivent d’abord prouver leur identité via Jumio, un prestataire spécialisé, en fournissant un selfie en temps réel et une pièce d’identité. La plateforme scanne ensuite les contenus générés par IA susceptibles de reproduire leurs traits et leur soumet les correspondances. Les créateurs peuvent alors examiner la liste et signaler les vidéos ou comptes qui usurpent leur image. Ce mécanisme fonctionne comme un Content ID des visages, similaire à celui utilisé par YouTube pour la gestion des droits musicaux.
TikTok as qu’il ne conserve pas les documents d’identité et n’utilise les données faciales que pour détecter les contenus non autorisés. Cependant, cette démarche soulève des questions sur la protection des données, car elle implique de confier son image à une plateforme pour éviter les contrefaçons.
Contexte réglementaire en Europe
Le lancement de cette fonctionnalité intervient alors que l’article 50 du règlement sur l’intelligence artificielle, qui impose de signaler tout deepfake comme généré ou manipulé artificiellement, entre en vigueur le 2 août. Les plateformes auront jusqu’au 2 décembre pour se conformer, après quoi des amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial seront appliquées.
Bien que le dispositif de TikTok ne réponde pas à toutes les exigences de marquage et d’information des utilisateurs stipulées par la réglementation, il pourrait renforcer le dossier de conformité de la plateforme auprès des régulateurs européens.
Les créateurs en Europe, notamment en France, devront attendre que cette fonctionnalité soit mise en œuvre, probablement sous la pression réglementaire de Bruxelles.
Source : 01net
