Proton dévoile sa technique de lutte contre le CSAM sans backdoor ni scan
Le directeur technique de Proton a récemment affirmé qu’il est possible de lutter contre la propagation de contenus illicites sans recourir à des scans des messages. Toutefois, il a choisi de ne pas révéler les détails de cette méthode, arguant que cela pourrait fournir un mode d’emploi aux individus malveillants pour contourner la détection. Il a reconnu que cette approche est moins efficace qu’un scan systématique de chaque image, tout en soulignant que l’émergence de l’IA générative complique la distinction entre une image de synthèse et une image réelle d’une victime.
Pour illustrer le principe de sa méthode sans en dévoiler les rouages, Butler a cité l’exemple des comptes liés aux ransomwares. Pendant plusieurs années, les autorités ont transmis à Proton des demandes légales concernant des comptes identifiés comme étant impliqués dans des extorsions numériques. Grâce à l’analyse de ces signalements, l’équipe a pu identifier des schémas comportementaux caractéristiques, permettant ainsi de désactiver ces adresses pour abus plusieurs mois avant la réception d’une requête légale. Un mécanisme similaire est en place pour le CSAM, basé sur des indicateurs comportementaux que, selon Butler, aucun gouvernement ne lui a demandé de dévoiler.
Cette architecture repose sur trois piliers : la détection interne par indicateurs, un système de signalement par les utilisateurs lorsqu’ils reçoivent du contenu problématique, et l’analyse du volume de requêtes légales comme indicateur indirect de l’ampleur du problème sur la plateforme. Proton consacre près de 10 % de ses ressources totales à la lutte contre les abus, ce qui constitue un coût pur pour l’entreprise, sans génération de revenus, mais qu’elle considère comme un engagement fondamental.
Cependant, Butler a reconnu les limites de cette méthode. Il ne dispose pas d’un « dénominateur » pour évaluer la part réelle de contenus illicites interceptés par rapport au volume total circulant sur la plateforme. Son unique indicateur indirect est le nombre de requêtes légales liées à ce type d’infraction, qui, selon lui, est resté stable, suggérant que le phénomène n’évolue pas de manière incontrôlée. De plus, les employés de Proton n’ont légalement pas accès aux images signalées, ce qui limite leur capacité de vérification humaine des signalements tout en les protégeant.
Source : Clubic.
