Les modérateurs des plateformes peuvent mieux protéger les utilisateurs que les contrôles d’identité numérique
Le 18 février dernier, lors d’un procès en Californie, Mark Zuckerberg, PDG de Meta, a défendu l’instauration d’un contrôle d’identité numérique, proposé par les opérateurs de téléphonie mobile. Cette déclaration intervient alors qu’une plaignante accuse la plateforme d’avoir conçu ses services pour engendrer une dépendance, entraînant une aggravation de sa dépression et de sa santé mentale depuis son utilisation d’Instagram à l’âge de 9 ans.
Les révélations d’Edward Snowden en 2011 avaient déjà mis en lumière le rôle de Facebook en tant qu’outil de surveillance. Actuellement, plusieurs pays envisagent d’interdire l’accès aux réseaux sociaux pour les mineurs, une me qui coïncide avec les propositions des grandes entreprises du secteur. Arturo Béjar, ancien employé de Meta, a accusé la société de privilégier les profits au détriment de la sécurité des utilisateurs, adoptant une approche de type « don’t ask, don’t tell » concernant les préjudices subis par les adolescents sur ses plateformes.
La vérification d’identité est souvent perçue comme une stratégie d’obfuscation. Le lobbying de Meta pour faire adopter des lois sur cette vérification vise à détourner l’attention des décisions internes et ne cible pas les racines du problème. La juriste Brunessen Bertrand a souligné que la loi adoptée ne protège les données de certains qu’en organisant la collecte de l’âge ou de l’identité de tous les utilisateurs. En conséquence, le Conseil constitutionnel a censuré cette me, la jugeant disproportionnée par rapport à la vie privée.
La loi interdisant l’usage des réseaux sociaux pour les mineurs de moins de 15 ans renvoie la responsabilité aux utilisateurs, tout en négligeant la protection effective des usagers, qu’ils soient mineurs ou non. L’instrumentalisation de la protection des enfants soulève des inquiétudes quant à la préservation des libertés fondamentales.
Pour aborder la question de la santé mentale des utilisateurs de réseaux sociaux, il est crucial de reconnaître que ces plateformes sont conçues pour maximiser l’engagement, extrayant un « surplus comportemental » selon la philosophe Shoshana Zuboff. Les modérateurs de contenu, souvent employés par des sous-traitants, jouent un rôle essentiel dans la gestion des contenus sur ces plateformes.
Meta a la capacité d’inférer l’âge de ses utilisateurs et de contrôler l’accès des mineurs. Des anciens modérateurs ont rapporté que des algorithmes calculent un « âge approximatif » basé sur l’activité des utilisateurs. Cependant, cette méthode permet à la plateforme de se défendre en cas de critiques tout en développant des outils de surveillance à faible coût.
La cour de justice américaine a récemment imposé à Meta une amende de 942 millions de dollars, tout en lui ordonnant d’améliorer ses outils de contrôle de l’âge. Dans le même temps, près de 2000 modérateurs ont été licenciés à Barcelone, et des conditions de travail déplorables persistent, avec des entreprises qui tentent de faire renoncer les employés à leurs droits fondamentaux.
Pour une véritable protection des mineurs, les législateurs devraient se concentrer sur les algorithmes de modération et les conditions d’utilisation des plateformes. Les guides de modération, qui expliquent les critères de modération des contenus, devraient également faire l’objet d’un examen par les utilisateurs et les modérateurs, car la question centrale réside dans la conception même des plateformes.
En conclusion, la santé mentale des jeunes utilisateurs doit être traitée sérieusement, tout comme les problématiques de propagande politique et d’ingérence étrangère, en tant que symptômes d’une architecture de surveillance et d’attention.
Sources : AP News, Le Monde, The Guardian, El Nacional, The Financial Times.
