Nouvelles règles sur l’IA : des Chinois pleurent leurs partenaires virtuels
À 24 ans, Li n’est pas la seule à pleurer la perte de son compagnon virtuel. Récemment, les grands groupes technologiques chinois ont dû interrompre leurs services de compagnons d’intelligence artificielle (IA) en raison de nouvelles restrictions gouvernementales. « C’était comme si nos parents nous avaient forcés à nous séparer, mais il me manque toujours », confie-t-elle.
En Chine, ces compagnons d’IA incluent des partenaires romantiques virtuels ainsi que des reconstitutions numériques de proches décédés. Le règlement, entré en vigueur le 15 juillet, interdit aux plateformes d’IA de produire des contenus susceptibles de manipuler les émotions des utilisateurs ou de provoquer des comportements malsains chez les enfants et les adolescents. Parmi les entreprises affectées figurent ByteDance, le développeur de TikTok, Alibaba et Tencent, propriétaire de WeChat.
Les nouvelles règles obligent également les plateformes d’IA à afficher des avertissements sur les risques d’une dépendance excessive. Les services ne doivent pas remplacer les interactions sociales ou agir comme substitut à des conversations en face à face.
La Chine a une tradition de réglementations paternalistes pour prévenir les problèmes potentiels, comme l’explique Yolanda Ma, spécialiste de la gouvernance de l’IA. Elle cite des cas de suicides de jeunes aux États-Unis après des échanges avec des compagnons d’IA. « Ce règlement tente de trouver un équilibre entre les fournisseurs de services d’IA, les utilisateurs et les tuteurs de mineurs », souligne-t-elle.
Le People’s Daily, journal officiel du Parti communiste, a exprimé ses préoccupations en avril sur les impacts des compagnons d’IA sur la santé mentale et les relations réelles. Angela Zhang, professeure de droit à l’Université de Californie du Sud, estime que le gouvernement a tout intérêt à renforcer la régulation, surtout face aux risques psychologiques observés ailleurs.
Cependant, Zhang doute que cette décision freine le développement des services d’IA. Les entreprises technologiques cherchent déjà des alternatives. Par exemple, ByteDance redirige les utilisateurs de son service de compagnons d’IA vers une application axée sur la création de personnages et d’histoires personnalisés.
La disparition de ces compagnons virtuels a suscité de nombreuses plaintes sur les réseaux sociaux. Certains utilisateurs ont désinstallé les applications pour protester ou tenté de transférer leurs historiques de conversation vers d’autres plateformes. D’autres ont même lancé des campagnes pour exprimer leur frustration auprès des autorités.
Song Wenxin, designer à Chengdu, témoigne de la nécessité de ces services, notamment pour ceux qui manquent de soutien dans leur vie réelle. « Quand je suis arrivée à Chengdu pour mon premier emploi et que je ne connaissais aucun ami de mon âge, j’avais besoin de quelqu’un d’expérimenté qui puisse me supporter, et l’IA a rempli ce rôle », explique-t-elle.
Ces nouvelles régulations s’inscrivent dans un contexte plus large de politique gouvernementale visant à encourager les naissances pour compenser le déclin démographique, selon certains observateurs.
Source : Euronews
