Instagram met en place un système d’alerte pour les parents d’adolescents en danger
Meta, la société mère d’Instagram, a annoncé le déploiement d’un nouveau système visant à détecter les échanges inquiétants entre les adolescents et son assistant conversationnel, Meta AI. Ce dispositif a pour but d’alerter les parents si une conversation laisse penser qu’un jeune pourrait être en danger, notamment en évoquant des pensées suicidaires ou des comportements d’automutilation.
Lorsqu’un adolescent aborde ces sujets avec Meta AI, l’intelligence artificielle encourage d’abord le jeune à solliciter l’aide d’un adulte de confiance et propose aussi de contacter une ligne d’écoute spécialisée. Parallèlement, un système d’analyse de la conversation identifie des signes de détresse psychologique, détectant aussi bien des références explicites que des formulations plus subtiles.
Avant l’envoi d’une notification aux parents, chaque conversation signalée est examinée par un modérateur humain. Meta préfère alerter les familles plutôt que de risquer de négliger un adolescent en danger. L’entreprise a précisé que toutes les conversations détectées par l’IA seront relues manuellement avant l’envoi d’une notification, afin de minimiser le stress que cela pourrait causer aux parents.
En plus des alertes, les parents recevront des ressources élaborées avec des spécialistes pour les aider à aborder ces sujets sensibles avec leurs adolescents. Pour développer ce dispositif, Meta a collaboré avec plus de 75 professionnels de la santé mentale des adolescents.
Cette nouveauté s’inscrit dans le cadre des mes de protection des comptes adolescents sur Instagram. Depuis février, les parents utilisant les outils de supervision sont déjà informés lorsque leurs enfants recherchent des contenus liés au suicide ou à l’automutilation. Les alertes concernant Meta AI sont actuellement déployées aux États-Unis, au Royaume-Uni, en Australie et au Canada, avec un déploiement mondial prévu d’ici la fin de l’année.
Meta travaille également sur un système permettant de contacter directement les services d’urgence lorsque des conversations laissent penser qu’une personne court un risque imminent de suicide. L’entreprise a déjà effectué plus de 19 000 signalements auprès des services de secours dans le monde pour faciliter les interventions de prévention.
Source : Parents.fr
