Les jeunes deviennent un terrain de chasse prometteur pour les géants de l’intelligence artificielle
C’est un marché en plein essor pour les géants de l’intelligence artificielle. Des centaines de millions de jeunes, accros à leur téléphone, curieux de toute innovation et férus de conversations avec des chatbots, attirent l’attention des entreprises comme OpenAI, Anthropic et Google. Cependant, les risques liés à cette tendance sont considérables : addiction aux interactions avec ces machines, dérives pouvant mener à des mutilations ou des suicides, et réduction des échanges sociaux au profit de discussions avec des chatbots.
OpenAI, déjà mis en cause en justice suite à plusieurs incidents tragiques, a annoncé ce mardi un ensemble de mes visant à sécuriser son produit phare, ChatGPT. Pour les utilisateurs se déclarant mineurs, ou jugés comme tels par l’algorithme, l’entreprise précise que « ChatGPT ne doit pas utiliser de langage romantique, encourager la dépendance affective ni laisser entendre qu’il possède des sentiments ou une conscience ». De plus, des messages de mise en garde concernant le partage d’images sensibles ont été intégrés pour protéger les adolescents.
Cette situation met en lumière un enjeu crucial : la responsabilité des entreprises technologiques face à une population jeune et vulnérable.
Source : OpenAI, articles de presse.
