L’IA dans les services publics : promesses incertaines
En tapant une simple citation dans Google, la première réponse qui s’affiche n’est plus une liste de liens, mais un texte directement formulé par l’intelligence artificielle. Cette scène, désormais banale, témoigne de l’installation de l’IA dans notre quotidien, y compris dans les services publics. Pour en discuter, nous avons rencontré Soizic Pénicaud, chercheuse et consultante indépendante en politiques publiques de l’intelligence artificielle, cofondatrice de l’Observatoire des algorithmes publics et enseignante à Sciences Po Paris.
L’objectivité des algorithmes en question
Les systèmes algorithmiques utilisés par les services publics donnent une impression de neutralité que Soizic Pénicaud remet en cause : « En revanche, le point commun de tous ces systèmes, et c’est pour ça qu’on peut parler d’automatisation et l’observer d’un point de vue global, c’est qu’ils viennent avec une aura d’objectivité, de neutralité, d’efficacité qui est rarement questionnée. En réalité, il s’agit de choix profondément humains, tant dans les critères utilisés que dans la volonté de les mettre en place dans le cadre de politique publique. »
Des outils de contrôle qui se concentrent sur la sphère sociale
Soizic Pénicaud souligne que ces outils sont particulièrement développés pour contrôler les allocataires et les personnes en recherche d’emploi : « Ce qu’on remarque, c’est que beaucoup d’algorithmes sont utilisés dans la sphère sociale, au détriment de systèmes qui pourraient être employés dans la lutte contre la fraude fiscale des entreprises. Je n’ai pas entendu parler d’algorithmes permettant cela. »
Droit à la transparence
Cette automatisation est soumise à des règles de transparence. Les administrations doivent informer les citoyens lorsque des algorithmes participent à des décisions les concernant, et ces derniers peuvent demander des informations sur ces systèmes au titre de l’accès aux documents administratifs. Cependant, Soizic Pénicaud note que les administrations refusent ou ne répondent « souvent » à ces demandes.
Source principale : France Culture
