Contrôles de chômeurs orientés par une IA : « C’est un outil de surveillance massif », prévient un juriste de La Quadrature du Net
Alors que France Travail teste un algorithme destiné à orienter ses contrôles des demandeurs d’emploi, l’association La Quadrature du Net met en garde contre les conséquences de ce projet, qui va bien au-delà de la simple question technologique. Bastien Le Querrec, juriste à l’association, partage ses préoccupations.
Un outil de surveillance en plein essor
France Travail présente cet algorithme comme une aide à la décision, mais pour Bastien Le Querrec, il représente un outil de contrôle massif. En effet, les objectifs de France Travail ont évolué, passant d’environ 200 000 contrôles annuels à 1,5 million prévus pour 2027. Même avec une augmentation du personnel, atteindre de tels chiffres uniquement par des moyens humains semble irréaliste.
Cet outil s’inscrit dans une politique visant à intensifier les contrôles, touchant potentiellement près de six millions de personnes, incluant demandeurs d’emploi et bénéficiaires du RSA.
Des dérives à craindre
Le Querrec souligne les risques associés à cette massification des contrôles, qui pourrait conduire à une déshumanisation des relations entre les administrations et les individus. Ce n’est pas la première fois qu’un tel algorithme est mis en œuvre ; la Caisse nationale d’allocations familiales (Cnaf) utilise déjà un système similaire pour identifier les dossiers à risque.
Avec le soutien de vingt-cinq associations, La Quadrature du Net a saisi le Conseil d’État afin de contester ce projet, invoquant des préoccupations relatives à la surveillance généralisée, à l’accès aux droits sociaux et à la discrimination. L’algorithme étant encore en phase d’expérimentation, l’association appelle à son abandon.
Un débat plus large sur l’IA et la politique
Le juriste insiste sur le fait qu’un algorithme n’est jamais neutre, car il est élaboré par des humains, intégrant des choix politiques implicites. La présentation de cet outil comme une simple solution technique masque les décisions politiques qui l’accompagnent. Si certaines catégories de demandeurs d’emploi sont davantage ciblées, il pourrait être facile de rejeter la responsabilité sur l’algorithme, alors que des choix humains sont toujours à l’origine de son fonctionnement.
La question soulevée par cette initiative dépasse donc celle de l’intelligence artificielle, touchant aux fondements mêmes des politiques publiques et à la manière dont celles-ci sont mises en œuvre.
Source : La Quadrature du Net
