Bonjour à toutes et à tous !
Cette semaine, on vous explique en vidéo ce que contient la loi RIPOST qui vient d’être votée, France Travail cède, à son tour, aux sirènes du contrôle algorithmique, le Parlement vote le contrôle d’identité généralisé sur les réseaux sociaux, et le Conseil constitutionnel censure le recours à la généalogie génétique de la loi SURE.
Bonne lecture à vous !

Alex, Bastien, Eva, Marne, Mathieu, Myriam, Noémie et Nono

Algorithme de contrôle des chômeur·es à France Travail : encore l’excuse de l’expérimentation

Avec la cellule investigation de Radio France, nous avons révélé un document élaboré par France Travail datant de décembre 2025 qui explique qu’un algorithme de contrôle des chômeur·es est en train d’être déployé. Cet algorithme a pour objectif de vérifier que les personnes sont effectivement en train de rechercher un emploi. Concrètement, la machine repère certains dossiers en fonction de variables prédéfinies afin de les transmettre aux agent·es de France Travail. À la date de décembre 2025, 7000 personnes ayant bénéficié d’une rupture conventionnelle avaient déjà servi de cobayes à cet algorithme « expérimental », et une nouvelle vague d’expérimentation était en préparation.

Cela vous rappelle peut-être un autre algorithme : celui de la CAF. Cet algorithme cible de façon discriminatoire les personnes les plus précaires, dont beaucoup de personnes au RSA, simplement parce qu’elles bénéficient de prestations sociales. Si on ne sait pas quels effets l’algorithme de France Travail a eu sur les 7000 personnes déjà passées au crible de l’IA, on ne peut que craindre les mêmes effets : ciblage des plus pauvres, déresponsabilisation de la direction de France Travail, déshumanisation des personnes et violence administrative renforcée contre les plus précaires. C’est pour cela que La Quadrature appelle à l’arrêt de cette expérimentation.

Si vous êtes inscrit·e à France Travail, vous pouvez également demander des comptes à votre conseiller·ère pour savoir si vous êtes concerné·e et exprimer votre refus de cette surveillance.

Lire l’article du 20 juillet : France Travail déploie un outil de profilage algorithmique à des fins de contrôle

Vérification d’âge sur les réseaux sociaux : le Parlement vote une loi réactionnaire

Ça y est ! Sans surprise, malheureusement, l’Assemblée nationale et le Sénat ont voté définitivement cette semaine l’interdiction pour les mineur·es de moins de 15 ans d’accéder aux réseaux sociaux. Tous. Y compris les réseaux sociaux du fédivers comme Mastodon ou Peertube. Y compris, peut-être, certaines messageries comme Signal, Whatsapp ou Telegram, qui ont des fonctionnalités de groupes qui pourraient s’apparenter à un réseau social tellement la définition choisie par le législateur français est large. Au 1^er septembre prochain, les plateformes pourraient donc commencer à exiger vos papiers d’identité (parce qu’une vérification d’âge implique un contrôle d’identité). Alors que la loi n’a pas encore été promulguée (le Conseil constitutionnel a été saisi et il ne rendra sa décision, permettant la promulgation de la loi si elle n’est pas censurée, qu’à la fin du mois d’août), l’Élysée a déjà convoqué les plateformes. L’objectif semble être de leur mettre la pression, Emmanuel Macron ayant fait de cette interdiction des réseaux sociaux un élément phare de sa politique, et alors que les modalités pratiques et l’effectivité de cette loi sont très incertaines.

« Encore une loi de merde » disions-nous au début du mois de juillet. Et en plus, une loi de merde réactionnaire. Parce que cette interdiction des réseaux sociaux aux mineur·es ne vient pas de nulle part. Elle est la continuité d’une politique anti-jeunes commencée en 2023 lorsque, pour ne pas répondre au mal-être de la jeunesse suite au meurtre de Nahel Merzouk, les réseaux sociaux ont été désignés par le gouvernement et Macron comme responsables des révoltes urbaines. Ou bien quand Tiktok a été bloqué en Nouvelle-Calédonie-Kanaky en 2024 au moment des révoltes sociales sur l’archipel, sur le prétexte fallacieux et jamais démontré que des contenus violents illégaux auraient été massivement partagés. Alors que la plateforme servait surtout de lieu d’information pour la jeunesse.

Lire l’article du 22 juillet : Le Parlement vote l’interdiction des réseaux sociaux aux jeunes de moins de 15 ans

Couic la généalogie génétique

Bonne nouvelle ! Le 23 juillet, le Conseil constitutionnel a censuré le recours à la généalogie génétique dans le projet de loi SURE porté par Gérald Darmanin. Cette mesure aurait permis à la police d’accéder aux bases de données ADN d’entreprises privées étrangères qui proposent des tests « récréatifs » pour connaître ses origines. Non seulement ces tests sont interdits en France mais leur accès aurait été fait sans le consentement des personnes (on vous en parlait en mai).

Restons tout de même prudent·es. Car comme d’habitude, le Conseil constitutionnel donne le mode d’emploi pour rendre la mesure conforme à la Constitution dans le futur. En l’occurrence, il reproche au gouvernement d’avoir été trop imprécis quant aux conditions du recours à ces bases de données et suggère donc qu’une nouvelle version plus détaillée et précise pourrait être valide. Il est donc possible que cette technique très intrusive d’exploitation de nos données génétiques, qui sont extrêmement sensibles et identifiantes à vie, revienne dans les mois ou années à venir. Mais en attendant, savourons cette victoire tant elles sont rares !

Loi RIPOST : une dernière loi sécuritaire pour la route

Entre la loi sur les polices municipales, la loi SURE, la loi de programmation militaire ou encore la loi sur la présomption de légitime défense des policiers, cette dernière année du mandat de Macron aura été un festival sécuritaire. Mais ce n’est pas fini ! Le ministre de l’intérieur, Laurent Nunez, est parvenu à faire adopter « sa » loi, dite RIPOST pour, lui aussi, apporter sa pierre à l’édifice.

En plus de contenir des mesures sur la criminalisation des free party, des rodéos urbains, l’extension des pouvoirs de sécurité privée ou sur les amendes forfaitaires délictuelles, la loi RIPOST est aussi une loi de surveillance. En effet, elle prévoit d’étendre encore un peu plus l’expérimentation de vidéosurveillance algorithmique : celle-ci aura lieu désormais jusqu’en 2030 et s’étendra à la surveillance des abords des lieux ouverts au public. Aussi, ce texte élargit considérablement le capacité de surveillance policière des véhicules graĉe aux lecteurs automatisés de plaques d’immatriculation, plus connus sous leur petit nom de « LAPI ».

On vous en parlait déjà dans un article, maintenant nous y avons consacré une vidéo. La loi RIPOST, elle, a été adoptée définitivement le 23 juillet par le Parlement et a été transmise au Conseil constitutionnel.

Voir la vidéo sur la loi RIPOST sur notre chaine Peertube

La Quadrature recrute toujours !

Nous recherchons toujours une personne ayant une formation de juriste (qu’il s’agisse de droit public, droit privé, droit pénal, droit international, etc.), qui a déjà eu une expérience passée et qui partagerait les valeurs et combats de l’association, idéalement pour une prise de poste en décembre 2026. Nous valorisons les profils ayant une vision militante du droit ou une expérience dans d’autres collectifs. Envoyez- vos CV avant le 6 septembre !

Lire l’offre détaillée

Soutenez La Quadrature en 2026 !

Notre campagne de soutien pour 2026 est toujours ouverte. Nous avons atteint environ 65% de l’objectif pour financer l’association durant l’année. Vous pouvez donc toujours faire un don sur notre site !
Merci pour votre aide

Pour nous soutenir en 2026 : Faites un don à La Quadrature du Net

La Quadrature dans les médias

France Travail

• La « Quadrature du net » s’inquiète de nouveau des logiques de profilage algorithmique à l’oeuvre au sein de France travail [AEF Info]
• « Organiser la répression des plus vulnérables » : France Travail utiliserait une IA pour traquer les chômeurs les plus susceptibles de frauder [Sud Ouest]
• « Organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables »: France Travail teste un outil d’IA, déjà décrié, pour savoir quels chômeurs contrôler en priorité [BFM Tech]
• France Travail utilise un algorithme IA pour repérer et contrôler les chômeurs « suspects » [Journal du geek]
• “Ciblage du contrôle de la recherche d’emploi” : France Travail mise toujours plus sur l’IA pour mieux vous traquer [Les Numériques]
• Chasse aux pauvres : France Travail développe une IA pour fliquer les chômeurs, selon un document interne [L’Humanité]
• France Travail : une IA pour trier, repérer et contrôler les POTENTIELS fraudeurs [L’Humanité]
• France Travail : un algorithme pour accélérer le profilage des chômeurs et les contrôles [Next]
• France Travail teste un outil pour repérer les dossiers à contrôler en priorité [Ouest-France]

Vérification d’âge

• Interdiction des réseaux sociaux aux moins de 15 ans : « La loi demeure floue sur son application » [Le Dauphiné libéré]
• Victoire décisive ou mesure symbolique? La France adopte l’interdiction des réseaux sociaux aux moins de 15 ans, une majorité numérique qui divise [BFM Tech]
• L’interdiction des réseaux sociaux aux moins de 15 ans, « norme sociale très importante » ou « affichage politique » ? [France Inter]
• Interdiction des réseaux sociaux aux moins de 15 ans : « Ça crée une norme sociale très importante » [Franceinfo]

L’Assemblée nationale et le Sénat ont adopté ce 21 juillet la proposition de loi de la députée Laure Miller interdisant aux mineur·es de moins de 15 ans d’accéder aux réseaux sociaux. Ce texte, qui veut instaurer une vérification d’âge en ligne dont la conséquence est un contrôle d’identité généralisé, doit entrer en application au 1^er septembre 2026 si le Conseil constitutionnel ne le censure pas entre-temps. Cette loi réactionnaire est une défaite pour l’internet libre, décentralisé, interopérable et défait des logiques marchandes et de la surveillance.

Contours techniques et instruments juridiques flous

Le texte adopté par le Parlement se limite à proclamer que « L’accès à un service de réseaux sociaux en ligne fourni par une plateforme en ligne est interdit aux mineurs de quinze ans ». Comme le souhaitait le gouvernement, il consiste à interdire l’accès aux jeunes à tout réseau social, une notion extrêmement large qui concerne tout lieu en ligne sur lequel il est possible de discuter après s’être créé un compte. Autrement dit, sont non seulement concernés les réseaux sociaux commerciaux comme Instagram, X/Twitter, Facebook, etc., mais aussi ceux décentralisés du Fédivers comme Mastodon ou Peertube. Pire encore, pourraient rentrer dans cette définition des messageries en ligne comme Signal, Whatsapp ou Telegram qui, par leurs systèmes de groupes, se rapprochent de ce que le droit entend par réseau social.

Toutes ces plateformes en ligne devront interdire aux mineur·es de moins de 15 ans l’accès à leurs services. Mais on ne sait pas comment en pratique elles devront le faire. Est-ce que les plateformes devront utiliser un dispositif d’estimation d’âge comme au Royaume-Uni ou en Australie, qui sera contourné par la très grande majorité des plus jeunes ? Faudra-t-il présenter ses papiers d’identité à une IA, empêchant alors de s’exprimer en ligne les personnes sans papier, pas à l’aise avec la technologie, ou tout simplement dont les papiers ne sont pas reconnus par la machine ? France Connect, l’identité numérique de la France qui sert aujourd’hui à accéder à certains services publics en ligne, devient-il le point de passage obligé avant d’avoir le droit d’exprimer une opinion en ligne ? Si la loi est muette sur ce point, le gouvernement semble écarter les dispositifs d’estimation d’âge. Ne seraient alors sur la table que des mesures de vérification d’identité.

D’autres flous persistent dans la loi, notamment concernant les pouvoirs de contraintes contre les plateformes qui refuseraient de faire cette vérification d’âge. Le Parlement a supprimé les pouvoirs de contraintes de l’Arcom, qui se voyait dans les premières versions du texte chargée de sanctionner les plateformes récalcitrantes. Probablement par peur que ce système ne soit pas conforme au droit européen, ces pouvoirs ont disparu dans la dernière ligne droite des négociations parlementaires, et l’Arcom a totalement disparu de l’équation dans le texte final.

Mais cela ne veut pas nécessairement dire qu’il n’y aurait pas de sanction pour les plateformes qui refuseraient de contrôler l’identité de leurs utilisateur·rices : la loi votée insère l’obligation de vérification d’âge dans la loi pour la confiance en l’économie numérique (LCEN), dans une partie sur la régulation des plateformes en ligne. Or, cette même LCEN comporte un article 6-3 qui permet à l’autorité judiciaire d’imposer à un intermédiaire technique de prendre « toutes les mesures » jugées nécessaires pour mettre fin au non-respect de la loi. En théorie, le gouvernement pourrait utiliser cette voie pour faire censurer une plateforme qui ne procéderait pas à la vérification d’âge des internautes. Il avait d’ailleurs déjà tenté d’utiliser cette procédure pour faire censurer la plateforme Shein.

Museler de plus en plus la jeunesse

Comble du cynisme, le gouvernement et le Parlement prennent l’excuse de la protection de la jeunesse pour faire passer leur mesure paternaliste. Ne nous trompons pas : cette loi ne protégera pas la jeunesse, bien au contraire. Elle ne s’attaque pas à la source du problème qu’est le modèle économique des réseaux sociaux commerciaux. Pendant les débats parlementaires, les défenseur·euses de ce texte n’ont eu de cesse d’essentialiser les réseaux sociaux pour en faire la source de tous les maux en ligne. Ils et elles ont pourtant oublié que cette toxicité désormais bien établie de certaines plateformes est due à leur caractère commercial. Exit donc des mesures de fond pour s’attaquer au modèle économique des plateformes commerciales. Et on se retrouve avec un texte d’affichage politique.

En privilégiant une interdiction autoritaire au détriment d’une remise profonde du modèle économique basé sur la publicité, cette loi démontre qu’elle n’est qu’une énième mesure de défiance envers les jeunes. Et ce n’est pas la première fois. En 2023 déjà, lors des révoltes suite au meurtre de Nahel Merzouk, les réseaux sociaux avaient été désignés comme les responsables, permettant aux pouvoirs publics d’ignorer les causes réelles du malaise de la jeunesse. Emmanuel Macron pointait du doigt les réseaux sociaux utilisés par la jeunesse et appelait déjà à leur censure. Son gouvernement n’a pas hésité à mettre la pression sur certaines plateformes en les « convoquant » pour qu’elles retirent des contenus parfaitement légaux, en dehors de toute procédure encadrée par la loi. Puis, en 2024, lors des révoltes en Nouvelle-Calédonie-Kanaky, le gouvernement de Gabriel Attal a fait censurer Tiktok en prétextant que se trouvaient sur cette plateforme des contenus illicites. Ceux-ci sont pourtant toujours restés introuvables, et la véritable raison était que la jeunesse s’informait et s’organisait (légalement) dessus.

Les défenseur·euses de ce texte ont-ils ou elles seulement demandé leur avis aux jeunes avant de légiférer ? C’est ce qu’ont fait aux États-Unis nos camarades de l’Electronic Frontier Foundation, qui se battent elles et eux aussi contre des États américains qui veulent interdire aux plus jeunes d’accéder aux réseaux sociaux. En donnant la parole aux plus jeunes, ils et elles ont mis en évidence le fait que ces plateformes restent, qu’on le veuille ou non, un lieu absolument nécessaire pour leur épanouissement.

Un danger illégal pour l’internet décentralisé

Parce que c’est sur les réseaux sociaux que reposera la charge d’empêcher les jeunes d’accéder à leurs services, cette loi va transformer encore plus les plateformes en auxiliaires de police. Elle met en cela en danger l’internet décentralisé, auto-hébergé, géré par des petits collectifs avec peu de moyens. Puisque les réseaux sociaux alternatifs et non-commerciaux comme les instances Mastodon ou Peertube sont concernés par cette obligation d’empêcher les jeunes de moins de 15 ans d’accéder à leurs services, ils devront eux aussi s’équiper de ces lourdes infrastructures de surveillance (se connecter aux services de l’État pour permettre une authentification par identité numérique, ou payer un prestataire de vérification des papiers ou d’estimation d’âge). Au risque de disparaître tant cela est incompatible avec le modèle économique, souvent basé sur le don, de ces réseaux alternatifs.

Pourtant, cette vérification d’âge obligatoire semble être illégale. En juin dernier, la Cour de justice de l’Union européenne (CJUE) a précisé comment le droit européen devait s’interpréter (on vous renvoie à notre analyse de mai dernier pour plus de détails). Saisie par la justice française à propos de la loi SREN, la CJUE a drastiquement limité les possibilités d’actions des États membres. Tout en admettant que la protection des mineur·es en ligne pouvait autoriser des régulations nationales, la Cour a rappelé que le droit européen ne donne que très peu de marge de manœuvre dans ce cas. Elle a notamment rappelé que ces mesures ne doivent pas consister en des obligations générales (c’est-à-dire qu’il faut cibler certaines plateformes seulement), et qu’elles doivent être proportionnées. Autant de critères que ne respecte pas le texte voté en France.

Les oppositions parlementaires ont déjà annoncé qu’elles saisiraient le Conseil constitutionnel, dernier obstacle à son entrée en application. Nous espérons qu’il censurera ce texte, même si nous ne nous faisons pas d’illusion face à un Conseil constitutionnel qui s’illustre de plus en plus en allié de la montée du fascisme. Si le texte était validé, il ne restera que le refus de respecter la loi. Nous invitons les réseaux sociaux non commerciaux à refuser cette vérification d’âge. Nous invitons le Fédivers à montrer qu’il est une alternative crédible aux volontés de contrôle du gouvernement, un modèle souhaitable, y compris pour les jeunes, qui n’attend que le soutien de la loi. Alors pour nous aider à lutter pour un internet émancipateur, vous pouvez faire un don à La Quadrature du Net !

France Travail développe un algorithme de profilage des chômeur·euses à des fins de contrôle, comme le prouve un document que nous publions aujourd’hui en partenariat avec la cellule investigation de Radio France. Cet algorithme, encore en phase de test, manifeste la volonté de France Travail de massifier les contrôles via l’utilisation d’outils numériques. Nous appelons à la mobilisation contre cet algorithme illégal et à son abandon par la direction de France Travail.

Le 10 décembre dernier, un nouvel outil numérique était présenté au comité d’éthique IA de France Travail. Intitulé « Ciblage du Contrôle de la Recherche d’Emploi », son objectif est de « recourir à l’IA » afin d’« identifier les dossiers nécessitant un examen approfondi » et d’« alimenter automatiquement l’outil de contrôle de la recherche d’emploi ». Lors de sa présentation, cet outil était en phase active de test, étape préalable à un déploiement plus large.

En d’autres termes, l’ancien Pôle Emploi cherche à se doter d’un outil similaire à ceux que nous dénonçons à la CNAF ou à l’Assurance maladie, visant à automatiser la sélection des personnes devant faire l’objet d’un contrôle.

6 millions de personnes concernées

Cet algorithme vise à « prédire » quel·les chômeur·euses manqueraient à leurs obligations de recherche d’emploi. Concrètement, il repose sur la construction de profils « suspects/non suspects » fondée sur l’analyse de dizaines de milliers de contrôles passés¹L’algorithme a été entraîné sur la base de 60 000 contrôles passés. Techniquement, il se base sur un arbre de décision, une technique de machine-learning dont les paramètres sont sélectionnés par itérations successives.. Chaque personne inscrite est ensuite assignée à l’un de ces profils sur la base des données personnelles que détient France Travail. Celles et ceux classifié·es comme « suspect·es » sont placé·es sur une liste de personnes prioritaires à contrôler.

Si cet algorithme est aujourd’hui testé sur les profils de personnes en situation de rupture conventionnelle²À la date de publication du document, l’algorithme avait fait l’objet de deux campagnes de 7 000 tests environ chacune, portant sur les personnes ayant fait l’objet d’une rupture conventionnelle., France Travail souhaite « étendre l’utilisation du modèle à d’autres publics » afin d’« alimenter automatiquement l’outil de contrôle et transmettre chaque mois des listes de contrôle ciblés »³Ciblage du contrôle de la recherche d’emploi, document présenté en comité d’éthique IA du 10 décembre 2025, disponible ici. Le document précise que l’algorithme vise à alimenter les « listes de contrôles ciblées ». Ces contrôles représentent environ 40% de l’ensemble des contrôles, soit 500 000 contrôles en 2025, aux côtés des contrôles aléatoires ou des contrôles déclenchés sur « signalement ».. En prenant en compte l’ensemble des personnes au RSA, dont l’inscription à France Travail est obligatoire depuis le 1^er janvier 2026, ce sont plus de 6 millions de personnes qui pourraient se voir profiler chaque mois par l’algorithme⁴Inscrits à France Travail, premier semestre 2026, catégories A, B, C, D et E, France Travail, disponible ici..

Un ciblage incertain

À ce jour, nous disposons seulement de la liste des 26 variables utilisées par l’algorithme, mais nous ne connaissons pas les règles utilisées dans la construction des profils⁵La liste exhaustive des variables est disponible dans le document que nous publions.. Nous ne sommes donc pas en mesure de déterminer, via des simulations, quelles populations sont les plus ciblées par cet outil. Nous avons fait une demande d’accès au code source de l’algorithme mais, eu égard à l’opacité qu’entretient France Travail vis-à-vis de ses outils numériques, il est peu probable qu’elle aboutisse.

Parmi les catégories de variables retenues, notons notamment celles relatives aux « activités déclarées », à la « visibilité du demandeur d’emploi » (par exemple si le CV est en ligne sur le site de France Travail), à la recherche d’un travail dans un « métier en tension », au « niveau de formation », à « l’ancienneté d’inscription », ou encore à « l’historique des manquements » (absence à un rendez-vous par exemple). On retrouve également la présence d’une activité non salariée, critère par ailleurs utilisé par la CNAF dans son dernier algorithme de scoring pour dégrader la note des personnes en emploi précaire.

Mais l’absence de transparence quant aux règles de classification de l’algorithme ne doit pas masquer l’essentiel. Comme le montrent les exemples de la CNAF et de la CNAM, ces algorithmes sont dangereux en eux-mêmes, car ils sont des outils particulièrement efficaces pour organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables.

Déresponsabilisation et répression sociale

En premier lieu car, comme nous l’avions documenté en détail dans le cas de la CNAF, l’introduction d’algorithmes dopés à l’IA ou au « machine learning » dépolitise la question du contrôle social et des violences associées. France Travail ne fait pas exception : le document présenté à son comité d’éthique avance, dans un paragraphe intitulé « Pourquoi recourir à l’IA ? », que cette dernière permettrait une « suppression des a priori » en proposant « des dossiers à contrôler sur la base de critères objectifs ».

Ce que l’on observe ici c’est la transformation d’un problème politique – le choix des critères de sélection des personnes à contrôler – en un problème purement technique. Cette dépolitisation s’accompagne d’une délégitimation de la critique des politiques de contrôle, puisque ces dernières sont désormais censées être « neutres » et « objectives ». Elle procède également d’une déresponsabilisation des dirigeant·es qui n’ont plus à assumer, en leur nom, les politiques qui conduisent au ciblage de certaines catégories de personnes.

Ajoutons enfin que le profilage algorithmique est utilisé pour invisibiliser le caractère discriminatoire des politiques de contrôle à travers l’individualisation du processus de sélection. Nul·le n’est contrôlé·e parce qu’il ou elle fait partie de telle ou telle population, mais parce que son « score » individuel s’est détérioré.

Opacité et maltraitance

À cela s’ajoute l’opacité qui entoure le code des algorithmes de profilage. En permettant aux responsables des institutions sociales de taire la réalité du tri social organisé, elle complique considérablement la mise en lumière de leurs dérives.

On rappellera ici que, dans le cas de la CNAF, le code source de l’algorithme n’a été obtenu qu’après une longue bataille juridique et médiatique, tandis que celui de l’Assurance maladie ne l’a été qu’à la faveur d’une erreur de caviardage par l’administration. Pendant des années, l’absence de publication des paramètres de ces algorithmes a permis à ces institutions d’organiser le sur-contrôle de certaines populations (femmes isolées, personnes au RSA, personnes en situations de handicap…) sans jamais avoir à rendre de comptes. Pire, les dirigeant·es de ces institutions ont profité de cette opacité pour aller jusqu’à se vanter du recours à des outils de « modernisation » à la « pointe de la technologie ».

Ce risque est particulièrement fort concernant France Travail. Car, loin de la communication de sa direction vantant un recours à une IA « éthique » et « transparente »⁶Voir notamment la « Charte de France Travail pour une éthique de ses usages de l’intelligence artificielle », disponible ici., toutes nos demandes d’accès au code des IA utilisées par France Travail sont, à ce jour, restées lettres mortes. En violation flagrante de la loi, France Travail a notamment refusé de nous communiquer la moindre information sur des IA aussi sensibles que celles utilisées pour échanger par SMS afin de proposer des offres d’emplois à des usager·ères (MatchFt) ou celle que France Travail a généralisé auprès de ses conseillers afin de les aider dans leurs tâches quotidiennes (ChatFt)⁷Notons que nos demandes ne portaient pas que sur le code source de ces IA, mais aussi sur la documentation technique ou l’analyse d’impact de la protection des données.. Pire, dans ces deux cas, l’institution n’a même pas pris la peine de motiver sa décision auprès de la Commission d’accès aux documents administratifs (CADA) – l’institution chargée d’indiquer si ces refus sont légaux ou pas – lorsque nous l’avons saisie.

IA générative et massification des contrôles

Le développement de ce nouvel outil de profilage s’inscrit dans un contexte plus large de multiplication des outils numériques de contrôle au sein de France Travail. Rien que l’année dernière, nous alertions déjà sur le déploiement de « robots » visant à automatiser la décision de clore ou non un contrôle. Ces « robots » intervenaient lors du contrôle lui-même, alors que le nouvel algorithme intervient en amont, lors de la sélection des personnes à contrôler.

Ce qui se dessine, c’est la volonté d’automatiser l’ensemble de la chaîne de contrôle afin de répondre aux objectifs gouvernementaux de massification des contrôles, dont le nombre est passé de 200 000 en 2017 à 730 000 en 2025. En 2027, l’objectif fixé par le gouvernement est d’en réaliser 1,5 millions⁸Pour les chiffres de 2017, voir l’étude de Pôle Emploi « Le contrôle de la recherche d’emploi : l’impact sur le parcours des demandeurs d’emploi » disponible ici. Pour 2025, voir le document de présentation de l’algorithme. L’objectif de 1,5 millions a été annoncé par Gabriel Attal en 2024, voir cet article..

Mais c’est du côté de l’IA générative que les risques les plus importants existent aujourd’hui. Alors que France Travail multiplie le développement d’IA (ChatfT, NeoFt, MatchFT…), on ne peut que s’attendre à ce qu’une IA générative soit déployée à des fins de contrôle. Connectée au dossier de la personne contrôlée, elle formulerait une « suggestion » quant à la décision à prendre par le ou la contrôleur·euse. Ce serait une étape décisive vers une automatisation totale du contrôle de la recherche d’emploi et la possibilité de massifier, à moindre coût, le contrôle et la surveillance des millions de personnes inscrites à France Travail.

Il est fondamental que France Travail change de politique. Celle qui se dessine, une automatisation toujours plus inhumaine du contrôle, doit être rejetée. Il est encore plus inquiétant de voir que les dirigeant·es de France Travail ne veulent pas voir la réalité sociale de leur politique de contrôle et préfèrent s’enfermer dans la douce mélodie du solutionnisme technologique. Alors pour nous aider à continuer la lutte, vous pouvez nous faire un don et retrouvez l’ensemble de nos publications sur l’utilisation par les organismes sociaux d’algorithmes à des fins de contrôle social sur notre page dédiée.