En novembre 2023, La Quadrature du Net, Access Now, ARTICLE 19, European Center for Not-for-Profit Law (ECNL), European Digital Rights (EDRi) et Wikimedia France lançaient une action en justice contre le décret français d’application du Règlement européen relatif à la lutte contre la diffusion des contenus à caractère terroriste en ligne (TCO, ou « TERREG »). L’objectif était d’obtenir l’invalidation par la Cour de justice de l’Union européenne (CJUE) de ce règlement dangereux en raison de son incompatibilité avec la Charte des droits fondamentaux de l’UE. Malheureusement, dans sa décision rendue lundi, la plus haute juridiction administrative française, le Conseil d’État, a rejeté les arguments des organisations et leur demande de renvoi de l’affaire devant la CJUE.

Ce résultat est extrêmement décevant pour deux raisons principales. Premièrement, le Conseil d’État s'est illégitimement approprié le débat juridique sur la compatibilité du règlement TCO avec le droit primaire de l'UE. Cette question devrait pourtant être traitée au niveau de l’UE. Selon les Traités, la CJUE est la juridiction principale compétente pour statuer sur la légalité des actes de l’UE – c’est pour cela que les organisations demandaient le renvoi de l’affaire devant celle-ci. En menant son propre contrôle de légalité, le Conseil d’État empêche de facto la CJUE d’exercer ses compétences exclusives.

Deuxièmement, cette décision signifie également que les polices de l’ensemble de l’UE peuvent continuer à exercer leurs pouvoirs de censure excessive en vertu du règlement TCO pour encore un certain temps. Depuis la publication initiale de la proposition en 2018, les organisations qui ont contesté le règlement TCO ont régulièrement fait part de leurs préoccupations quant aux violations potentielles des droits fondamentaux en raison de l’insuffisance des garanties prévues. Au vu des données disponibles sur la mise en œuvre du règlement, certains éléments indiquent que certains États membres pourraient utiliser le TERREG comme un outil politique pour réprimer certains types d’expressions en ligne.

Par exemple, sur les 349 injonctions de retrait émises dans l’UE entre juin 2022 et avril 2024, 249 l’ont été par les autorités allemandes à la suite des événements du 7-Octobre en Israël. Cette situation est très préoccupante compte tenu de la répression croissante en Allemagne à l’encontre de la liberté d’expression, de réunion et d’association qui vise celles et ceux qui défendent les droits des Palestiniens et Palestiniennes (notamment par des interdictions de manifester, annulations d'événements, répression d’initiatives étudiantes, etc.).

Les organisations insistent sur la nécessité urgente de mettre fin aux pouvoirs de censure disproportionnés que confère le TERREG à la police et de protéger la liberté d'expression en ligne, en particulier dans un contexte de rétrécissement de l’espace démocratique à travers tout le continent. Elles s’engagent à rechercher d’autres voies de recours afin d’obtenir le renvoi devant la CJUE de la question de la légalité du règlement TCO.

La Quadrature du Net (LQDN) promeut et défend les libertés fondamentales dans le monde numérique. Par ses activités de plaidoyer et de contentieux, elle lutte contre la censure et la surveillance, s’interroge sur la manière dont le monde numérique et la société s’influencent mutuellement et œuvre en faveur d’un internet libre, décentralisé et émancipateur.

Le European Center for Not-for-Profit Law (ECNL) est une organisation non-gouvernementale qui œuvre à la création d’environnements juridiques et politiques permettant aux individus, aux mouvements et aux organisations d’exercer et de protéger leurs libertés civiques.

Access Now défend et améliore les droits numériques des personnes et des communautés à risque. L’organisation défend une vision de la technologie compatible avec les droits fondamentaux, y compris la liberté d’expression en ligne.

European Digital Rights (EDRi) est le plus grand réseau européen d’ONG, d’expert·es, de militant·es et d’universitaires travaillant à la défense et à la progression des droits humains à l’ère du numérique sur l’ensemble du continent.

ARTICLE 19 œuvre pour un monde où tous les individus, où qu’ils soient, peuvent s’exprimer librement et s’engager activement dans la vie publique sans crainte de discrimination, en travaillant sur deux libertés étroitement liées : la liberté de s’exprimer et la liberté de savoir.

Wikimédia France est la branche française du mouvement Wikimédia. Elle promeut le libre partage de la connaissance, notamment à travers les projets Wikimédia, comme l’encyclopédie en ligne Wikipédia, et contribue à la défense de la liberté d’expression, notamment en ligne.

Salut les marmottes !

Au Garage cette semaine, on revient sur les mesures du projet de loi « simplification » qui facilitera la prolifération d’immenses data centers, sur les robots de contrôle utilisés par la CAF, et sur le passage de la loi narcotrafic devant le Conseil constitutionnel (avec le retour de la reconnaissance faciale en embuscade).

Bonne lecture à vous !

Alex, Bastien, Eda, Eva, Félix, Marne, Mathieu, Myriam, Noémie, Nono et Vi

Loi simplification : vers des data center gros comme 70 terrains de foot !

La promesse faite cet hiver par Emmanuel Macron aux investisseurs de la tech est en passe d’être gravée dans le marbre de la loi « simplification » : parmi d’autres mesures de dérégulation poussées par les milieux patronaux et industriels, l’article 15 de ce projet de loi prévoit en effet des procédures accélérées pour faciliter le déploiement de monstrueux data centers censés permettre à la France et à l’Europe de rester dans la course à l’IA. Dans le cadre de la coalition Hiatus (https://hiatus.ooo/), nous avons pourtant mené bataille pour que cette disposition soit repoussée, pour que les projets de data centers ne fassent pas l’objet de dérogation au droit à la participation du public, déjà passablement rogné dans la pratique, mais aussi au droit de l’urbanisme et de l’environnement. Contre cette fuite en avant, nous avons demandé, de concert avec d’autres associations, militant·es écologistes comme Camille Étienne, mais aussi quelques responsables politiques, la suppression de cet article 15, un moratoire sur la construction de gros data centers et la mise en place de débats publics, qui pourraient prendre la forme de conventions citoyennes. Ça n’a pas été suffisant. Grâce aux voix de l’extrême droite et du Parti socialiste, le gouvernement est parvenu à maintenir cet article 15 par 71 voix contre et 33 voix pour notre amendement de suppression. Si nous avons perdu cette manche, un large front s’est néanmoins consolidé pour dénoncer la fuite en avant écocide liée à ces immenses infrastructures qui accompagnent l’essor démesuré de l’IA. La bataille ne fait que commencer !

• Tribune du 8 avril : Tribune : Contre la «loi simplification», ralentissons et osons faire front commun https://www.laquadrature.net/2025/04/08/tribune-contre-la-loi-simplification-ralentissons-et-osons-faire-front-commun/

• Article du 29 avril : PJL simplification : déréguler l’IA, accélérer sa fuite en avant écocide https://www.laquadrature.net/2025/04/29/pjl-simplification-dereguler-lia-accelerer-sa-fuite-en-avant-ecocide/

Les robots-contrôleurs de France Travail

Dans le cadre de notre projet « France Contrôle », qui s’intéresse aux algorithmes qui accompagnent la casse sociale, on poursuit nos recherches concernant France Travail. Et on a levé un nouveau loup ! Les réformes successives du service public de l’emploi se succèdent dans le sens d’une répression toujours accrue des personnes sans d’emploi. Dans ce cadre, une partie du travail de contrôle des personnes au RSA et devant réaliser 15h hebdomadaires d’activités a été confiée à des algorithmes développés par France Travail. Après que toutes sortes de données personnelle ont été moulinées, les personnes concernées font l’objet d’une classification automatique en trois niveaux : « clôture » (pas de suspicion), « clôture potentielle » (suspicion moyenne) ou « contrôle potentiel » (suspicion forte). Les agent·es de France Travail en charge du contrôle sont ensuite invité·es à se concentrer sur les dossiers les plus « risqués », avec à la clé de possibles radiations et des personnes plongées un peu plus dans la précarité. Et ce alors qu’aucune preuve ne vient corroborer la doxa politique selon laquelle une répression accru·e des assuré·es sociaux aurait des conséquences positives pour la lutte contre la fraude et autres erreurs déclaratives.

• Article du 29 mai : France Travail : des robots pour contrôler les chômeurs·euses et les personnes au RSA https://www.laquadrature.net/2025/05/22/france-travail-des-robots-pour-controler-les-chomeurs%c2%b7euses-et-les-personnes-au-rsa/

Loi Narcotrafic : qu’en dit le Conseil constitutionnel ?

Cet hiver, nous avons mené une autre campagne législative contre les mesures de surveillance de la loi narcotrafic. Pour rappel, cette loi, adoptée au début du printemps, prévoit notamment l’activation à distance des appareils numériques (micros et caméras) pour les transformer en mouchards, l’extension du périmètre des « boîtes noires » de renseignement qui analysent le réseau pour trouver les comportements « suspects », la création d’un « dossier coffre », c’est-à-dire que les procès-verbaux d’instruction ne décriront plus les méthodes de surveillance utilisées, la censure administrative de contenus relatifs aux drogues sur les réseaux sociaux, ce qui pourrait entraver des démarches de soin et de prévention des risques. Les personnes visées par la définition large et mouvante de la « criminalité en bande organisée », si large qu’elle peut en venir à couvrir des actions militantes, pourront donc faire l’objet de ces mesures. Sur ces différents sujets, nous avons fait valoir nos arguments juridiques alors que le Conseil constitutionnel était saisi de ce projet de loi par des députés. 

Celui-ci a rendu sa décision hier et, sans grande surprise, il a validé quasiment l’ensemble du texte. Seule la surveillance des adresses URL au travers des algorithmes des « boites noires » du renseignement a été censurée. L’extension de ces « boites noires » à la criminalité organisée a également été censurée, mais le Conseil constitutionnel n’a pas émis de critiques de fond sur cette extension et n’a prononcé la censure qu’en raison de la manière dont la loi était rédigée. Cette extension pourrait donc très bien faire son retour à l’avenir… De 

même, si une condition de procédure des « dossiers coffres » est jugée contraire à la Constitution, leur principe est entièrement validé. Cela permettra donc à la police de ne pas rendre des comptes sur des mesures de surveillance très intrusives. Et comble du mauvais goût, l’ancien sénateur Philippe Bas, désormais membre du Conseil constitutionnel, n’a pas jugé utile de se déporter sur ce texte alors qu’il l’avait lui-même voté lorsqu’il était encore sénateur…

Bien que le processus législatif soit terminé, la lutte contre le narcotrafic continue cependant d’être instrumentalisée par les marchands de peur du gouvernement. Après les annonces de Gérald Darmanin début mai qui, décidément, a du mal à raccrocher le costume de « premier flic de France », c’est Bruno Retaillau qui lui a emboîté le pas la semaine dernière, estimant qu’« il faudrait nous permettre pour mieux déceler les visages d’utiliser la reconnaissance faciale » en temps réel https://www.bfmtv.com/police-justice/une-revolution-penale-et-technologique-la-reponse-de-bruno-retailleau-apres-les-violences-en-marge-du-sacre-du-psg_AN-202506040174.html. La prochaine bataille contre l’expansion de la surveillance ?

• Article du 9 juin : La loi Narcotrafic devant le Conseil constitutionnel https://www.laquadrature.net/2025/06/09/la-loi-narcotrafic-devant-le-conseil-constitutionnel/

Campagne de soutien 2025

Notre campagne de soutien pour 2025 est toujours ouverte, aidez-nous à boucler le budget ! Vous pouvez nous faire un don sur notre site : https://www.laquadrature.net/donner/.

Agenda

• 18 juin :  Lutter contre la technopolice : Bilan et perspectives avec LQDN et Technopolice Bruxelles – 18h30, 70B Rue de Danemark, 1060, Saint-Gilles, Belgique.

• 2 juillet : Réunion mensuelle Technopolice Paris-Banlieue, 19h, Le Bar Commun, 135 rue des Poissonniers, Paris.

• 10 juillet : Causerie mensuelle de Technopolice Marseille, 19h, Manifesten, 59 Rue Adolphe Thiers Marseille.

• 25-27 juillet : Festival des imaginaires techniques « La Machine dans le jardin » à Meillonnec (22)

Retrouvez tout l’agenda en ligne https://www.laquadrature.net/agenda/

La Quadrature dans les médias

ZDNet : Des Nouvelles de Veesion ; https://www.zdnet.fr/actualites/videosurveillance-et-ia-veesion-leve-53-millions-pour-se-developper-a-linternational-476052.htm

Mediapart : Des nouvelles de Veesion ; https://www.mediapart.fr/journal/france/120625/veesion-une-start-prospere-de-la-videosurveillance-dans-le-viseur-de-la-cnil

Le Figaro : Les 800 drones de la Gendarmerie ; https://www.lefigaro.fr/actualite-france/analyse-des-scenes-de-crime-detection-des-emeutiers-800-drones-au-service-de-la-gendarmerie-20250606

Basta ! : L’utilisation de l’IA par France Travail ;  https://basta.media/ia-et-controle-automatise-quand-france-travail-passe-en-mode-robot

Rapports de Force : L’utilisation de l’IA par France Travail ; https://rapportsdeforce.fr/pas-de-cote/quand-france-travail-passe-en-mode-robot-053124886

Mediapart : La censure des contenus terroristes contestée devant le conseil d’état ; https://www.mediapart.fr/journal/france/280525/la-censure-des-contenus-accuses-de-terrorisme-sur-internet-contestee-devant-le-conseil-d-etat

Le Républicain Lorrain : L’utilisation de la VSA par la ville de Metz ; https://www.republicain-lorrain.fr/defense-guerre-conflit/2025/05/23/l-ia-pour-securiser-la-ville-les-inquietudes-des-elus-de-gauche

Le Républicain Lorrain : Ce que la loi autorise en terme de VSA ; https://www.republicain-lorrain.fr/faits-divers-justice/2025/05/23/la-quadrature-du-net-qu-est-ce-que-la-loi-autorise

Les Échos : Analyse du marché de la VSA et des entreprises françaises ;  https://www.lesechos.fr/start-up/ecosysteme/les-start-up-de-la-french-tech-bousculent-le-marche-de-la-videosurveillance-algorithmique-2165053

Le Dauphiné : Analyse de la Quadrature après la décision de Moiran sur la VSA ; https://www.ledauphine.com/politique/2025/04/28/videosurveillance-algorithmique-plusieurs-centaines-de-communes-hors-la-loi

Le Relève et la Peste : Le prolongement de la VSA ; https://lareleveetlapeste.fr/le-gouvernement-francais-prolonge-la-videosurveillance-de-masse-jusquen-2027/

Radio Parleur : L’impact de la loi Narcotrafic sur les militants ; https://radioparleur.net/2025/04/03/loi-contre-le-narcotrafic-une-menace-cachee-contre-les-militant%c2%b7es/

Alternatives Économiques : L’impact de la Loi Simplification sur l’environnement ; https://www.alternatives-economiques.fr/simplification-cheval-de-troie-de-demolition-droit-de-lenv/00114695

L’Humanité : L’impact de la Loi Simplification ; https://www.humanite.fr/politique/droite/pourquoi-le-projet-de-loi-de-simplification-de-la-vie-economique-a-lassemblee-nationale-contient-des-mesures-regressives

Reflets.info : L’impact de la VSA sur la démocratie ; https://reflets.info/articles/le-braquage-democratique-de-la-vsa

L’Humanité : Utilisation de la VSA dans les bureaux de Tabac : https://www.humanite.fr/societe/cnil/des-cameras-augmentees-a-lia-pour-reconnaitre-les-mineurs-dans-les-bureaux-de-tabac-dans-le-viseur-de-la-cnil

Le Courrier Picard : Analyse de la loi Transport ; https://www.courrier-picard.fr/id616032/article/2025-03-20/fouilles-cameras-pietons-amendes-que-prevoit-la-nouvelle-loi-sur-la-securite

Au milieu de l’hiver, la loi Narcotrafic est arrivée à toute vitesse et, avec elle, ont déferlé des propositions sécuritaires et de surveillance qui dépassaient largement la question du trafic de stupéfiants. Avec vous, nous avons mené campagne pour alerter sur les risques de ce texte. Son examen au Parlement est désormais terminé et nous avons envoyé nos arguments au Conseil constitutionnel pour le convaincre de censurer ces dispositions dangereuses et révoltantes. Sa décision sera rendue cette semaine.

Il s’agit de l’ultime étape du processus législatif. Saisi par les députés insoumis, écologistes et socialistes, le Conseil constitutionnel doit désormais analyser si un certain nombre de mesures de la loi « Narcotrafic » sont conformes aux principes constitutionnels. De la même manière que nous avons alerté les député·es de l’inconstitutionnalité de certaines mesures lors des débats parlementaires, nous avons envoyé au Conseil constitutionnel nos critiques en ce qui concerne les dispositifs de surveillance contenus dans la loi (la contribution est accessible ici).

Des cadeaux pour le renseignement

Nous dénonçons d’abord l’extension des pouvoirs des services de renseignement. D’une part, la loi supprime l’obligation pour les services d’obtenir une autorisation explicite du Premier ministre et de la Commission nationale de contrôle des techniques de renseignement (CNCTR) avant la transmission d’informations entre les différents services (article 1^er). De ce fait, ils pourraient s’échanger beaucoup plus facilement des informations récoltées dans des contextes différents et pour des finalités différentes. D’autre part, l’échange d’information avec la justice est également assoupli (article 13), en totale contradiction avec le principe de séparation des pouvoirs, qui devrait impliquer que les services de renseignements n’ont pas à recevoir des éléments liés à des enquêtes. En effet, ils ne sont pas une autorité judiciaire et n’ont aucune compétence de répression pénale. Le mélange des genres est donc complet.

Surtout, les services de renseignement pourraient demain utiliser plus largement ce que l’on appelle les « boites noires » (article 15), ces algorithmes qui analysent un réseau pour trouver des comportements de connexion qui seraient « suspects ». Ces boites noires constituent, depuis leur création en 2015, de la surveillance de masse. Elles peuvent notamment cibler les personnes protégeant leur vie privée : lors des débats, le député Sacha Houlié, membre de la Délégation parlementaire au renseignement (DPR) et qui a ainsi accès à plus d’informations que ses collègues sur le fonctionnement précis des services de renseignement, expliquait que les personnes faisant attention à leur « hygiène numérique » sont la cible de ces boites noires. Le député mentionnait ainsi les personnes utilisant des « messageries cryptées » comme « Whatsapp » ou « Signal », et on suppose que ces boites noires visent également les internautes utilisant un VPN ou Tor.

Après avoir été autorisées pour la lutte contre le terrorisme puis contre les ingérences étrangères, ces boites noites pourraient, si la loi passait le filtre constitutionnel, alors être installées pour la lutte contre la « criminalité et la délinquance organisée », soit un périmètre très large. De plus, depuis une modification de 2021, ces algorithmes analysent également les adresses URL des sites consultés sur un réseau, ce qui peut donner accès à des informations très précises sur les contenus consultés. Nous avons donc rappelé au Conseil constitutionnel que cette technique de surveillance porte une atteinte disproportionnée au droit à la vie privée, à la liberté d’expression et au secret des correspondances.

De nouveaux outils de surveillance pour la police et l’administration

Loin de se limiter aux seuls services de renseignement, la loi « Narcotrafic » dote aussi la police judiciaire de nouveaux pouvoirs de surveillance extrêmement intrusifs, dès lors qu’une affaire serait liée à la criminalité organisée. Nous avons rappelé à de nombreuses reprises que ce régime juridique d’exception, qui ne peut, en principe, être mobilisé que pour les seules enquêtes portant sur des faits très graves, est en réalité utilisé de façon très large, loin de se limiter au « haut du spectre » (pour reprendre une expression abondamment utilisée par les défenseurs de ce système) et qui, déjà aujourd’hui, fait l’objet d’utilisations abusives, notamment pour poursuivre des militant·es.

Ainsi, la police pourrait, pour certaines infractions, activer à distance les micros et caméras des objets connectés (articles 38 et 39), en compromettant les appareils grâce à des failles de sécurité. Nous n’avons pas manqué de rappeler au Conseil constitutionnel qu’il a déjà déclaré ce dispositif inconstitutionnel en raison de l’atteinte disproportionnée au droit au respect de la vie privée. Aussi, la loi introduit une nouvelle procédure dénommée « dossier-coffre », ou « procès-verbal distinct », consistant à ne pas verser au dossier pénal certains actes de procédure relatifs à des mesures de surveillance (article 40). Dénoncée par les avocat·es et les magistrat·es, cette mesure porte atteinte au principe du contradictoire et au procès équitable car elle empêche les personnes de pouvoir se défendre, faute de pouvoir savoir comment cette surveillance dissimulée s’est concrètement faite et si les exigences légales ont bien été respectées.

De son coté, l’administration n’est pas en reste sur l’extension de ses pouvoirs. Les enquêtes administratives de sécurité, qui conditionnent l’accès à certains emplois, pourraient être très largement étendues à tout emploi public et privé lié à des menaces de corruption (article 54). Ces enquêtes impliquent la consultation de nombreux fichiers de police et de renseignement et reposent sur des critères opaques. Elles ont pourtant des conséquences bien concrètes puisque, pendant les Jeux Olympiques, elles ont conduit à empêcher certaines personnes perçues comme militantes par les autorités de travailler. Nous avons expliqué au Conseil constitutionnel en quoi ces discriminations fondées sur les opinions politiques portent atteinte au principe d’égalité.

Par ailleurs, la plateforme Pharos, chargée d’exiger des plateformes en ligne qu’elles censurent des contenus, aura de nouvelles compétences puisqu’elle pourra agir contre les contenus relatifs à la cession de stupéfiants (article 28). Depuis des années, nous critiquons le principe de cette censure administrative, qui permet à la police de décider elle-même de retirer un contenu sans qu’un juge n’intervienne, laissant la possibilité de multiples abus.

Une nouvelle escalade sécuritaire

Nous avons également attiré l’attention du Conseil constutionnel sur l’obligation radicalement disproportionnée faite aux opérateurs de communication électronique de conserver pendant cinq années l’identité civile de toute personne achetant des cartes SIM prépayées (article 29). Non seulement il s’agirait d’une nouvelle forme de contrôle de l’expression en ligne, mais la loi est tellement mal rédigée que ce sont tous les services de communication en ligne (notamment les messageries) qui pourraient être concernés par cette obligation de contrôle d’identité à partir du moment où certaines fonctionnalités sont payantes (comme c’est par exemple le cas pour Olvid, la messagerie plébiscitée par les macronistes).

Enfin, nous avons longuement expliqué que l’extension de l’utilisation des drones en prison (article 56) viole la Constitution, pour trois raisons. Premièrement le législateur a violé le principe de séparation des pouvoirs en confiant à l’administration pénitentiaire un pouvoir de répression pénale constitutionnellement réservé à l’autorité judiciaire. Deuxièmement, cette surveillance par drones mise en œuvre par l’administration n’est ni nécessaire ni proportionnée au regard des très nombreux dispositifs déjà existants pour surveiller les prisons. Et, troisièmement, cette nouvelle autorisation de drones prévoit qu’ils puissent être utilisés sans aucune information, publicité ou transparence, rendant impossible la moindre contestation en justice, déjà en pratique extrêmement compliquée.

Malheureusement, la loi Narcotrafic contient d’autres mesures répressives qui repoussent toujours plus loin les limites du droit et généralisent l’exception, telle que l’extension de la durée de garde à vue pour les « mules » ou les personnes arrêtées avec des substances stupéfiantes dans le sang, l’interdiction administrative de paraître dans certains quartiers, la facilitation de l’expulsion de logements, la création de la notion vague d’« organisation criminelle »… D’autres organisations ont dénoncé ces nombreux risques pour les libertés.

Si nous n’avons que des espoirs mesurés dans la future décision du Conseil constitutionnel, nous regardons aussi les prochains combats à venir. En effet, si l’obligation de mettre en place une porte dérobée au sein des messageries chiffrées a bel et bien été retirée du texte, le président de la commission des lois, Florent Boudié, a annoncé vouloir remettre le sujet sur la table. En parallèle, les ministres Gerald Darmanin et Bruno Retailleau ont brandi la criminalité organisée et le « narcotrafic » comme excuse pour rendre acceptable une potentielle légalisation de la reconnaissance faciale en temps réel mais aussi justifier la confiscation extrajudiciaire des téléphones.

Quoi qu’il arrive, nous continuerons d’agir et dénoncer cette escalade vers un État de surveillance de plus en plus généralisée. Pour nous aider dans cette lutte, n’hésitez pas à faire un don !