Autoblog de la La quadrature du net

LEPARTISAN.INFO - Ce site n'est pas le site officiel de la Quadrature du net.C'est un blog automatisé qui réplique les articles de laquadrature.net

QSPTAG #319 — 7 mars 2025

Fri, 07 Mar 2025 16:06:40 +0000 - (source)

Loi « Narcotrafic » : une loi de surveillance où le numérique joue un rôle central

On en parlait fin janvier, la proposition de loi contre le « narcotrafic » est un grand fourre-tout sécuritaire qui joue la surenchère répressive dans tous les domaines, et les mesures de surveillance numérique ne sont pas les moins délirantes.

Imaginez. Il y aurait, dans un petit pays loin, loin d’ici, un gouvernement qui naviguerait à vue au gré des paniques médiatiques, qui godillerait de fait divers en fait divers, et qui entretiendrait avec complaisance une ambiance de panique morale collective, une sorte d’état d’urgence permanent : l’économie irait mal, la dette serait abyssale, les immigrés seraient trop nombreux et trop criminels, d’ailleurs le terrorisme frapperait de nouveau, et le trafic de drogue gangrènerait nos quartiers, etc. Bien conscient que sa politique économique, écologique et sociale serait peu populaire, ce gouvernement aurait besoin de la police pour résoudre la plupart de ses problèmes. Ce que la police demanderait, la police l’obtiendrait.

Dans ce contexte hostile à la réflexion et au respect des droits – une chose archaïque, visiblement, que des lois anciennes voulaient bizarrement protéger – c’est la foire aux mesures de surveillance intrusives. Activer à distance les micros et les caméras des appareils mobiles, casser le chiffrement des messageries instantanées, etc. La panoplie est détaillée dans l’article que nous avons publié le 24 février et dans la page de campagne.

« Mais pourquoi s’en inquiéter ? Ne s’agit-il pas de punir des criminels ? Vous ne voulez quand même pas protéger des assassins ? » Le danger est justement que ces mesures ne concernent pas « seulement les trafiquants de drogue ». Elles viennent étoffer un objet juridique qui existe déjà et qui s’appelle le régime de la « criminalité organisée ». Et ce régime censé cibler le grand banditisme a déjà été utilisé de nombreuses fois contre des actions militantes, justement en raison des facilités de procédure et de surveillance qu’il permet. On croit être dur pour les grossistes de cocaïne et on devient dur contre les opposants à une autoroute ou à une usine polluante. Quand une mesure liberticide entre dans la loi, d’abord de façon encadrée, elle reste dans la panoplie des mesures à appliquer quand on élargit le champ d’application à autre chose.

Nous avons donc appelé à une action collective pour interpeler les député·es de la commission des Lois qui devaient amender le texte cette semaine. Et vous avez répondu en nombre ! Un grand merci à vous !
L’action paye, et la commission a rejeté les mesures les plus dangereuses. Mais le gouvernement tentera sans doute de les introduire de nouveau lors de la discussion dans l’hémicycle, qui doit commencer le 17 mars. On en reparle très vite !

Lire l’article : La loi Narcotrafic est une loi de surveillance : mobilisons nous !
La page de la campagne : Contre la loi surveillance et narcotraficotage

Campagne de soutien 2025

Notre campagne de soutien pour 2025 est toujours ouverte ! Nous avons récolté environ 45% de notre objectif pour l’année. En prenant en compte les dons mensuels, on arrivera environ à 75% de l’objectif. Aidez-nous à boucler le budget 2025 ! Vous pouvez nous faire un don sur notre site.

Agenda

La Quadrature dans les médias

Loi Narcotrafic

VSA

Divers

Lire sur le site


Expérimentation VSA : le gouvernement sur le point d’obtenir trois ans de rab 

Wed, 05 Mar 2025 15:21:39 +0000 - (source)

Demain jeudi, au Parlement, se tiendra la commission mixte paritaire en vue de l’adoption de la proposition de loi relative à la sécurité dans les transports. C’est le vecteur choisi par le gouvernement Bayrou mi-février pour proroger de deux années supplémentaires l’expérimentation de la vidéosurveillance algorithmique (VSA), lancée dans le cadre de la loi JO. S’il a beaucoup été question d’intelligence artificielle ces dernières semaines, c’était plutôt pour promettre des investissements massifs ou appeler à la dérégulation. Moins pour mettre la lumière sur nouveau coup de force visant à imposer la surveillance policière constante et automatisée de nos espaces publics. Retour sur les derniers rebondissements de la lutte contre la vidéosurveillance algorithmique.

Des rapports d’évaluation dont on aimerait pouvoir se moquer

Tout d’abord et après plusieurs semaines de rétention, le ministère de l’intérieur a fini par publier le rapport d’évaluation de « l’expérimentation » de vidéosurveillance algorithmique prévue par la loi de 2023 sur les Jeux olympiques. Pour rappel, pendant plusieurs mois, la VSA a été utilisée légalement pour détecter 8 situations lors d’événements « récréatifs, sportifs ou culturels ». Et on comprend pourquoi ce rapport n’a pas été exhibé fièrement par le gouvernement : il ne fait qu’enchaîner les preuves de dysfonctionnements techniques souvent risibles (une branche qui bouge et déclenche une alerte, un problème de perspective qui rend le système de détection d’une personne inopérant, etc.), pointant l’absence de maturité de ces technologies ainsi que leur inutilité opérationnelle.

Par ailleurs, le rapport analyse au plus près l’expérimentation autorisée par la loi JO, mais ne se penche pas sur les centaines de déploiement qui restent illégaux dans le pays, ni sur les velléités du lobby techno-sécuritaire, qui ne compte évidemment pas s’arrêter en si bon chemin et se tient prêt à multiplier les cas d’usage, notamment dans une logique d’identification des personnes. On pense par exemple aux propos tenus récemment par le représentant de la société suisse Technis, qui a racheté Videtics et dont les algorithmes sont utilisés dans le cadre de l’expérimentation : « L’avantage de la vidéo », explique-t-il tranquillement dans cet entretien, « c’est qu’elle est désormais multifonction. Il y a le volet sécuritaire (surveillance d’un lieu et alerte en cas d’intrusion), le volet statistique (analyse de la fréquentation d’un espace) et le volet reconnaissance faciale ou d’identité (identification de personnes) ». Dont acte.

Ces intentions d’aller plus loin sont d’ailleurs partagées par la RATP et la SNCF, qui ont été les principaux acteurs de l’utilisation de la VSA « légale » de la loi JO. Et c’est là un des passages les plus intéressants du rapport d’évaluation : ces deux opérateurs de transports assument de vouloir aller plus loin que ce qui est aujourd’hui autorisé, pour faire du suivi automatisé de personnes ou encore de la détection de « rixes ». Est également relayée la volonté de pouvoir utiliser la VSA dans davantage de moments et de lieux, et donc de s’affranchir du seul cadre des grands événements sportifs, récréatifs ou culturels prévu actuellement par la loi aujourd’hui. Des revendications du même ordre ont été relayées par des sénateurs et sénatrices, qui ont produit leur propre rapport d’évaluation.

Le gouvernement fonce tête baissée pour pérenniser la VSA

Le satisfecit ridicule du préfet de police Laurent Nuñez au mois de septembre, affirmant que la VSA avait fait ses preuves lors des JO et devait donc être pérennisée, avait déjà posé le cadre : le gouvernement ne prendrait aucune pincette pour tirer son propre bilan de l’expérimentation et forcer son agenda politique.

Et pour cause ! Avant même la publication du rapport officiel d’évaluation, profitant d’un énième retour de la loi relative à la sûreté dans les transports à l’Assemblée, le gouvernement a déposé un amendement sorti de nulle part et sans lien avec le texte, demandant l’extension du dispositif de VSA pour trois années supplémentaires, au prétexte que les services n’auraient pas eu assez de temps pour tester la technologie. Mais que la VSA « marche » ou pas est, au fond, accessoire. Pour le gouvernement Bayrou, il s’agit de l’imposer, coûte que coûte, et ce alors même que des experts indépendants de l’ONU viennent de dénoncer le caractère disproportionné de ces déploiements.

En prolongeant l’expérimentation pour trois années supplémentaires, le gouvernement permet d’installer un peu plus cette technologie dans les pratiques, en se laissant la possibilité d’exploiter les largesses que la France a réussi à obtenir au niveau de de l’Union européenne à travers l’« AI Act » et ainsi légaliser la reconnaissance faciale et d’autres cas d’usage de la VSA politiquement sensibles. Cela dit, comme nous l’avons déjà expliqué, sur le plan juridique, la régularité de cet amendement visant à prolonger l’expérimentation de la VSA est parfaitement douteuse, et il est possible qu’il soit déclaré contraire à la Constitution.

Un caillou juridique dans la chaussure de la Technopolice

Ces coups de butoir sont intervenus juste après une décision historique obtenue de haute lutte dans l’« affaire Moirans » – du nom de cette petite commune isèroise qui a acquis le logiciel de VSA de l’entreprise Briefcam. Au terme de notre recours et à l’issue d’une passe d’arme avec la CNIL qui faisait valoir sa position très accommodante pour l’industrie de la VSA et le ministère de l’intérieur, le tribunal administratif de Grenoble a jugé que le recours à la VSA aussi bien dans le cadre de la police administrative (hors enquêtes pénales, pour faire simple) que lors d’enquêtes judiciaires était illégal et disproportionné.

Depuis l’interdiction de la reconnaissance faciale dans les établissements scolaires en 2020, c’est l’une des principales victoires juridiques dans l’opposition populaire à la vidéosurveillance algorithmique. Depuis un an, nous encourageons les collectifs locaux à interpeller les responsables municipaux pour les appeler à s’engager contre la VSA dans le cadre de notre campagne « Pas de VSA dans ma ville ». De nombreuses personnes ont déjà répondu à cette initiative et demandé à leur maire de refuser cette surveillance. Désormais, avec cette jurisprudence qui pointe l’illégalité des centaines de déploiements locaux de la VSA, en dehors du cadre restreint de la loi JO, nous avons des arguments de poids pour poursuivre cette lutte.

Si le prolongement de la VSA « légale » jusqu’en 2027 venait donc à être confirmé en commission mixte paritaire demain, puis de façon définitive par le Parlement, il faudra utiliser tous les moyens à notre disposition pour mettre fin à cette fuite en avant, et contre-carrer l’alliance d’élus locaux, de fonctionnaires et d’industriels prêts à tout pour conforter leur pouvoir techno-sécuritaire. Ce combat passe notamment par la découverte et la documentation ces projets, car les sortir de l’opacité permet de mettre la pression aux instances dirigeantes des communes et des collectivités et les mettre face à leurs responsabilités. Si vous même prenez part à un collectif local dans une commune ayant recourt à un système de VSA du style du logiciel Briefcam, n’hésitez pas à vous saisir de nos écritures pour porter vous-mêmes un recours ! Et si vous aviez besoin de conseil, nous sommes joignables à l’adresse contact@technopolice.fr.

Contre la VSA, la bataille continue !

Et si vous voulez nous aider à continuer à l’animer, vous pouvez aussi nous soutenir en faisant un don.


La loi Narcotrafic est une loi de surveillance : mobilisons nous !

Mon, 24 Feb 2025 14:56:11 +0000 - (source)

La semaine prochaine, l’Assemblée nationale discutera d’une proposition de loi relative au « narcotrafic ». Contrairement à ce que le nom du texte indique, les mesures qui pourraient être adoptées vont bien au-delà du seul trafic de stupéfiants. En réalité, son champ d’application est si large qu’il concernerait également la répression des mouvements militants. Cette loi prévoit de légaliser de nombreuses mesures répressives. Si elle était adoptée, elle hisserait la France en tête des pays les plus avancés en matière de surveillance numérique.

C’est l’un des textes les plus dangereux pour les libertés publiques proposés ces dernières années. En réaction, et face à un calendrier législatif extrêmement resserré, La Quadrature du Net lance aujourd’hui une campagne de mobilisation pour lutter contre la loi Narcotrafic. Le but est d’abord d’informer sur le contenu de ce texte, en faisant en sorte que les mesures techniques et répressives qu’il cherche à légaliser soient compréhensibles par le plus grand nombre. Nous souhaitons également dénoncer l’instrumentalisation de la problématique du trafic de stupéfiants — une « guerre contre la drogue » qui, là encore, a une longue histoire bardée d’échecs — pour pousser des mesures sécuritaires bien plus larges, à grand renfort de discours sensationnalistes. Notre page de campagne répertorie ainsi différents décryptages, des ressources, mais aussi des outils pour contacter les député⋅es et les alerter sur les nombreux dangers de cette proposition de loi. Nous avons pour l’occasion décidé de renommer cette loi « Surveillance et narcotraficotage » tant elle est l’espace fourre-tout d’une large panoplie sécuritaire.

Parmi les mesures proposées et largement retravaillées par le ministre de l’Intérieur Bruno Retailleau, on retrouve l’extension de la surveillance du réseau par algorithmes, la censure administrative d’Internet ou encore l’instauration d’une procédure de surveillance secrète échappant aux débats contradictoires et largement dénoncée par la profession des avocat·es. Au gré de son examen au Sénat, la proposition de loi n’a fait qu’empirer, incluant de nouvelles techniques de surveillance extrêmement intrusives, comme l’espionnage à travers les caméras et micros des personnes via le piratage de leurs appareils et l’obligation pour les messageries chiffrées de donner accès au contenu des communications. Cette dernière mesure va à contre-courant des recommandations de nombreuses institutions et pourrait conduire à l’éviction de France de services comme Signal ou Whatsapp ou d’abaisser leur niveau de sécurité, comme Apple vient d’être contraint de le faire pour ses produits au Royaume-Uni. Ces dispositions ne sont nullement limitées aux trafiquants de drogue : la police peut y avoir recours pour l’ensemble de la « criminalité organisée », un régime juridique extrêmement large qui est notamment utilisé dans la répression des actions militantes.

Face à cela, les groupes politiques au Sénat ont voté à l’unanimité pour ce texte — y compris à gauche. La Quadrature du Net appelle les élu·es à se réveiller et à réaliser la gravité des enjeux posés par ce texte. La lutte contre le trafic de stupéfiants ne peut pas servir à justifier des atteintes aussi graves aux principes fondateurs de la procédure pénale, ni à banaliser des pouvoirs de surveillance aussi intrusifs et qui pourraient encore être étendus à l’avenir.

Pour prendre connaissance de nos arguments, de nos ressources ainsi que des coordonnées des député⋅es pour les contacter, rendez-vous sur notre page de campagne : laquadrature.net/narcotraficotage


Contre la loi surveillance et narcotraficotage

Mon, 24 Feb 2025 14:25:21 +0000 - (source)

Au milieu du tumulte médiatique sur le trafic de drogues, une loi relative au « narcotrafic » est en train de passer au Parlement. En réalité, ce texte ne s’applique pas seulement à la vente de stupéfiants et conduit à renforcer lourdement les capacités de surveillance du renseignement et de la police judiciaire. Il s’agit d’un des textes les plus répressifs et dangereux de ces dernières années. Cette loi pourrait notamment donner encore plus de pouvoirs pour réprimer les actions militantes.

Cette proposition de loi a été adoptée au Sénat à l’unanimité, avec l’adhésion des socialistes, des écologistes et des communistes, et va désormais être discutée à l’Assemblée nationale. La Quadrature du Net appelle à se mobiliser de toute urgence afin d’alerter sur les dangers de ce texte et bousculer les partis de gauche pour qu’ils rejettent ce texte.

Sur cette page, vous retrouverez un ensemble de ressources et d’outils pour vous permettre de comprendre cette loi et convaincre vos élu⋅es de se mobiliser :

Résumé de la loi en vidéo


Piphone : choisir quel·le député·e appeler

Certain·es élu·es se revendiquant progressistes ont adhéré à ce récit et à cette dangereuse surenchère sécuritaire. Au Sénat, les groupes écologistes, communistes et socialistes ont voté en faveur de ce texte. Nous pensons qu’il faut les mettre face à leur responsabilité en dénonçant les dangers de cette loi. Avec notre outil, vous pouvez les contacter directement pour leur transmettre les arguments et ressources partagées sur cette page. Il est aussi possible d’essayer de convaincre les député⋅es d’Ensemble pour la République et du Modem de voter contre les mesures les plus dangereuses de cette proposition de loi.

Vous pouvez les appeler toute la semaine et si possible les lundis, jeudis et vendredis, lorsqu’ils ne sont pas dans l’hémicycle. C’est probable que vous ayez un·e assistant·e au téléphone et ce n’est pas grave ! N’hésitez surtout pas à lui parler, en lui demandant ensuite de relayer votre opinion auprès de son ou de sa député⋅e.

Merci à toutes les personnes qui mettent de l’énergie contre ce énième coup de force sécuritaire, et bravo à celleux qui ont eu le courage de contacter des député⋅es ! <3

En détail : que prévoit la proposition de loi ?

– Modification du régime de la criminalité organisée

Cette loi renforce lourdement le régime de la criminalité organisée, qui ne concerne pas uniquement le trafic de drogues. Ce cadre juridique a été créé il y a vingt ans pour cibler, en théorie, les réseaux mafieux en prévoyant des règles spécifiques dérogeant au droit commun. Elles permettent notamment aux policiers de mettre en œuvre des techniques de surveillance beaucoup plus larges et intrusives que la normale (écoutes, IMSI-catcher, pose de micros, captation de données…). Le périmètre des infractions concernées par le régime de criminalité organisée est défini dans une liste du code de procédure pénale qui n’a cessé de s’élargir avec les années, en touchant davantage de personnes et de situations. Il englobe notamment l’association de malfaiteurs et un certain nombre de délits et crimes commis en « bande organisée », ces qualifications étant de plus en plus utilisées pour poursuivre des militant⋅es. Tel a été le cas notamment lors du mouvement des Gilets jaunes, à Bure, contre l’aide aux personnes exilées à Briançon mais également pour enquêter sur les actions contre le cimentier Lafarge à Bouc-Bel-Air et à Évreux ou encore pour poursuivre une militante luttant contre la construction de centres de rétention administrative.

Pour légitimer l’extension de mesures censées être limitées, le gouvernement et les parlementaires utilisent un discours sensationnaliste pour aborder le sujet du trafic de drogues qui n’est pourtant pas nouveau et connaît d’autres solutions que le « tout répressif ». Cela n’est pas anodin. En donnant une dimension exceptionnelle à la lutte contre le trafic de stupéfiants, ils tentent de justifier la nécessité d’avoir recours à des moyens hors-norme et extrêmement attentatoires à nos libertés. En cela, ils calquent ici le schéma législatif utilisé ces dernières années en matière de lutte contre le terrorisme qui a permis l’établissement de dérogations très importantes au fonctionnement des institutions et qui sont allées bien au-delà du terrorisme.

– Surveillance secrète de la police

La loi empêche les personnes de connaître la manière dont elles sont surveillées, ce qui porte une atteinte inédite et très grave aux principes fondateurs du système judiciaire français que sont le droit à se défendre et le principe du contradictoire. Ainsi une mesure dénommée « dossier coffre » ou « procès-verbal distinct » permettrait de séparer du dossier pénal les procès-verbaux liés à la mise en place des techniques de surveillance. Ces PV ne seront accessibles qu’aux enquêteurs sous contrôle du procureur ou du juge d’instruction, empêchant les avocat·es et les personnes concernées d’en prendre connaissance, d’en débattre et donc de déceler de potentielles illégalités. Cela privera aussi la population de la possibilité de connaître l’étendue des capacités de surveillance de la police judiciaire et facilitera les abus dans l’utilisation de techniques très intrusives, comme les logiciels espions où la compromission d’appareils.

– Accès aux messageries chiffrées

Les sénateurs ont modifié le texte pour détruire la confidentialité des messageries chiffrées telles que Signal ou WhatsApp. La loi prévoit que les services de communication soient obligés d’introduire un accès – une « backdoor » – au bénéfice de la police et des renseignements, sous peine de lourdes sanctions. Cela créerait une brèche inédite dans la technologie de chiffrement de bout-en-bout, exploitable aussi bien par les États que par des acteurs malveillants. Une telle mesure est extrêmement dangereuse. Comme le répètent de nombreuses institutions, dont l’ANSSI et le Comité européen de la protection des données, cela affaiblirait le niveau de protection de l’ensemble des communications et menacerait la confidentialité de tous nos échanges. Depuis des années, nous défendons le droit au chiffrement. Vous pouvez notemment lire notre positionnement de 2017 ici.

– Activation à distance des objets connectés

Cette loi prévoit une nouvelle escalade dans la surveillance en poursuivant la légalisation des logiciels espions (comme ceux de NSO-Pegasus ou Paragon). Elle autorise ainsi la police à activer à distance les micros et caméras des appareils connectés fixes et mobiles, comme les ordinateurs ou téléphones, pour espionner les personnes. Cette technique repose sur une compromission des systèmes informatiques en utilisant les failles des appareils connectés. Proposée par Eric Dupont-Moretti en 2023 dans une loi de réforme de la justice, cette mesure de surveillance avait été partiellement censurée par le Conseil constitutionnel. Elle est ici reprise avec de légères modifications alors que l’urgence serait d’interdire ce type de surveillance tant il présente des dangers pour les équilibres démocratiques et les libertés individuelles.

– Élargissement des pouvoirs de renseignement et boîtes noires

Les services de renseignement verraient également leurs pouvoirs renforcés avec cette loi. D’une part, l’échange de renseignements entre services dits « du second cercle » (dont le renseignement ne constitue qu’une partie des missions, notamment au sein de la police et gendarmerie nationale) est en principe très limité. Il serait ici facilité par la suppression du besoin d’une autorisation, et cela bien au-delà du seul périmètre du trafic de drogues. D’autre part, la loi élargit le champ d’application des « boîtes noires » à la finalité de « lutte contre la délinquance et la criminalité organisée ». Cette technique de renseignement analyse les données de toutes nos communications et données récupérées sur internet via des algorithmes au prétexte de « détecter » de nouveaux suspects. Depuis leur création en 2015, aucune information concrète n’a été communiquée sur le fonctionnement ou la potentielle utilité de ces boîtes noires, alors qu’il s’agit d’une véritable surveillance de masse.

– Censure sur internet

La loi permettra à la police – via le service Pharos – de censurer sur internet tout contenu qu’elle considère illégal en lien avec une infraction concernant le trafic de stupéfiants. Il s’agit de prérogatives très larges qui s’ajoutent à une capacité de censure administrative déjà très importante. Cette possibilité d’exiger, sans l’intervention du juge, le retrait de publications avait été autorisée dans un premier temps pour les contenus pédocriminels avant d’être étendue au terrorisme. Cette volonté de verrouiller internet ne peut que mener à des abus au regard du volume de contenus concerné et du cadre extra-judiciaire de ces censures, sans avoir véritablement un impact sur la problématique sociale de la consommation de drogues, qui repose sur bien d’autres facteurs.

– Et d’autres mesures

Nous vous avons cité jusque-là les mesures les plus inquiétantes, mais malheureusement cette loi contient de nombreuses autres extensions sécuritaires s’appliquant à la « criminalité organisée », qui, on le rappelle, concerne bien plus de situations que le trafic de drogues : IMSI-catchers dans les lieux privés, pouvoir du préfet d’interdire de « paraître » dans un lieu, usage de drones en matière pénitentiaire, caméras obligatoires dans les ports, nouvelle infraction large de « participation à une organisation criminelle » mal définie…

Le Syndicat de la magistrature ainsi que le Conseil national des barreaux ont également exprimé de vives critiques sur cette proposition de loi.

Derniers articles

Quand la loi « Narcotrafic » devient la loi « Roue libre »

Posted on

Le Sénat a débuté hier la discussion en hémicycle de la proposition de loi dite « Narcotrafic », dont les mesures de surveillance et répressives nous inquiètent particulièrement, à La Quadrature comme avec les autres organisations de…

PPL Narcotrafic : les droits et libertés à nouveau victimes de l’addiction aux lois sécuritaires

Posted on

Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 28 janvier 2025.
Voilà des mois que nos responsables politiques font mine de faire la guerre au trafic de drogues et que les médias…

QSPTAG #318 — 21 février 2025

Fri, 21 Feb 2025 18:01:06 +0000 - (source)

VSA : le gouvernement veut encore prolonger « l’expérimentation » de deux ans

Il y a parfois des embouteillages dans le calendrier. Fin janvier, nous avons gagné le contentieux qui nous opposait à la commune de Moirans : le logiciel Briefcam qu’elle utilisait pour surveiller les rues de la ville était reconnu comme étant illégal par le tribunal administratif. Quelques jours plus tard, on découvrait que le gouvernement voulait profiter d’une loi sur les transports pour prolonger « l’expérimentation » de la VSA – qui devait finir en mars 2025 – jusqu’en décembre 2027. Deux ans et demi de plus, hop. Circulez, c’est la loi Transports.

Nous avons aussitôt publié un coup de gueule pour dénoncer le foutage de ladite gueule. La loi Jeux Olympiques prévoyait un déroulement très strict de « l’expérimentation » de la VSA, avec des bornes dans l’espace et dans le temps, un comité de pilotage pour l’encadrer, et un comité d’évaluation pour juger de son efficacité. Le gouvernement veut déjà aller plus loin, sans attendre le rapport d’évaluation et sans attendre la fin du processus écrit noir sur blanc dans la loi. Ces lois qui empêchent de faire ce qu’on veut, c’est vraiment pénible… Mais on sait le peu de cas que fait Monsieur Retailleau de l’état du droit.

Ironie du sort ou coïncidence merveilleuse : le jour-même où nous avons publié cet article coup de gueule, le rapport d’évaluation de l’expérimentation, qu’on attendait depuis des semaines et des mois, était enfin rendu public en fin de journée. Bourré d’anecdotes rigolotes (les logiciels arrivent même à prendre le trottoir pour une personne allongée), le rapport conclut globalement à une certaine inefficacité des outils et des scénarios testés. Alors, que faire ? Tester plus fort. « Plus ça rate, plus on a de chance que ça marche, ce n’est qu’en essayant continuellement que l’on finit par réussir », disaient les Shadoks, qui avaient sans doute d’excellents ministres de l’Intérieur.

Le régime de « l’expérimentation » est en effet une chose très pratique, quand on veut travailler « l’acceptabilité sociale » d’une mesure de surveillance a priori impopulaire. D’abord, elle permet de mettre en œuvre la mesure impopulaire tout en racontant qu’on ne la met pas vraiment en œuvre. Ensuite, on peut la prolonger autant de fois que nécessaire, sous prétexte d’améliorer les résultats de l’expérience. Pourquoi s’en priver ? « Tout le monde ment, tout le monde ment, le gouvernement ment énormément », chantait Massilia Sound System dans le pays qui a aussi inventé les Shadoks et la VSA « expérimentale » pendant trois ans.

.
Notre article sur la prolongation : VSA jusqu’en 2027 : quand le gouvernement ose tout

Coalition Hiatus : penser l’IA et résister à l’IA

Vous le savez sans doute, parce que l’événement a saturé les médias pendant deux jours : un « Sommet de l’IA » s’est tenu à Paris les 10 et 11 février derniers, sous la présidence d’Emmanuel Macron, qui a pu annoncer triomphalement à l’issue du barnum que 109 milliards d’euros de financements privés (en grande majorité) et publics (un peu) seraient consacrés au développement de l’IA en France, d’abord pour la construction de nouveaux centre de données démesurés. La France n’a pas de gaz ni de pétrole, mais elle a de l’électricité nucléaire en assez grande quantité pour pouvoir en exporter, ou pour en consacrer à des projets inutiles et à la mode.

On serait bien en peine de dire à quoi va servir toute cette capacité de calcul, ni à quoi « l’IA » va servir, ni même de quelle « IA » il s’agit. Le mot et devenu un signifiant autonome, qui renvoie dans l’imaginaire collectif aux grands LLM génératifs (Chat-GPT, MidJourney, etc.), qui sert à désigner tout et n’importe quoi, et qui pourrait dans bien des cas être remplacé par « numérique », « ordinateur » ou « informatique » sans changer le sens de la phrase. Seule certitude, le mot « IA » est devenu dans le monde entier un symbole de pouvoir et de puissance nationale, économique et géo-stratégique. L’IA est américaine, elle est chinoise, elle est russe, et elle doit nécessairement devenir européenne et surtout française (cocorIAco ?).

De fait, la démesure de moyens techniques et financiers qu’elle requiert font que l’IA, avant d’être un moyen de pouvoir, est d’abord une preuve de pouvoir. Accessible uniquement aux puissances financières et industrielles, elle servira donc d’abord les intérêts des puissances industrielles et financières. La bulle spéculative qui l’entoure s’accompagne d’une surenchère dans les façons de l’utiliser, qui vont de l’armement autonome jusqu’au matraquage publicitaire en passant par la manipulation de l’information, dans un continuum de destruction des ressources, des liens sociaux, des esprits et des démocraties. Tout cela parce qu’on peut le faire, sans jamais se demander – ni demander aux populations – si on veut le faire.

Cet emballement serait risible s’il n’était pas intimement lié à la montée du péril fasciste, plus d’actualité que jamais depuis l’arrivée au pouvoir de Donald Trump, entouré de tous les faiseurs d’IA californienne lors de sa cérémonie d’inauguration, et dont les bras droits (tendus) font la promotion des partis d’extrême-droite partout où ils le peuvent, en Grande-Bretagne et en Allemagne notamment. Le monde de « l’IA » est un objet éminemment politique, qu’il faut mettre à distance, analyser, dégonfler et expliquer. C’est pourquoi La Quadrature a signé une tribune collective contre ce « sommet de l’IA », et décidé de lancer Hiatus, une coalition de réflexion et de travail sur le monde politique et industriel de l’IA pour le pouvoir. Une initiative que nous avions annoncée comme étant le grand chantier de cette année, dans le prolongement de nos réflexions et de nos combats de toujours : pour un usage émancipateur et démocratique du numérique, contre le numérique qui asservit, domine, surveille, impose, décide et contrôle. Au travail !

Manifeste de la coalition : Lancement de la coalition Hiatus, pour résister à l’IA et son monde !
Tribune collective : L’IA telle qu’elle est développée alimente un système d’exploitation global
Article sur le sommet de l’IA : Sommet de Paris sur l’IA : accélérer, quoi qu’il en coûte

Campagne de soutien 2025

Notre campagne de soutien pour 2025 est toujours ouverte ! Nous avons récolté environ 40% de notre objectif pour l’année. En prenant en compte les dons mensuels, on arrivera environ à 70% de l’objectif. Aidez-nous à boucler le budget 2025 ! Vous pouvez nous faire un don sur notre site.

Agenda

La Quadrature dans les médias

Coalition hiatus et contre-sommet de l’IA

Vidéosurveillance algorithmique (VSA)

Loi « Narcotrafic »

Divers


Sommet de Paris sur l’IA : accélérer, quoi qu’il en coûte

Fri, 14 Feb 2025 09:02:47 +0000 - (source)

Le sommet de Paris sur l’intelligence artificielle (IA) organisé par la France s’est tenu les 10 et 11 février 2025.  Alors que la société civile s’organise, notamment au travers de la coalition Hiatus lancée à l’initiative de La Quadrature du Net, afin de résister au déferlement de l’intelligence artificielle, l’Europe engage une fuite en avant qui, dans le contexte actuel, risque de nous précipiter vers une sorte de techno-fascisme.

Emmanuel Macron l’affirmait encore lundi en conclusion de la première journée : « On veut accélérer, on veut réduire l’écart ». Mais accélérer quoi, au juste ?

D’abord, accélérer les déploiements de l’IA dans les services publics, et partout dans la société. Les annonces dans ce domaine se sont succédées ces derniers jours : santé, armées, éducation, France Travail… Prolongeant les politiques de dématérialisation menées depuis vingt ans dans une pure logique de rationalisation des coûts, l’IA permettra d’automatiser des pans entiers de l’action publique. Pièce maîtresse de la plupart de ces partenariats, l’entreprise Mistral AI est présentée comme la garantie de la souveraineté technologique française et européenne, et ce en dépit de la présence en nombre d’acteurs étasuniens à son capital, dont des soutiens actifs de Donald Trump comme Marc Andreessen et Ben Horowitz.

Il s’agit ensuite d’accélérer les investissements. Alors que parlement français vient d’entériner le budget le plus austéritaire depuis vingt-cinq ans, les milliards d’argent public et privé pleuvent pour l’IA, en particulier pour les data centers. François Bayrou a ainsi annoncé 400 millions d’euros de subventions pour que trente-cinq de ces bâtiments industriels sortent de terre, tandis que BPIfrance investira 10 milliards dans l’IA. Sans compter les 109 milliards de capitaux privés dont il fut beaucoup question, avec 50 milliards d’euros investis par les Émirats Arabes Unis pour un « data center géant » et 20 milliards abondés par le fonds canadien Brookfield pour un projet du même type. La puissance de calcul est désormais un actif de choix pour les spéculateurs de la tech, accueillis à bras ouvert par la France.

Peu importe que ces immenses entrepôts à serveurs fassent d’ores et déjà l’objet de contestations à travers le pays en raison des conflits d’usage qu’ils suscitent. À Marseille, leur explosion ces dernières années a par exemple conduit à remettre à plus tard l’électrification des quais où accostent les bateaux de croisières, lesquels continuent de recracher leurs fumées toxiques dans le quartier de Saint-Antoine. Mais avec Emmanuel Macron comme VRP, la France choisit d’écarter d’un revers de main ces oppositions. Elle fait de sa politique de relance du nucléaire un atout « bas carbone », quitte à passer sous silence les dangers et les immenses inconnues qui entourent ces programmes.

Une autre grande accélération est celle des politiques de dérégulation. Alors que Donald Trump s’est empressé d’annuler les quelques règles relatives à l’IA édictées par l’administration Biden, Emmanuel Macron et Ursula Von der Leyen semblent à leur tour décidés à rogner les principes posés par le « AI Act » tout juste adopté par l’Union européenne. Le chef d’État français fait sien le mantra de la disruption : « Si on régule avant d’innover, on se coupera de l’innovation ». Peu importe que l’AI Act – bardé d’exceptions et s’assimilant pour l’essentiel à un système d’auto-régulation sous la coupe des industriels – ait été dénoncé par les associations. Face à l’injonction de déployer massivement l’IA dans la société, les droits humains en sont pour leurs frais. Le vice-président étasunien, le techno-réactionnaire JD Vance, n’a pas caché sa satisfaction : « Je suis content de voir qu’un parfum de dérégulation se fait sentir dans nombre de discussions », a-t-il déclaré lors de son allocution.

S’il y a bien un domaine où ces politiques de dérégulation sont particulièrement attendues, c’est celui des data centers. « J’ai bien reçu le message des investisseurs », a ainsi lancé Emmanuel Macron en promettant de « simplifier les procédures ». Une promesse déjà traduite au plan législatif, notamment avec le projet de loi relatif à la simplification de la vie économique. En cours d’examen à l’Assemblée nationale, il vise à contourner les règles locales d’urbanisme ou celles relatives à la protection de l’environnement. Quant aux demandes de la Commission nationale du débat public d’être saisie lors de la construction de ces infrastructures énergivores, elles se heurtent à la volonté de l’État d’exclure l’instance d’un nombre croissant de projets industriels. L’IA, par ailleurs imposée dans le monde du travail au mépris des règles élémentaires du dialogue social, se paie d’un déni de démocratie toujours plus assumé.

Lors du sommet, les allusions convenues en faveur d’une intelligence artificielle « humaniste » n’auront trompé personne. Les dirigeants européens prétendent tracer une alternative tout en s’engageant dans une rivalité mimétique avec la Chine et les États-Unis – un « en même temps » aux avant-goûts de techno-fascisme. Ils nous enferment ce faisant dans fuite en avant technologique complètement insoutenable sur le plan écologique, mais aussi politiquement désastreuse. Accélérer, quoi qu’il en coûte. Quitte à foncer dans le mur.


Lancement de la coalition Hiatus, pour résister à l’IA et son monde !

Fri, 07 Feb 2025 14:07:04 +0000 - (source)

Ce texte est le manifeste fondateur de « Hiatus », une coalition composée d’une diversité d’organisations de la société civile française qui entendent résister au déploiement massif et généralisé de l’intelligence artificielle (IA). À l’approche du sommet sur l’IA organisé par la France, les 10 et 11 février 2025, le lancement de Hiatus vise à dénoncer l’inféodation des politiques publiques aux intérêts de la tech, ainsi que les coûts humains et environnementaux de l’IA. Au cours des mois à venir, des actions communes seront organisées pour décliner ce manifeste sur le plan politique.

Tout concourt à ériger le déploiement massif de l’intelligence artificielle en priorité politique. Prolongeant les discours qui ont accompagné l’informatisation depuis plus d’un demi-siècle, les promesses abondent pour conférer à l’IA des vertus révolutionnaires et imposer l’idée que, moyennant la prise en compte de certains risques, elle serait nécessairement vecteur de progrès. C’est donc l’ensemble de la société qui est sommée de s’adapter pour se mettre à la page de ce nouveau mot d’ordre industriel et technocratique. Partout dans les services publics, l’IA est ainsi amenée à proliférer au prix d’une dépendance technologique accrue. Partout dans les entreprises, les managers appellent à recourir à l’IA pour « optimiser » le travail. Partout dans les foyers, au nom de la commodité et d’une course insensée à la productivité, nous sommes poussés à l’adopter.

Pourtant, sans préjuger de certaines applications spécifiques et de la possibilité qu’elles puissent effectivement répondre à l’intérêt général, comment ignorer que ces innovations ont été rendues possible par une formidable accumulation de données, de capitaux et de ressources sous l’égide des multinationales de la tech et du complexe militaro-industriel ? Que pour être menées à bien, elles requièrent notamment de multiplier la puissance des puces graphiques et des centres de données, avec une intensification de l’extraction de matières premières, de l’usage des ressources en eau et en énergie ?

Comment ne pas voir qu’en tant que paradigme industriel, l’IA a dores et déjà des conséquences désastreuses ? Qu’en pratique, elle se traduit par l’intensification de l’exploitation des travailleurs et travailleuses qui participent au développement et à la maintenance de ses infrastructures, notamment dans les pays du Sud global où elle prolonge des dynamiques néo-coloniales ? Qu’en aval, elle est le plus souvent imposée sans réelle prise en compte de ses impacts délétères sur les droits humains et l’exacerbation des discriminations telles que celles fondées sur le genre, la classe ou la race ? Que de l’agriculture aux métiers artistiques en passant par bien d’autres secteurs professionnels, elle amplifie le processus de déqualification et de dépossession vis-à-vis de l’outil de travail, tout en renforçant le contrôle managérial ? Que dans l’action publique, elle agit en symbiose avec les politiques d’austérité qui sapent la justice socio-économique ? Que la délégation croissante de fonctions sociales cruciales à des systèmes d’IA, par exemple dans le domaine de la santé ou l’éducation, risque d’avoir des conséquences anthropologiques, sanitaires et sociales majeures sur lesquelles nous n’avons aujourd’hui aucun recul ?

Or, au lieu d’affronter ces problèmes, les politiques publiques menées aujourd’hui en France et en Europe semblent essentiellement conçues pour conforter la fuite en avant de l’intelligence artificielle. C’est notamment le cas de l’AI Act adopté par l’Union européenne et présenté comme une réglementation efficace alors qu’elle cherche en réalité à promouvoir un marché en plein essor. Pour justifier cet aveuglement et faire taire les critiques, c’est l’argument de la compétition géopolitique qui est le plus souvent mobilisé. À longueur de rapports, l’IA apparaît ainsi comme le marchepied d’un nouveau cycle d’expansion capitaliste, et l’on propose d’inonder le secteur d’argent public pour permettre à l’Europe de se maintenir dans la course face aux États-Unis et à la Chine.

Ces politiques sont absurdes, puisque tout laisse à penser que le retard de l’Europe dans ce domaine ne pourra pas être rattrapé, et que cette course est donc perdue d’avance. Surtout, elles sont dangereuses dans la mesure où, loin de constituer la technologie salvatrice souvent mise en avant, l’IA accélère au contraire le désastre écologique, renforce les injustices et aggrave la concentration des pouvoirs. Elle est de plus en plus ouvertement mise au service de projets autoritaires et impérialistes. Non seulement le paradigme actuel nous enferme dans une course technologique insoutenable, mais il nous empêche aussi d’inventer des politiques émancipatrices en phase avec les enjeux écologiques.

La prolifération de l’IA a beau être présentée comme inéluctable, nous ne voulons pas nous résigner. Contre la stratégie du fait accompli, contre les multiples impensés qui imposent et légitiment son déploiement, nous exigeons une maîtrise démocratique de cette technologie et une limitation drastique de ses usages, afin de faire primer les droits humains, sociaux et environnementaux.

Premières signataires :

La Quadrature du Net, la LDH, Union syndicale Solidaires, Scientifiques en rébellion, L’Atelier Paysan, Féministes contre le cyberharcèlement, SNES-FSU, Framasoft, Agir pour l’environnement, Attac France, Syndicat de la Magistrature, Syndicat des Avocats de France, Stop Micro, Le Nuage était sous nos pieds, Génération Lumière, Halte au contrôle numérique, ritimo, Intérêt à Agir, L’Observatoire des multinationales, Sherpa, Le Mouton numérique, Lève les yeux.


VSA jusqu’en 2027 : quand le gouvernement ose tout

Fri, 07 Feb 2025 12:07:41 +0000 - (source)

Dans la famille du grand n’importe quoi, on voudrait le gouvernement Bayrou s’il vous plaît ! L’expérimentation de vidéosurveillance algorithmique (VSA) prévue par la loi sur les Jeux Olympiques était censée se terminer dans moins de deux mois. Pourtant, le gouvernement a déposé hier un amendement pour tout simplement prolonger l’expérimentation… jusqu’à la fin de l’année 2027. Le tout en s’affranchissant totalement des promesses faites ou des règles constitutionnelles.

Le déploiement de la VSA avait été autorisé par la loi sur les Jeux Olympiques en 2023 au nom de la sécurité de cet évènement. En réalité, ce texte permettait l’utilisation de cette technologie de surveillance de masse pour une durée bien plus longue et dans un périmètre bien plus large. La VSA a ainsi été déployée dès le mois d’avril 2024 et ensuite pour de nombreux évènements comme des concerts, matchs de foot ou même récemment dans la rue pour le jour de l’An à Paris. Cette « expérimentation » est censée se terminer le 31 mars prochain.

Aussi, la loi avait prévu de façon inédite la création d’un comité chargé d’évaluer la mise en œuvre de la VSA. Ses conclusions étaient présentées comme essentielles pour juger de l’utilité de cette technologie du point de vue policier, et décider ensuite d’une éventuelle pérennisation. Depuis le début, nous avons affiché notre plus grand scepticisme face à ce mécanisme d’évaluation, dont on anticipait qu’il serait instrumentalisé par le gouvernement. Surtout, l’approche consistant à se focaliser sur l’efficacité de la VSA éludait l’ensemble des dangers inhérents à cette technologie. Il n’empêche que ce comité avait le mérité d’exister. Lors des débats parlementaires, il a d’ailleurs été brandi à de multiples reprises par le gouvernement et la majorité d’alors comme la preuve de leur bonne foi et de leur respect des libertés publiques.

Qu’il est loin ce temps-là ! Déjà, il y a quelques mois, avant même que le comité ait finalisé son travail, Laurent Nunez et Michel Barnier y allaient de leur petit commentaire pour dire à quel point ils souhaitaient le prolongement de cette technologie, comme une manière de préparer les esprits. Puis, comme prévu par la loi, le comité a remis son rapport au gouvernement à la fin de l’année 2024. Si plusieurs médias y ont eu accès et s’en sont fait l’écho, ce document n’a toujours pas été rendu public [EDIT: il l’a été quelques heures après la publication de cet article]. Pourquoi une telle opacité ? Peut-être, comme le pointent Le Monde ou France Info, parce que le rapport montre de nombreuses défaillances et un manque d’efficacité de cette technologie ? À moins que cela s’explique par le fait que l’opposition populaire à la VSA monte et que, la semaine dernière, la justice a même exigé l’interdiction du recours à ce type de logiciel ?

Quoiqu’il en soit, le gouvernement veut continuer à utiliser cette technologie. Profitant du énième retour de la loi relative à la sûreté dans les transports à l’Assemblée (dont la discussion avait d’abord été interrompue par la dissolution puis par la chute du gouvernement Barnier, et dont l’initiateur, Philippe Tabarot, est depuis devenu ministre), il a fait un coup de force. Ainsi, il a déposé un hier un amendement demandant l’extension du dispositif de VSA pendant encore trois années, au prétexte que les services n’auraient pas eu assez de temps pour tester la technologie. Reformulons les choses : il a joué et il a perdu. Mais il s’en fiche, comme nous l’anticipions, le caractère « expérimental » et tout le dispositif d’évaluation n’ont été qu’un alibi commode permettant au gouvernement de faire passer la pilule. Que la VSA « marche » ou pas est au fond accessoire. Pour le gouvernement, il s’agit de l’imposer coûte que coûte.

Sur le plan juridique, la régularité de cet amendement est parfaitement douteuse : d’une part, il pourrait ne pas être recevable puisqu’il s’agit d’un cavalier législatif, qui déborde largement l’objet de la proposition de loi. D’autre part, s’il venait à être adopté, il rentrerait en contradiction avec les règles fixées par le Conseil constitutionnel en 2023. En effet, ce dernier avait jugé que toute pérennisation et tout nouvel examen par les Sages de la conformité de la VSA à la Constitution devrait se faire à la lumière des résultats de l’évaluation. Or, si l’évaluation a bien été produite, le gouvernement s’en moque complètement. Il tente de forcer la main au Parlement qui n’aura même pas le temps de se faire sa propre idée. Outre le projet politique funeste associé à la VSA, c’est là le plus parlant dans cette affaire : l’absence totale de considération pour la légalité ou le respect des engagements fait à la représentation parlementaire. Rien d’étonnant s’agissant d’un ministre de l’intérieur qui affiche clairement son mépris pour l’État de droit.

Cet amendement est tout bonnement un scandale. La VSA ne doit pas être prolongée. Elle doit être interdite. Produit d’une industrie de la sécurité avide de profit, cette surveillance de nos corps et nos comportements est le vecteur technologique d’une amplification des discriminations policières. Elle contribue à parfaire un édifice de la surveillance qui transforme l’espace public en un espace de contrôle social permanent, qui trie les « bons citoyens » et les « suspects ».

Nous appelons tous les parlementaires à voter contre cette mesure et nous invitons toutes les personnes intéressées à se mobiliser dans leur ville ou après de leur député·e, pour faire valoir leur refus radical de ces technologies.

Note du 3 Mars 2025 : L’amendement en question a été malheureusement adopté.

Pour vous informer sur la VSA et vous y opposer, retrouvez notre brochure sur le sujet et d’autres ressources sur notre page de campagne. Et pour soutenir notre travail, n’hésitez pas à faire un don.


L’IA telle qu’elle est développée alimente un système d’exploitation global

Tue, 04 Feb 2025 15:18:27 +0000 - (source)

Un collectif d’ONG emmené par Amnesty International, la LDH et Féministes contre le cyberharcèlement recommande, dans une tribune au « Monde » également signée par La Quadrature du Net, de placer les droits humains et la justice environnementale au cœur de la régulation de l’intelligence artificielle.

L’intelligence artificielle (IA) connaît un développement foudroyant, et nos dirigeants ne semblent pas pressés de réfléchir aux enjeux humains, sociaux et environnementaux de ces nouvelles technologies, uniquement vues sous le prisme de la croissance, des gains de productivité et des profits. L’IA telle qu’elle est développée perpétue cependant les discriminations, aggrave les inégalités, détruit la planète et alimente un système d’exploitation global. Parce que ces constats ne figureront pas au programme officiel du Sommet mondial sur l’IA [qui se tient à Paris les 10 et 11 février], nous, organisations de la société civile, vous les rappelons ici.

Se concentrer uniquement sur d’éventuels futurs risques existentiels à venir de l’IA est un leurre : ces technologies ont déjà des effets très concrets pour les populations les plus vulnérables et les plus discriminées et portent largement atteinte aux droits humains. En s’appuyant sur des bases de données biaisées et en intégrant les préjugés de ses concepteurs, l’IA perpétue les stéréotypes, renforce les inégalités sociales et limite l’accès aux ressources et opportunités. A cela s’ajoute le fait que le déploiement de ces systèmes d’IA s’inscrit dans le contexte des structures discriminatoires et inégalitaires qui existent dans les sociétés du monde entier. Le recours à ces technologies, souvent sur fond de politiques d’austérité, amplifie les discriminations dans l’accès à la santé, à l’emploi, aux services publics ou aux prestations sociales. En témoignent les scandales ayant éclaté ces dernières années : biais sexistes et racistes des algorithmes de santé, algorithme des services de l’emploi autrichien qui refuse d’orienter les femmes vers le secteur informatique, profilage et discrimination des usagers de la Caisse nationale des allocations familiales en France, au Danemark ou aux Pays-Bas.

Or les technologies sont rarement la solution à des problèmes en réalité systémiques. Il est préférable de s’attaquer à la racine de ces problèmes plutôt que de prendre le risque d’aggraver les violations des droits humains avec des systèmes d’IA. Tandis que l’on confie de plus en plus de décisions aux algorithmes, leurs biais peuvent avoir des conséquences dramatiques sur nos vies. Les IA prédictives se substituent à la justice et à la police, risquant d’amplifier le racisme systémique. Par exemple, aux Etats-Unis, une IA calculant les risques de récidive désignait deux fois plus les accusés noirs comme étant « à haut risque » que les accusés blancs. Et quand bien même on réduirait ces biais, se concentrer sur les outils prédictifs nous empêche de penser à des réformes plus globales du système carcéral.

Menaces pour l’Etat de droit

Ces systèmes sont aussi utilisés à des fins de surveillance et d’identification dans le cadre du contrôle des frontières ou de conflits, comme Lavender, cette IA qui, en désignant des cibles terroristes, a provoqué la mort de milliers de civils gazaouis. Et bien souvent, ces technologies sont développées par les pays occidentaux, comme les outils créés par des pays européens utilisés pour surveiller la population ouïghoure en Chine.

Les systèmes d’IA générative sont également instrumentalisés à des fins de désinformation et de déstabilisation par des régimes répressifs et des acteurs privés. « Bots » utilisés pour manipuler l’information sur des questions liées à la santé, désinformation à caractère raciste durant les dernières élections européennes, deepfakes audios et vidéo mettant en scène des candidats aux élections : ces technologies sont autant de menaces pour l’Etat de droit. Les montages crédibles générés par IA sont aussi un danger pour les femmes et les enfants : 96 % de ces deepfakes sont des contenus non consentis à caractère sexuel [selon le rapport 2019 du cabinet de conseil en gestion de risques DeepTrace], massivement utilisés dans le but de nuire aux femmes et de générer des contenus pédocriminels.

Par ailleurs, ces effets s’inscrivent dans un système d’exploitation global. L’IA, et notamment l’IA générative, constitue un véritable désastre pour l’environnement. D’ici à 2027, l’IA générative nécessitera une alimentation en électricité équivalente à celle de pays comme l’Argentine ou les Pays-Bas [comme le rapporte un article du New York Times d’octobre 2023]. Les émissions de CO2 des « géants de la tech » ont augmenté de 30 à 50 % en 2024 en raison du développement fulgurant de ces technologies. Et ce sont les pays du Sud global qui sont les premiers touchés : les data centers y pullulent, et l’extraction de minerais, comme le cobalt, utilisé entre autres dans les batteries, met en péril la santé des populations, entraîne la pollution des eaux et des terres et alimente violences et conflits armés.

L’affaire de toutes et tous

Les inégalités entre les pays du Nord et du Sud sont également aggravées par les technologies déployées pour la modération de contenus en ligne. Les géants du numérique qui allouent plus de moyens aux pays du Nord privilégient ainsi certaines langues et récits culturels, déjà dominants, au détriment des autres. Enfin, n’oublions pas que ces systèmes d’IA sont majoritairement entraînés par des travailleurs et travailleuses du Sud global, exploités et sous-payés. Selon les informations du magazine Time, la société OpenAI a ainsi rémunéré des Kényans moins de deux dollars (1,95 euro) de l’heure pour labelliser des contenus toxiques, un travail particulièrement violent et éprouvant.

Face à ces constats alarmants, le règlement européen sur l’IA, présenté comme un instrument de protection des droits et libertés, reste très imparfait, notamment sur les questions de surveillance et de police prédictive. Par ailleurs ce règlement ne s’appliquera pas hors des frontières de l’Union européenne, alors même que la menace pour les droits humains et l’environnement est globale et que l’exportation des IA de surveillance génère du profit pour les entreprises européennes.

Nos gouvernements ne cessent de parler de souveraineté de l’IA, mais les défis posés par ces systèmes transcendent les frontières. Loin d’être un sujet technologique, l’IA est l’affaire de toutes et tous. Tout le monde doit pouvoir choisir la direction de ses développements, quitte à les refuser s’ils ne correspondent pas à notre projet de société. Un cadre contraignant élaboré démocratiquement, dans une perspective de solidarité internationale et avec les communautés les plus touchées, qui place les droits humains et la justice environnementale au cœur de la régulation de l’IA, voilà le véritable progrès.


QSPTAG #317 — 31 janvier 2025

Fri, 31 Jan 2025 17:18:47 +0000 - (source)

La VSA est illégale, et c’est un tribunal qui le dit

Enfin ! Le tribunal administratif de Grenoble a tranché en notre faveur le contentieux entre La Quadrature du Net et la commune de Moirans : l’utilisation par la ville du logiciel de vidéosurveillance Briefcam est disproportionnée et illégale.

La CNIL, qui couvre complaisamment l’utilisation de la vidéosurveillance algorithmique (VSA) par la police et la gendarmerie, avait laissé entendre que les communes pouvaient recourir aux logiciels de VSA pour analyser les images de vidéosurveillance dans le cadre d’une enquête judiciaire. Non, disions-nous, il n’y aucun texte qui autorise l’utilisation de cette surveillance par la police. Non, dit le tribunal avec nous, ces logiciels capables de reconnaître les personnes au niveau individuel et de les suivre dans la rue sont d’un usage disproportionné, et relèvent d’un traitement de données personnelles non autorisé par la loi.

Cette décision judiciaire est évidemment très importante pour la suite : les nombreuses communes qui utilisent Briefcam ou d’autres logiciels de VSA sont bel et bien dans l’illégalité. Elle permettra aux habitantes des nombreuses municipalités concernées de faire valoir leurs droits.
Cette victoire contre la VSA sera dignement fêtée lors du Dernier Quadrapéro du Monde le 7 février 2025.

Lire l’article : La justice confirme enfin l’illégalité de Briefcam

Proposition de loi « Narcotrafic » : nouvelle offensive de surveillance

C’est malheureusement devenu une habitude. Tout gouvernement, après avoir participé à la surenchère médiatique qui transforme chaque fait divers en preuve de la déliquescence de la société, appelle à un sursaut national et à des mesures vigoureuses pour sauver le pays du chaos. On vote une loi sécuritaire qui limite les droits et les libertés publiques, la société civile gueule, les pires mesures sont censurées, une bonne partie passe quand même, et on recommence six mois plus tard pour pousser le bouchon encore un peu plus loin. C’est le cas cette fois-ci avec la nouvelle loi contre le « narcotrafic » portée par le dernier ministre de l’Intérieur, Bruno Retailleau (LR).

Cette proposition de loi est aujourd’hui en discussion au Sénat. Les articles du texte et les amendements des sénateurs rivalisent d’inventivité pour mieux surveiller tout et tout le monde, dans l’idée cette fois de lutter contre le trafic de drogues et le cortège de violences mortelles qu’il entraîne. On retrouve de vieilles marottes : affaiblir le chiffrement des communications, activer à distance les micros et les caméras des appareils connectés, censurer des pages web sans l’aval d’un juge, etc. Seule innovation : un procès-verbal secret dans lequel les magistrats pourront apprendre comment les suspects ont été surveillés, par quels moyens techniques ou humains, mais auquel les suspects eux-mêmes ne pourront pas avoir accès. Une dangereuse entorse aux droits de la défense.

Ces dispositions ont été critiquées publiquement par l’Observatoire des libertés et du numérique (OLN), dont fait partie La Quadrature du Net. Les mesures ajoutées par les amendements du Sénat sont décrites dans un article de La Quadrature paru cette semaine.

Lire le texte de l’OLN : PPL Narcotrafic : les droits et libertés à nouveau victimes de l’addiction aux lois sécuritaires
Le pire des amendements du Sénat : Quand la loi « Narcotrafic » devient la loi « Roue libre »

Plaintes contre X

Le 20 janvier dernier, dans le sillage de l’initiative HelloQuitteX, nous avons fermé notre compte sur X. L’idée était en discussion depuis un moment. Nous avions déjà renoncé depuis deux ans à toute interaction sur ce réseau, en nous contentant d’y relayer nos articles et les contenus préparés pour nos interventions sur le Fediverse. Ce départ final est la suite logique d’un processus de désengagement commencé en 2019.

La Quadrature combat depuis longtemps le modèle des réseaux sociaux fermés qui retiennent les internautes dans leurs silos publicitaires géants et recentralisent le web, à l’inverse complet de son ambition de départ, spéculent sur la polarisation violente des « discussions » et l’encouragent même activement, tout en livrant la modération des échanges à un duo toxique entre des États surveillants-censeurs et des groupes privés, parfois plus riches que les États eux-mêmes, qui défient les lois européennes.

Contre ces géants toxiques, nous défendons le modèle de l’interopérabilité entre des réseaux divers, pluralistes, fédérés ou non, sans coexistence obligatoire des contraires qui livre les uns à l’hostilité des autres. Ce qui retient souvent les internautes sur un réseau social propriétaire, c’est la crainte de perdre tout un réseau de sociabilité, ou une audience pour un média ou une association. Alors on reste dans un enclos où les insultes, le harcèlement et les « raids » tiennent lieu de liberté d’expression et de débat public. Le développement de réseaux sociaux interopérables (Fediverse par exemple) offre une sortie viable de ce huis-clos étouffant. Il ne manquait qu’une solution pratique pour prévenir ses contacts et les retrouver sur les autres réseaux (portabilité des données), ce que propose HelloQuitteX.

L’annonce de notre départ de X a provoqué, sur X, une vague d’insultes en provenance des milieux identitaires, souverainistes et confusionnistes, qui prétendent que notre départ mettrait en cause leur liberté d’expression (la logique n’est pas leur point fort), avec des arguments qui circulent depuis des années à l’extrême-droite (nous recevons depuis 2008 un financement de soutien de la Open Society Foundation fondée par George Soros, à hauteur de 10% environ de notre budget annuel, ce qui fait de nous des agents de la CIA, du grand capital ou du cosmopolitisme judéo-maçonnique mondialiste, au choix ou tout ensemble). Soit la preuve par neuf qu’on avait raison de quitter X. Notre conviction, c’est que ce n’est pas sur un réseau social aussi toxique et aussi biaisé que X que se jouera la nécessaire bataille contre l’extrême droite. Vous pouvez nous suivre sur Mastodon.

Notre annonce du 20 janvier : Nous quittons Twitter
Tribune collective contre le marché publicitaire de la haine en ligne : Les contenus haineux et négatifs sont rentables pour les médias sociaux publicitaires

Le contrôle défaillant des services de renseignement

Les services de renseignement ont par définition une activité discrète. Depuis la loi Renseignement de 2015, contre laquelle La Quadrature et d’autres avaient activement milité pendant plusieurs mois, une autorité de contrôle des techniques de renseignement a cependant été créée, en particulier pour encadrer l’utilisation des moyens numériques de surveillance les plus intrusifs. Mais ses moyens sont limités, et sa proximité avec les services qu’elle est censée contrôler affaiblissent son efficacité. Convié à parler lors d’un colloque autour de ces enjeux, le 14 octobre dernier, un membre de La Quadrature du Net a pris la parole pour faire le point sur le rôle de la Commission nationale de contrôle des techniques de renseignement (CNCTR). Nous publions le texte de son intervention.

Lire l’article : Les trous noirs dans le contrôle des services de renseignement

Campagne de soutien 2025

Notre campagne de soutien pour 2025 est toujours ouverte. Vous pouvez nous faire un don sur notre site.

Agenda

La Quadrature dans les médias

[VSA] Briefcam à Moirans

Intelligence artificielle

Drones

Réseaux sociaux

Divers


Powered by VroumVroumBlog 0.1.31 - RSS Feed
Download config articles