07.02.2025 à 15:07
startuffenation
Ce texte est le manifeste fondateur de « Hiatus », une coalition composée d’une diversité d’organisations de la société civile française qui entendent résister au déploiement massif et généralisé de l’intelligence artificielle (IA). À l’approche du sommet sur l’IA organisé par la France, les 10 et 11 février 2025, le lancement de Hiatus vise à dénoncer l’inféodation des politiques publiques aux intérêts de la tech, ainsi que les coûts humains et environnementaux de l’IA. Au cours des mois à venir, des actions communes seront organisées pour décliner ce manifeste sur le plan politique.
Tout concourt à ériger le déploiement massif de l’intelligence artificielle en priorité politique. Prolongeant les discours qui ont accompagné l’informatisation depuis plus d’un demi-siècle, les promesses abondent pour conférer à l’IA des vertus révolutionnaires et imposer l’idée que, moyennant la prise en compte de certains risques, elle serait nécessairement vecteur de progrès. C’est donc l’ensemble de la société qui est sommée de s’adapter pour se mettre à la page de ce nouveau mot d’ordre industriel et technocratique. Partout dans les services publics, l’IA est ainsi amenée à proliférer au prix d’une dépendance technologique accrue. Partout dans les entreprises, les managers appellent à recourir à l’IA pour « optimiser » le travail. Partout dans les foyers, au nom de la commodité et d’une course insensée à la productivité, nous sommes poussés à l’adopter.
Pourtant, sans préjuger de certaines applications spécifiques et de la possibilité qu’elles puissent effectivement répondre à l’intérêt général, comment ignorer que ces innovations ont été rendues possible par une formidable accumulation de données, de capitaux et de ressources sous l’égide des multinationales de la tech et du complexe militaro-industriel ? Que pour être menées à bien, elles requièrent notamment de multiplier la puissance des puces graphiques et des centres de données, avec une intensification de l’extraction de matières premières, de l’usage des ressources en eau et en énergie ?
Comment ne pas voir qu’en tant que paradigme industriel, l’IA a dores et déjà des conséquences désastreuses ? Qu’en pratique, elle se traduit par l’intensification de l’exploitation des travailleurs et travailleuses qui participent au développement et à la maintenance de ses infrastructures, notamment dans les pays du Sud global où elle prolonge des dynamiques néo-coloniales ? Qu’en aval, elle est le plus souvent imposée sans réelle prise en compte de ses impacts délétères sur les droits humains et l’exacerbation des discriminations telles que celles fondées sur le genre, la classe ou la race ? Que de l’agriculture aux métiers artistiques en passant par bien d’autres secteurs professionnels, elle amplifie le processus de déqualification et de dépossession vis-à-vis de l’outil de travail, tout en renforçant le contrôle managérial ? Que dans l’action publique, elle agit en symbiose avec les politiques d’austérité qui sapent la justice socio-économique ? Que la délégation croissante de fonctions sociales cruciales à des systèmes d’IA, par exemple dans le domaine de la santé ou l’éducation, risque d’avoir des conséquences anthropologiques, sanitaires et sociales majeures sur lesquelles nous n’avons aujourd’hui aucun recul ?
Or, au lieu d’affronter ces problèmes, les politiques publiques menées aujourd’hui en France et en Europe semblent essentiellement conçues pour conforter la fuite en avant de l’intelligence artificielle. C’est notamment le cas de l’AI Act adopté par l’Union européenne et présenté comme une réglementation efficace alors qu’elle cherche en réalité à promouvoir un marché en plein essor. Pour justifier cet aveuglement et faire taire les critiques, c’est l’argument de la compétition géopolitique qui est le plus souvent mobilisé. À longueur de rapports, l’IA apparaît ainsi comme le marchepied d’un nouveau cycle d’expansion capitaliste, et l’on propose d’inonder le secteur d’argent public pour permettre à l’Europe de se maintenir dans la course face aux États-Unis et à la Chine.
Ces politiques sont absurdes, puisque tout laisse à penser que le retard de l’Europe dans ce domaine ne pourra pas être rattrapé, et que cette course est donc perdue d’avance. Surtout, elles sont dangereuses dans la mesure où, loin de constituer la technologie salvatrice souvent mise en avant, l’IA accélère au contraire le désastre écologique, renforce les injustices et aggrave la concentration des pouvoirs. Elle est de plus en plus ouvertement mise au service de projets autoritaires et impérialistes. Non seulement le paradigme actuel nous enferme dans une course technologique insoutenable, mais il nous empêche aussi d’inventer des politiques émancipatrices en phase avec les enjeux écologiques.
La prolifération de l’IA a beau être présentée comme inéluctable, nous ne voulons pas nous résigner. Contre la stratégie du fait accompli, contre les multiples impensés qui imposent et légitiment son déploiement, nous exigeons une maîtrise démocratique de cette technologie et une limitation drastique de ses usages, afin de faire primer les droits humains, sociaux et environnementaux.
Premières signataires :
La Quadrature du Net, la LDH, Union syndicale Solidaires, Scientifiques en rébellion, L’Atelier Paysan, Féministes contre le cyberharcèlement, SNES-FSU, Framasoft, Agir pour l’environnement, Attac France, Syndicat de la Magistrature, Syndicat des Avocats de France, Stop Micro, Le Nuage était sous nos pieds, Génération Lumière, Halte au contrôle numérique, ritimo, Intérêt à Agir, L’Observatoire des multinationales, Sherpa, Le Mouton numérique, Lève les yeux.
07.02.2025 à 13:07
noemie
Dans la famille du grand n’importe quoi, on voudrait le gouvernement Bayrou s’il vous plaît ! L’expérimentation de vidéosurveillance algorithmique (VSA) prévue par la loi sur les Jeux Olympiques était censée se terminer dans moins de deux mois. Pourtant, le gouvernement a déposé hier un amendement pour tout simplement prolonger l’expérimentation… jusqu’à la fin de l’année 2027. Le tout en s’affranchissant totalement des promesses faites ou des règles constitutionnelles.
Le déploiement de la VSA avait été autorisé par la loi sur les Jeux Olympiques en 2023 au nom de la sécurité de cet évènement. En réalité, ce texte permettait l’utilisation de cette technologie de surveillance de masse pour une durée bien plus longue et dans un périmètre bien plus large. La VSA a ainsi été déployée dès le mois d’avril 2024 et ensuite pour de nombreux évènements comme des concerts, matchs de foot ou même récemment dans la rue pour le jour de l’An à Paris. Cette « expérimentation » est censée se terminer le 31 mars prochain.
Aussi, la loi avait prévu de façon inédite la création d’un comité chargé d’évaluer la mise en œuvre de la VSA. Ses conclusions étaient présentées comme essentielles pour juger de l’utilité de cette technologie du point de vue policier, et décider ensuite d’une éventuelle pérennisation. Depuis le début, nous avons affiché notre plus grand scepticisme face à ce mécanisme d’évaluation, dont on anticipait qu’il serait instrumentalisé par le gouvernement. Surtout, l’approche consistant à se focaliser sur l’efficacité de la VSA éludait l’ensemble des dangers inhérents à cette technologie. Il n’empêche que ce comité avait le mérité d’exister. Lors des débats parlementaires, il a d’ailleurs été brandi à de multiples reprises par le gouvernement et la majorité d’alors comme la preuve de leur bonne foi et de leur respect des libertés publiques.
Qu’il est loin ce temps-là ! Déjà, il y a quelques mois, avant même que le comité ait finalisé son travail, Laurent Nunez et Michel Barnier y allaient de leur petit commentaire pour dire à quel point ils souhaitaient le prolongement de cette technologie, comme une manière de préparer les esprits. Puis, comme prévu par la loi, le comité a remis son rapport au gouvernement à la fin de l’année 2024. Si plusieurs médias y ont eu accès et s’en sont fait l’écho, ce document n’a toujours pas été rendu public [EDIT: il l’a été quelques heures après la publication de cet article]. Pourquoi une telle opacité ? Peut-être, comme le pointent Le Monde ou France Info, parce que le rapport montre de nombreuses défaillances et un manque d’efficacité de cette technologie ? À moins que cela s’explique par le fait que l’opposition populaire à la VSA monte et que, la semaine dernière, la justice a même exigé l’interdiction du recours à ce type de logiciel ?
Quoiqu’il en soit, le gouvernement veut continuer à utiliser cette technologie. Profitant du énième retour de la loi relative à la sûreté dans les transports à l’Assemblée (dont la discussion avait d’abord été interrompue par la dissolution puis par la chute du gouvernement Barnier, et dont l’initiateur, Philippe Tabarot, est depuis devenu ministre), il a fait un coup de force. Ainsi, il a déposé un hier un amendement demandant l’extension du dispositif de VSA pendant encore trois années, au prétexte que les services n’auraient pas eu assez de temps pour tester la technologie. Reformulons les choses : il a joué et il a perdu. Mais il s’en fiche, comme nous l’anticipions, le caractère « expérimental » et tout le dispositif d’évaluation n’ont été qu’un alibi commode permettant au gouvernement de faire passer la pilule. Que la VSA « marche » ou pas est au fond accessoire. Pour le gouvernement, il s’agit de l’imposer coûte que coûte.
Sur le plan juridique, la régularité de cet amendement est parfaitement douteuse : d’une part, il pourrait ne pas être recevable puisqu’il s’agit d’un cavalier législatif, qui déborde largement l’objet de la proposition de loi. D’autre part, s’il venait à être adopté, il rentrerait en contradiction avec les règles fixées par le Conseil constitutionnel en 2023. En effet, ce dernier avait jugé que toute pérennisation et tout nouvel examen par les Sages de la conformité de la VSA à la Constitution devrait se faire à la lumière des résultats de l’évaluation. Or, si l’évaluation a bien été produite, le gouvernement s’en moque complètement. Il tente de forcer la main au Parlement qui n’aura même pas le temps de se faire sa propre idée. Outre le projet politique funeste associé à la VSA, c’est là le plus parlant dans cette affaire : l’absence totale de considération pour la légalité ou le respect des engagements fait à la représentation parlementaire. Rien d’étonnant s’agissant d’un ministre de l’intérieur qui affiche clairement son mépris pour l’État de droit.
Cet amendement est tout bonnement un scandale. La VSA ne doit pas être prolongée. Elle doit être interdite. Produit d’une industrie de la sécurité avide de profit, cette surveillance de nos corps et nos comportements est le vecteur technologique d’une amplification des discriminations policières. Elle contribue à parfaire un édifice de la surveillance qui transforme l’espace public en un espace de contrôle social permanent, qui trie les « bons citoyens » et les « suspects ».
Nous appelons tous les parlementaires à voter contre cette mesure et nous invitons toutes les personnes intéressées à se mobiliser dans leur ville ou après de leur député·e, pour faire valoir leur refus radical de ces technologies.
Pour vous informer sur la VSA et vous y opposer, retrouvez notre brochure sur le sujet et d’autres ressources sur notre page de campagne. Et pour soutenir notre travail, n’hésitez pas à faire un don.
04.02.2025 à 16:18
startuffenation
Un collectif d’ONG emmené par Amnesty International, la LDH et Féministes contre le cyberharcèlement recommande, dans une tribune au « Monde » également signée par La Quadrature du Net, de placer les droits humains et la justice environnementale au cœur de la régulation de l’intelligence artificielle.
L’intelligence artificielle (IA) connaît un développement foudroyant, et nos dirigeants ne semblent pas pressés de réfléchir aux enjeux humains, sociaux et environnementaux de ces nouvelles technologies, uniquement vues sous le prisme de la croissance, des gains de productivité et des profits. L’IA telle qu’elle est développée perpétue cependant les discriminations, aggrave les inégalités, détruit la planète et alimente un système d’exploitation global. Parce que ces constats ne figureront pas au programme officiel du Sommet mondial sur l’IA [qui se tient à Paris les 10 et 11 février], nous, organisations de la société civile, vous les rappelons ici.
Se concentrer uniquement sur d’éventuels futurs risques existentiels à venir de l’IA est un leurre : ces technologies ont déjà des effets très concrets pour les populations les plus vulnérables et les plus discriminées et portent largement atteinte aux droits humains. En s’appuyant sur des bases de données biaisées et en intégrant les préjugés de ses concepteurs, l’IA perpétue les stéréotypes, renforce les inégalités sociales et limite l’accès aux ressources et opportunités. A cela s’ajoute le fait que le déploiement de ces systèmes d’IA s’inscrit dans le contexte des structures discriminatoires et inégalitaires qui existent dans les sociétés du monde entier. Le recours à ces technologies, souvent sur fond de politiques d’austérité, amplifie les discriminations dans l’accès à la santé, à l’emploi, aux services publics ou aux prestations sociales. En témoignent les scandales ayant éclaté ces dernières années : biais sexistes et racistes des algorithmes de santé, algorithme des services de l’emploi autrichien qui refuse d’orienter les femmes vers le secteur informatique, profilage et discrimination des usagers de la Caisse nationale des allocations familiales en France, au Danemark ou aux Pays-Bas.
Or les technologies sont rarement la solution à des problèmes en réalité systémiques. Il est préférable de s’attaquer à la racine de ces problèmes plutôt que de prendre le risque d’aggraver les violations des droits humains avec des systèmes d’IA. Tandis que l’on confie de plus en plus de décisions aux algorithmes, leurs biais peuvent avoir des conséquences dramatiques sur nos vies. Les IA prédictives se substituent à la justice et à la police, risquant d’amplifier le racisme systémique. Par exemple, aux Etats-Unis, une IA calculant les risques de récidive désignait deux fois plus les accusés noirs comme étant « à haut risque » que les accusés blancs. Et quand bien même on réduirait ces biais, se concentrer sur les outils prédictifs nous empêche de penser à des réformes plus globales du système carcéral.
Ces systèmes sont aussi utilisés à des fins de surveillance et d’identification dans le cadre du contrôle des frontières ou de conflits, comme Lavender, cette IA qui, en désignant des cibles terroristes, a provoqué la mort de milliers de civils gazaouis. Et bien souvent, ces technologies sont développées par les pays occidentaux, comme les outils créés par des pays européens utilisés pour surveiller la population ouïghoure en Chine.
Les systèmes d’IA générative sont également instrumentalisés à des fins de désinformation et de déstabilisation par des régimes répressifs et des acteurs privés. « Bots » utilisés pour manipuler l’information sur des questions liées à la santé, désinformation à caractère raciste durant les dernières élections européennes, deepfakes audios et vidéo mettant en scène des candidats aux élections : ces technologies sont autant de menaces pour l’Etat de droit. Les montages crédibles générés par IA sont aussi un danger pour les femmes et les enfants : 96 % de ces deepfakes sont des contenus non consentis à caractère sexuel [selon le rapport 2019 du cabinet de conseil en gestion de risques DeepTrace], massivement utilisés dans le but de nuire aux femmes et de générer des contenus pédocriminels.
Par ailleurs, ces effets s’inscrivent dans un système d’exploitation global. L’IA, et notamment l’IA générative, constitue un véritable désastre pour l’environnement. D’ici à 2027, l’IA générative nécessitera une alimentation en électricité équivalente à celle de pays comme l’Argentine ou les Pays-Bas [comme le rapporte un article du New York Times d’octobre 2023]. Les émissions de CO2 des « géants de la tech » ont augmenté de 30 à 50 % en 2024 en raison du développement fulgurant de ces technologies. Et ce sont les pays du Sud global qui sont les premiers touchés : les data centers y pullulent, et l’extraction de minerais, comme le cobalt, utilisé entre autres dans les batteries, met en péril la santé des populations, entraîne la pollution des eaux et des terres et alimente violences et conflits armés.
Les inégalités entre les pays du Nord et du Sud sont également aggravées par les technologies déployées pour la modération de contenus en ligne. Les géants du numérique qui allouent plus de moyens aux pays du Nord privilégient ainsi certaines langues et récits culturels, déjà dominants, au détriment des autres. Enfin, n’oublions pas que ces systèmes d’IA sont majoritairement entraînés par des travailleurs et travailleuses du Sud global, exploités et sous-payés. Selon les informations du magazine Time, la société OpenAI a ainsi rémunéré des Kényans moins de deux dollars (1,95 euro) de l’heure pour labelliser des contenus toxiques, un travail particulièrement violent et éprouvant.
Face à ces constats alarmants, le règlement européen sur l’IA, présenté comme un instrument de protection des droits et libertés, reste très imparfait, notamment sur les questions de surveillance et de police prédictive. Par ailleurs ce règlement ne s’appliquera pas hors des frontières de l’Union européenne, alors même que la menace pour les droits humains et l’environnement est globale et que l’exportation des IA de surveillance génère du profit pour les entreprises européennes.
Nos gouvernements ne cessent de parler de souveraineté de l’IA, mais les défis posés par ces systèmes transcendent les frontières. Loin d’être un sujet technologique, l’IA est l’affaire de toutes et tous. Tout le monde doit pouvoir choisir la direction de ses développements, quitte à les refuser s’ils ne correspondent pas à notre projet de société. Un cadre contraignant élaboré démocratiquement, dans une perspective de solidarité internationale et avec les communautés les plus touchées, qui place les droits humains et la justice environnementale au cœur de la régulation de l’IA, voilà le véritable progrès.
31.01.2025 à 18:18
robinson
Enfin ! Le tribunal administratif de Grenoble a tranché en notre faveur le contentieux entre La Quadrature du Net et la commune de Moirans : l’utilisation par la ville du logiciel de vidéosurveillance Briefcam est disproportionnée et illégale.
La CNIL, qui couvre complaisamment l’utilisation de la vidéosurveillance algorithmique (VSA) par la police et la gendarmerie, avait laissé entendre que les communes pouvaient recourir aux logiciels de VSA pour analyser les images de vidéosurveillance dans le cadre d’une enquête judiciaire. Non, disions-nous, il n’y aucun texte qui autorise l’utilisation de cette surveillance par la police. Non, dit le tribunal avec nous, ces logiciels capables de reconnaître les personnes au niveau individuel et de les suivre dans la rue sont d’un usage disproportionné, et relèvent d’un traitement de données personnelles non autorisé par la loi.
Cette décision judiciaire est évidemment très importante pour la suite : les nombreuses communes qui utilisent Briefcam ou d’autres logiciels de VSA sont bel et bien dans l’illégalité. Elle permettra aux habitantes des nombreuses municipalités concernées de faire valoir leurs droits.
Cette victoire contre la VSA sera dignement fêtée lors du Dernier Quadrapéro du Monde le 7 février 2025.
Lire l’article : La justice confirme enfin l’illégalité de Briefcam
C’est malheureusement devenu une habitude. Tout gouvernement, après avoir participé à la surenchère médiatique qui transforme chaque fait divers en preuve de la déliquescence de la société, appelle à un sursaut national et à des mesures vigoureuses pour sauver le pays du chaos. On vote une loi sécuritaire qui limite les droits et les libertés publiques, la société civile gueule, les pires mesures sont censurées, une bonne partie passe quand même, et on recommence six mois plus tard pour pousser le bouchon encore un peu plus loin. C’est le cas cette fois-ci avec la nouvelle loi contre le « narcotrafic » portée par le dernier ministre de l’Intérieur, Bruno Retailleau (LR).
Cette proposition de loi est aujourd’hui en discussion au Sénat. Les articles du texte et les amendements des sénateurs rivalisent d’inventivité pour mieux surveiller tout et tout le monde, dans l’idée cette fois de lutter contre le trafic de drogues et le cortège de violences mortelles qu’il entraîne. On retrouve de vieilles marottes : affaiblir le chiffrement des communications, activer à distance les micros et les caméras des appareils connectés, censurer des pages web sans l’aval d’un juge, etc. Seule innovation : un procès-verbal secret dans lequel les magistrats pourront apprendre comment les suspects ont été surveillés, par quels moyens techniques ou humains, mais auquel les suspects eux-mêmes ne pourront pas avoir accès. Une dangereuse entorse aux droits de la défense.
Ces dispositions ont été critiquées publiquement par l’Observatoire des libertés et du numérique (OLN), dont fait partie La Quadrature du Net. Les mesures ajoutées par les amendements du Sénat sont décrites dans un article de La Quadrature paru cette semaine.
Lire le texte de l’OLN : PPL Narcotrafic : les droits et libertés à nouveau victimes de l’addiction aux lois sécuritaires
Le pire des amendements du Sénat : Quand la loi « Narcotrafic » devient la loi « Roue libre »
Le 20 janvier dernier, dans le sillage de l’initiative HelloQuitteX, nous avons fermé notre compte sur X. L’idée était en discussion depuis un moment. Nous avions déjà renoncé depuis deux ans à toute interaction sur ce réseau, en nous contentant d’y relayer nos articles et les contenus préparés pour nos interventions sur le Fediverse. Ce départ final est la suite logique d’un processus de désengagement commencé en 2019.
La Quadrature combat depuis longtemps le modèle des réseaux sociaux fermés qui retiennent les internautes dans leurs silos publicitaires géants et recentralisent le web, à l’inverse complet de son ambition de départ, spéculent sur la polarisation violente des « discussions » et l’encouragent même activement, tout en livrant la modération des échanges à un duo toxique entre des États surveillants-censeurs et des groupes privés, parfois plus riches que les États eux-mêmes, qui défient les lois européennes.
Contre ces géants toxiques, nous défendons le modèle de l’interopérabilité entre des réseaux divers, pluralistes, fédérés ou non, sans coexistence obligatoire des contraires qui livre les uns à l’hostilité des autres. Ce qui retient souvent les internautes sur un réseau social propriétaire, c’est la crainte de perdre tout un réseau de sociabilité, ou une audience pour un média ou une association. Alors on reste dans un enclos où les insultes, le harcèlement et les « raids » tiennent lieu de liberté d’expression et de débat public. Le développement de réseaux sociaux interopérables (Fediverse par exemple) offre une sortie viable de ce huis-clos étouffant. Il ne manquait qu’une solution pratique pour prévenir ses contacts et les retrouver sur les autres réseaux (portabilité des données), ce que propose HelloQuitteX.
L’annonce de notre départ de X a provoqué, sur X, une vague d’insultes en provenance des milieux identitaires, souverainistes et confusionnistes, qui prétendent que notre départ mettrait en cause leur liberté d’expression (la logique n’est pas leur point fort), avec des arguments qui circulent depuis des années à l’extrême-droite (nous recevons depuis 2008 un financement de soutien de la Open Society Foundation fondée par George Soros, à hauteur de 10% environ de notre budget annuel, ce qui fait de nous des agents de la CIA, du grand capital ou du cosmopolitisme judéo-maçonnique mondialiste, au choix ou tout ensemble). Soit la preuve par neuf qu’on avait raison de quitter X. Notre conviction, c’est que ce n’est pas sur un réseau social aussi toxique et aussi biaisé que X que se jouera la nécessaire bataille contre l’extrême droite. Vous pouvez nous suivre sur Mastodon.
Notre annonce du 20 janvier : Nous quittons Twitter
Tribune collective contre le marché publicitaire de la haine en ligne : Les contenus haineux et négatifs sont rentables pour les médias sociaux publicitaires
Les services de renseignement ont par définition une activité discrète. Depuis la loi Renseignement de 2015, contre laquelle La Quadrature et d’autres avaient activement milité pendant plusieurs mois, une autorité de contrôle des techniques de renseignement a cependant été créée, en particulier pour encadrer l’utilisation des moyens numériques de surveillance les plus intrusifs. Mais ses moyens sont limités, et sa proximité avec les services qu’elle est censée contrôler affaiblissent son efficacité. Convié à parler lors d’un colloque autour de ces enjeux, le 14 octobre dernier, un membre de La Quadrature du Net a pris la parole pour faire le point sur le rôle de la Commission nationale de contrôle des techniques de renseignement (CNCTR). Nous publions le texte de son intervention.
Lire l’article : Les trous noirs dans le contrôle des services de renseignement
Notre campagne de soutien pour 2025 est toujours ouverte. Vous pouvez nous faire un don sur notre site.
[VSA] Briefcam à Moirans
Intelligence artificielle
Drones
Réseaux sociaux
Divers
30.01.2025 à 16:20
bastien
Victoire totale aujourd’hui au tribunal administratif de Grenoble ! L’affaire opposant La Quadrature du Net à la ville de Moirans, en Isère, s’achève par une décision reconnaissant l’illégalité du logiciel de vidéosurveillance algorithmique Briefcam. La justice ordonne à la commune de cesser immédiatement l’utilisation de ce logiciel.
Le logiciel de Briefcam est installé en toute opacité dans de très nombreuses communes de France. Techniquement, il permet d’appliquer des filtres algorithmiques sur les images de vidéosurveillance pour suivre ou retrouver les personnes en fonction de leur apparence, leurs vêtement, leur genre ou encore leur visage via une option de reconnaissance faciale. Depuis des années, nous dénonçons la dangerosité de cette vidéosurveillance algorithmique (VSA) qui est un outil inefficace et utilisé surtout pour le contrôle des populations dans l’espace public. En parallèle, nous rappelons constamment son illégalité manifeste et le laisser-faire des pouvoirs publics.
Ainsi, nous avons récemment critiqué la prise de position de la CNIL venue au secours de la police et la gendarmerie nationale, qui utilisaient ce logiciel depuis 2015 et 2017 sans l’avoir déclaré. La CNIL avait validé leur interprétation juridique farfelue pour sauver leur utilisation de ce logiciel dans le cadre d’enquête.
Or, dans cette affaire contre l’utilisation de Briefcam à Moirans, la CNIL était opportunément intervenue quelques semaines avant l’audience pour affirmer que Briefcam serait légal si utilisé par une commune pour répondre à des réquisitions judiciaires. La décision du tribunal administratif de Grenoble vient donc contredire frontalement cette position : il estime que le logiciel Briefcam met en œuvre un traitement de données personnelles disproportionné et qui n’est pas prévu par la loi, y compris dans le cas particulier d’enquêtes judiciaires.
Cette décision d’illégalité est une victoire sans précédent dans notre lutte contre la VSA. Les habitant·es de toute ville, à l’instar de Saint-Denis, Reims ou encore Brest qui ont choisi de mettre en place ce type de surveillance algorithmique, peuvent légitimement en demander l’arrêt immédiat. Les promoteurs politiques et économiques de la Technopolice doivent faire face à la réalité : leurs velléités de surveillance et de contrôle de la population n’ont pas leur place dans notre société. La CNIL n’a plus d’autre choix que d’admettre son erreur et sanctionner les communes qui continueraient d’utiliser de la VSA.
C’est grâce à vos dons que nous avons pu mener cette lutte jusqu’à son dénouement heureux aujourd’hui, et nous avons toujours besoin de votre aide pour continuer demain !
29.01.2025 à 15:25
marne
Le Sénat a débuté hier la discussion en hémicycle de la proposition de loi dite « Narcotrafic », dont les mesures de surveillance et répressives nous inquiètent particulièrement, à La Quadrature comme avec les autres organisations de l’Observatoire des Libertés et du Numérique. À la lecture des amendements adoptés à ce stade, nous constatons que les sénateurs se sont manifestement senti pousser des ailes. Ils ont adopté nombre de mesures qui semblent irréelle tant elles sont dangereuses, faisant sauter autant que possible les limites de la surveillance et des pouvoirs répressifs. Voici un aperçu de ce florilège autoritaire.
Tout d’abord, les sénateurs ont signé le retour de l’activation à distance des objets connectés pour filmer et écouter les personnes à leur insu. Proposée par Eric Dupont-Moretti en 2023 dans une loi de réforme de la justice, cette mesure de surveillance avait été censurée par le Conseil constitutionnel. Cela n’empêche pas les parlementaires de réintroduire aujourd’hui dans le texte un régime quasi identique, qui présente les mêmes dangers qu’il y a deux ans. Ainsi, aussi bien les appareils fixes (voir l’amendement) que mobiles (voir l’amendement) seraient transformés en mouchards pour la poursuite de certaines infractions. C’est une poursuite du processus de légalisation des logiciels espions (comme ceux de NSO/Pegasus) là où l’urgence serait de les interdire tant ils sont dangereux pour les équilibres démocratiques et les libertés individuelles.
Ensuite, les sénateurs tentent de donner corps à l’obsession des dirigeants ces dernières années : accéder au contenu des communications chiffrées, par exemple via les applications Whatsapp, Signal ou Telegram (lire l’amendement). Et cela fait autant d’années que les organisations comme La Quadrature, les experts en cryptographie ou même l’ANSSI le répètent : non seulement cette mesure est impossible techniquement mais elle contrevient à toutes les exigences de sécurité numérique. Le chiffrement de bout-en-bout est conçu pour que les entreprises elles-mêmes n’aient pas accès aux messages. Introduire un accès, une « backdoor », affaiblirait le niveau de protection de l’ensemble des communications et cela n’est d’ailleurs prévu nulle part dans le monde. Le chiffrement est une mesure de sécurité, le casser rendrait le monde numérique vulnérable et personne n’y a intérêt. Mais pourquoi s’embarrasser de la vérité quand on peut faire du sensationnel ? Il est urgent que cette modification soit retirée du texte.
Les sénateurs ont ensuite continué leur festival en élargissant la possibilité pour les policiers de Pharos de censurer les contenus liés aux stupéfiants (voir l’amendement). Les Sénateurs ont ainsi voté un amendement du Gouvernement élargissant cette censure, jusqu’à présent « limitée » aux contenus faisant référence à la vente de drogue, pour englober les contenus concernant toutes les infractions liées au trafic de stupéfiants. Cette volonté de verrouiller Internet ne peut que mener à des abus au regard du volume de contenus concerné, et au cadre extra-judiciaire de ces censures. Comment les policiers sauront-ils faire la différence entre des mèmes ou des blagues sur la drogue ou encore des extraits de films ou de clips sortis de leur contexte ? Et surtout, en quoi le retrait de ces contenus auraient véritablement un impact sur la problématique sociale de la consommation de drogues, qui repose sur tellement d’autres facteurs ? Les décennies passent et pourtant le réflexe inutile et dangereux de censurer et verrouiller les moyens de communication ne s’est manifestement pas perdu.
Bien d’autres élargissements répressifs sont prévus, mais s’agissant des enjeux numériques les sénateurs ont aussi décidé de s’en prendre aux opérateurs en renforçant les conditions de vente des cartes SIM prépayées et en imposant de conserver pendant cinq (!) années les données personnelles des personnes les ayant achetées (voir l’amendement).
L’examen du texte n’est pas fini que le Sénat est déjà en roue libre à écraser les libertés fondamentales et les règles protectrices de la procédure pénale, galvanisé par le traitement médiatique et politique du sujet lié au trafic de drogues et les largesses consenties au Gouvernement Bayrou à l’égard de l’extrême-droite. Cela permet à la « chambre haute » de mettre en pratique ses obsessions de surveillance rabâchées depuis des années. Nous attendons avec crainte les discussions à venir sur le reste du texte et notamment concernant le « dossier coffre » qui créerait une procédure secrète pour empêcher les personnes de connaître – et donc de contester – la manière dont elles sont surveillées et les très larges élargissements des pouvoirs des services de renseignement. Surtout, il faut avoir conscience que ces modifications s’appliquent à l’ensemble du régime de criminalité organisée, qui va bien au delà des personnes impliquées dans le trafic de drogue.
Il est plus que temps que les membres des partis qui votent de telles mesures se ressaisissent et retournent dans le « champ républicain » et dans les perspectives de l’État de droit au lieu de faire la course à l’autoritarisme pour tenter d’égaler l’extrême droite et la droite extrême dans son délire sécuritaire.