Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 30 septembre 2025 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.

Tout l’été, profitez de republications de « Dans Les Algorithmes » ! Rendez-vous tous les dimanches de juillet et d’août pour réfléchir, ensemble, sur les enjeux de l’Intelligence Artificielle.

Hubert Guillaud

L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.

« Le discours selon lequel l’intelligence artificielle révolutionne la science est désormais quasiment incontournable », rappelle William Burns, consultant en politique scientifique, pour Tech Policy Press. « L’histoire raconte déjà que l’IA n’est pas seulement l’avenir : elle révolutionne les découvertes scientifiques ». Même des gens assez critiques de l’IA et de ses développements disent qu’elle possède des « capacités prometteuses » pour la recherche scientifique, justifiant son développement. Pourtant, l’IA, telle qu’elle est actuellement déployée en science, occulte plus qu’elle ne révèle, exacerbant les problèmes qu’elle prétend résoudre.

Les chercheuses Lisa Messeri et Molly J. Crockett affirmaient l’année dernière dans Nature que « la prolifération des outils d’IA en science risque d’introduire une phase de recherche scientifique où nous produisons davantage, mais comprenons moins ». Mais surtout, l’usage de l’IA pourrait compromettre la capacité à produire des connaissances fiables, sur lesquelles repose tout l’édifice scientifique. Cette crise annoncée prolonge celle que traverse la recherche depuis le début du XXIe siècle, notamment liée à la stagnation des découvertes pharmaceutiques. Burns rappelle par exemple que le Projet Génome Humain dans les années 90 a été lancé en promettant une prolifération de nouveaux médicaments qui n’est jamais advenue. Un chercheur d’une grande entreprise scientifique expliquait en 2008 que « rien de ce que les entreprises ont fait pour accroître la production de nouveaux médicaments n’a fonctionné, y compris les fusions, les acquisitions, les réorganisations et l’amélioration des processus ».

Le microbiologiste américain, Carl Woese, opposant à l’ingénierie biologique, estimait, en 2004, que la crise de l’innovation était liée à la généralisation de l’ingénierie du vivant. En 2011, l’économiste Philip Mirowski estimait que le néolibéralisme, obsédé par la technologie, avait tué la rigueur scientifique. La promesse de renouveau scientifique par l’IA s’inscrit pleinement en prolongement de cette crise. En 2023, l’OCDE expliquait que l’IA pourrait venir aider une science devenue « plus difficile ». À l’image d’AlphaFold, le système de pliage des protéines de Google DeepMind, pour lequel Demis Hassabis et John Jumper ont reçu le prix Nobel de chimie en 2024.

Les protéines ne sont pas des puces de silicium

AlphaFold a permis de prédire la structure de 200 millions de protéines, mais il serait expérimentalement impossible d’en vérifier n’en serait-ce qu’une fraction. Pour ce faire, « il faudrait généralement isoler des protéines des cellules en quantités importantes – un processus capricieux – puis les soumettre à des techniques telles que la diffraction des rayons X et la résonance magnétique nucléaire. Ces étapes pourraient prendre des années, même pour une seule protéine ». Néanmoins, la philosophe Daria Zakharova a affirmé dans un pré-print que si les prédictions d’AlphaFold sont considérées comme fiables et sont utilisées par les scientifiques, cette « connaissance » est bien imparfaite. « D’un point de vue strictement matériel, AlphaFold n’est pas une représentation du comportement des protéines, mais plutôt du comportement des puces de silicium (sur lesquelles repose le calcul). En ce sens, les inventeurs d’AlphaFold ont avancé l’hypothèse que des puces de silicium pourraient imiter les protéines. Cela soulève la question de savoir comment des matériaux sans lien entre eux, tant chimiquement que spatialement et temporellement, pourraient s’imiter. Au minimum, des preuves substantielles seraient nécessaires pour le prouver. Pourtant, lorsque des efforts ont été déployés pour le vérifier, les résultats ont été mitigés », rappelle Burns. Une étude récente de Garrido-Rodríguez et ses collègues a par exemple soutenu que le calcul d’AlphaFold ne « correspondait pas aux modèles déterminés expérimentalement », faisant référence à une classe de protéines omniprésentes et biologiquement vitales appelées serpines. « De toute évidence, des recherches plus approfondies pourraient être nécessaires sur la fiabilité de l’IA en tant qu’outil prédictif ». Pour Burns, les preuves ne sont pas suffisamment solides à ce stade. Bien sûr, le repliement des protéines est complexe. Leur modélisation est ancienne et repose sur des hypothèses manifestement différentes de leur réalité. Longtemps, ces modèles servaient à interpréter des données d’observation issues de la diffraction des rayons X, et non à créer un modèle informatique, comme avec AlphaFold. Le problème, estime le chercheur en cancérologie et lauréat du prix Nobel de physiologie ou médecine 2019, William G. Kaelin Jr., c’est que la publication doit construire son savoir sur des briques plutôt que sur de la paille.

Au Royaume-Uni, la UK Biobank, une entreprise publique qui détient des données génétiques sur un sous-ensemble de la population britannique, aurait conclu en mars dernier un partenariat avec des sociétés pharmaceutiques et Calico, filiale d’Alphabet, qui auront accès à ces données pour des études menées avec l’IA. Le projet a été décrit par le Financial Times comme « un exemple emblématique de la manière dont les ordinateurs avancés et les modèles d’intelligence artificielle peuvent exploiter de vastes ensembles de données biologiques pour étudier en profondeur le fonctionnement du corps humain et ses dysfonctionnements potentiels ». Une question se pose cependant : l’exploitation de ces ensembles de données est-elle susceptible de produire des connaissances fiables, même en théorie ? En 2017, ces données ont été décrites comme « non représentatives de la population générale… Les participants à la UK Biobank vivent généralement dans des zones socio-économiquement moins défavorisées ; sont moins susceptibles d’être obèses, de fumer et de consommer de l’alcool quotidiennement ; et présentent moins de problèmes de santé auto-déclarés ». La structure de ces ensembles de données de santé, et d’autres similaires, qui ne sont certainement pas secrets, suscite des doutes. Même les observateurs optimistes doivent l’admettre : si les données sont inadéquates et l’IA opaque, quelle est la valeur épistémique réelle de ces projets ? Le prix Nobel Kaelin Jr. a conseillé : « La question… devrait être de savoir si… les conclusions sont susceptibles d’être correctes, et non de savoir s’il serait important qu’elles soient vraies. »

Ralentir la science

Si l’on veut sauver la science de son malaise actuel, des solutions sont déjà possibles, conclut Burns. « Des propositions comme la « slow science » d’Isabelle Stenger semblent valoir la peine d’être tentées, car elles pourraient élargir la charge de la preuve aux affirmations scientifiques et encourager un esprit de service public parmi les scientifiques. Pourtant, si une rénovation épistémique a eu lieu jusqu’à présent dans le domaine scientifique, elle est restée extrêmement timide et n’a pas produit d’effets escomptés. 

Il faut dire que pour les investisseurs, l’idée que l’IA puisse nous sortir de l’impasse actuelle et donner naissance à toutes sortes d’inventions rentables est doublement séduisante. L’IA est une méthode qui ne nécessite que des capitaux pour sa mise en œuvre et qui peut être réalisée à grande échelle, contrairement à la recherche empirique, centrée sur l’humain et fastidieuse, où l’ingéniosité et la chance (qui ne s’achètent pas si facilement) semblent prédominer. Mais investir dans l’IA est aussi un moyen efficace de maintenir le statu quo, tout en semblant le bouleverser, car il pose l’hypothèse d’un avenir technologique sans les changements systémiques qu’impliquent d’autres réformes. 

Dans cette optique, nous devons résister au spectacle. L’IA fait vendre une vision du progrès où les algorithmes peuvent révéler les secrets plus rapidement, mieux et à moindre coût ; pourtant, les secrets de la nature ne sont pas si facilement révélés, et la connaissance sans compréhension n’est pas une connaissance du tout. »

S’il y avait besoin d’une explication supplémentaire, Alberto Romero dans sa newsletter algorithmic Bridge, revient sur une étude du MIT et de Harvard, où les chercheurs se sont demandé si les modèles d’IA pouvaient passer de la simple prédiction au « développement de modèles fiables », en les faisant travailler sur un problème de physique assez classique ? Mais au lieu de tester avec le langage, qui est assez complexe et difficile à analyser, ils se sont concentrés sur la physique classique. Ils voulaient voir si le modèle utiliserait les lois de Newton pour prédire les vecteurs de force à l’origine du mouvement de révolution de la terre autour du soleil ou s’il inventerait simplement ses prédictions sans comprendre la physique réelle. Ils ont conclu que les modèles d’IA font des prédictions précises, mais ne parviennent pas à encoder le modèle universel de Newton et recourent plutôt à des heuristiques spécifiques à chaque cas, non généralisables et fortement incohérents. L’étude montre que « les modèles d’IA sont tout simplement incapables de coder un ensemble de lois robustes pour régir leurs prédictions : ils sont non seulement incapables de retrouver des modèles du monde, mais intrinsèquement mal équipés pour le faire ». Un modèle d’IA d’apprentissage profond est peut-être architecturalement incapable de développer des modèles du monde corrects estiment-ils. Même le rêve que l’IA puisse être utilisée pour améliorer la prédictibilité des modèles climatiques est battue en brèche. Dans leur livre, AI Snake Oil (voir notre recension), les chercheurs Arvind Narayanan et Sayash Kapoor montraient que son amélioration était assez limitée et qu’elle pourrait même atteindre un palier indépassable, à mesure que les phénomènes deviennent plus extrêmes. La croyance dans un progrès scientifique exponentiel porté par l’IA ne sert qu’à raviver les promesses des technosciences comme le disaient déjà Marc Audétat et les chercheurs invités dans Sciences et technologies émergentes : pourquoi tant de promesses ? (Hermann, 2015, voir notre recension). L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.

MAJ du 25/01/2026 : L’IA va-t-elle tuer la science ou, au contraire, engendrer une révolution scientifique ? C’est la question que pose l’astrobiologiste Sara Imari Walker dans un article pour Noema. Si l’IA peut résoudre le problème du pliage des protéines comme le promettent beaucoup de recherches, que pourrait-elle accomplir d’autre ? Mais si « AlphaFold prédit les structures 3D, il n’explique ni la physique sous-jacente, ni les mécanismes de repliement, ni les ensembles conformationnels dynamiques. Il fonctionne bien pour les protéines composées de la vingtaine d’acides aminés présents dans la biologie terrestre. Pour étudier les protéines issues des centaines d’acides aminés contenus dans les matériaux météoriques, ou pour concevoir de nouvelles protéines thérapeutiques, ce modèle a besoin de données supplémentaires. La limitation ne réside ni dans l’algorithme ni dans sa capacité de mise à l’échelle : les données nécessaires n’existent pas. » 

Si l’on considère la science uniquement comme la méthode scientifique (observation, hypothèse, vérification, analyse), alors l’automatisation semble inévitable, avance-t-elle. Les algorithmes d’IA réalisent de manière démontrée bon nombre, voire la totalité, de ces étapes, et leurs performances s’améliorent lorsqu’ils sont guidés par des scientifiques.

Pourtant, si la mise à l’échelle était notre seul besoin, l’IA actuelle offrirait une solution banale à la science : nous pourrions faire plus grâce à des modèles à plus grande échelle. Cependant, l’optimisme autour de l’IA ne se limite pas à l’automatisation et à la mise à l’échelle ; il concerne aussi la théorie de l’esprit. La science diffère radicalement de l’expérience : elle est fondamentalement intersubjective. Si une chose n’existe que dans un seul esprit et ne peut être partagée, elle ne peut devenir une connaissance scientifique. La science exige la vérification mutuelle des observations, la construction d’un héritage de découvertes passées et l’élaboration d’un consensus intergénérationnel sur la réalité. Les modèles scientifiques doivent donc être exprimables par des symboles, des mathématiques et le langage, car ils doivent être reproductibles et interprétables d’un esprit à l’autre. La science est par définition instable car elle n’est pas une caractéristique objective de la réalité : elle se comprend plus justement comme un système culturel évolutif, nourri par la représentation consensuelle et adaptable aux nouvelles connaissances que nous produisons. Notre principal mode de communication des idées scientifiques est la représentation symbolique. Nous communiquons des modèles du monde, et non le monde lui-même.

Plus fondamentalement, le discours actuel, optimiste, voire arrogant, autour de l’IA et de l’intelligence artificielle générale laisse entendre que ces algorithmes seront « plus qu’humains » dans leur capacité à comprendre et à expliquer le monde, dépassant ainsi ce que certains perçoivent comme les limites de l’intelligence imposées par la biologie humaine. Or, cela est impossible, de par les fondements mêmes de la théorie du calcul et l’héritage de l’abstraction humaine dont ces technologies sont directement issues. Comme l’écrit le physicien David Deutsch, si l’univers est effectivement explicable, les humains sont déjà des « explicateurs universels », car nous sommes capables de comprendre tout ce qu’un système informatique peut comprendre : en termes de capacités de calcul, ordinateurs et cerveaux sont tout aussi universels.

Les changements de paradigme révèlent que la puissance de la pensée scientifique ne réside pas dans la vérité littérale des théories, mais dans notre capacité à identifier de nouvelles façons de décrire le monde et dans la persistance des structures que nous décrivons à travers différents schémas de représentation.

Ceci nous amène à comprendre pourquoi l’IA ne peut remplacer les scientifiques. Les controverses et les débats sur le langage et la représentation en science ne sont pas des anomalies ; ils sont inhérents à un système sociétal qui détermine les modèles qu’il privilégie. Les milliards de paramètres d’AlphaFold 3 suggèrent que la parcimonie et la simplicité ne sont peut-être pas les seules voies possibles pour la science. Si nous voulons des modèles qui cartographient le monde avec la plus grande précision possible, la complexité est peut-être nécessaire.

C’est cette profondeur de sens, inhérente à nos théories, que la science découvre en construisant de nouvelles perceptions sociétales. Une vision superficielle, où la science se contente de créer des modèles prédictifs dépourvus de profondeur et de signification, ne peut la saisir. Lorsqu’un scientifique élabore une théorie, même avant l’évaluation par les pairs, il y a un acte intentionnel d’explication et un travail intérieur de confrontation avec l’intuition et sa représentation. Les modèles d’IA, en revanche, génèrent des prédictions par reconnaissance statistique de formes, un processus très différent.

« La question fondamentale n’est pas de savoir si l’IA peut faire de la science, mais si les sociétés peuvent construire des représentations partagées et des significations consensuelles avec des algorithmes dépourvus de la création intentionnelle de sens qui a toujours été au cœur de l’explication scientifique.  » L’IA transformera-t-elle la science ? Certainement. Remplacera-t-elle les scientifiques ? Certainement pas, clame Sara Imari Walker. Si nous nous méprenons sur la nature de la science, en confondant l’automatisation des méthodes avec le projet humain de construction, de débat et d’affinage collectifs des représentations symboliques qui nous permettent de comprendre la réalité, l’IA risque d’annoncer la mort de la science : nous manquerons alors l’occasion de l’intégrer pleinement aux systèmes culturels de la science.

« La science ne se résume pas à la prédiction et à l’automatisation ; l’histoire nous enseigne qu’elle est bien plus que cela. Elle repose sur un consensus explicatif et une négociation humaine permanente quant aux descriptions du monde que nous adopterons collectivement. Cette négociation, cette articulation intersubjective des observations en une signification partagée, est fondamentalement sociale et, pour l’instant, fondamentalement humaine. »

MAJ du 26/01/2026 : L’IA peut-elle générer de nouvelles idées en science ?, interroge Cade Metz pour le New York Times, en revenant sur une polémique récente où une startup, Harmonic, affirmait que son IA aurait résolu un problème de math resté insoluble (voir les explications de Numerama). En fait, des mathématiciens et des chercheurs en IA ont rapidement souligné que le système avait identifié des solutions existantes, enfouies dans des décennies d’articles de recherche et de manuels, par exemple en trouvant une solution enfouie dans un article en allemand. “Un chercheur expérimenté est toujours nécessaire pour interroger le système, lui expliquer ce qu’il doit rechercher et, finalement, extraire les informations pertinentes du reste des données produites”.

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.

Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)

Brave New World

• L’armée russe a avancé de 1 km² par jour en moyenne en juillet (legrandcontinent.eu)
  

  Le rythme d’avancée de Moscou en Ukraine s’est ainsi effondré de près de 95 % en glissement annuel.

• La guerre en Ukraine est-elle en train de se connecter avec la guerre en Iran ? (legrandcontinent.eu)
  

  Le régime iranien qui fabrique des drones utilisés par la Russie pour ses frappes en Ukraine accuse Kiev d’avoir attaqué un navire iranien en mer Caspienne et menace de représailles.

• La sécheresse a fait baisser le niveau des fleuves européens à leur plus bas niveau (legrandcontinent.eu)
• Mammoth remains revealed in Bulgaria after Danube water levels hit record low (reuters.com)
• Incendies en Grèce : ordre d’évacuation près d’Athènes, la Crète en proie aux flammes (france24.com)
  

  La Protection civile grecque a ordonné vendredi l’évacuation préventive d’une partie d’une banlieue à l’ouest d’Athènes en raison d’un incendie de forêt, selon un message d’alerte envoyé sur les téléphones portables. Par ailleurs, l’île touristique de Crète était toujours la proie des flammes, poussées par des vents violents malgré une certaine amélioration, selon les pompiers.

• En RD Congo, Félix Tshisekedi de plus en plus sous pression (afriquexxi.info)
  

  Changement de Constitution, partisans de l’ancien régime traqués, manifestations réprimées, corruption… La gouvernance de Félix Tshisekedi est de plus en plus soumise aux critiques tandis que la situation dans l’Est ne progresse pas, au contraire de l’épidémie d’Ebola, devenue incontrôlable.

• Le Sahel pourrait être au seuil d’une nouvelle ère humide (legrandcontinent.eu)
• Pénurie d’eau minérale en Tunisie : les grandes surfaces annoncent l’épuisement de leurs stock (lapresse.tn)
  

  Les grandes surfaces commerciales en Tunisie font face à une tension sur l’approvisionnement en eau minérale conditionnée, dans un contexte marqué par une forte hausse de la consommation liée aux températures élevées enregistrées ces dernières semaines.

• Sortir l’Espagne de l’espace Schengen après Ceuta ? Impossible, en plus d’être peu utile (huffingtonpost.fr)
  

  L’Italie a formulé cette proposition, soutenue par le Danemark et la Finlande, après l’afflux massif de migrants ces derniers jours dans l’enclave espagnole au Maroc.

  Voir aussi Pourquoi Ceuta est au cœur d’une crise migratoire permanente (theconversation.com) et Comment la crise à la frontière de Ceuta a immédiatement servi les intérêts de l’extrême droite espagnole (theconversation.com)

• Après les critiques sur Ceuta, Pedro Sánchez réplique face aux Européens qui l’ont lâché (huffingtonpost.fr)
  

  Le dirigeant socialiste espagnol a adressé une lettre offensive aux dirigeant·es de l’UE. Il déplore notamment une attitude « contraire » au principe de solidarité dans l’Union.

• Après 36 heures de crise, la quasi-totalité des migrant·es venu·es du Maroc ont quitté Ceuta et l’Espagne (huffingtonpost.fr)
  

  Un bilan provisoire fait état de 67 personnes décédées en essayant d’entrer à Ceuta.

• Majorque se révolte contre un tourisme qui dépossède les habitants de leur territoire (theconversation.com)
• Alerte Portugal : deux dessinateurs de presse membres de Cartooning for Peace ciblés dans une liste établie par un mouvement armé d’extrême droite (cartooningforpeace.org)
  

  C’est par voie de presse que les dessinateurs de presse Cristina et André Carrilho, membres de Cartooning for Peace, ont découvert leurs noms sur une liste d’individus et d’entités désignés comme des « cibles » et « menaces » pour le pays, établie par le Movimento Armilar Lusitano (MAL), un mouvement armé portugais d’extrême droite.

  

• As Europe Burns, a Climate Cover-Up Continues (newrepublic.com)
  

  The U.K.’s Labour government seems afraid to talk about the climate emergency.

• Airbus a fait voler des drones autonomes capables de “penser” en équipe (clubic.com)
• Click to Pray, Click to Leak : The Pope’s Official App Exposes 700,000+ User Emails (bobdahacker.com)
  

  I reported this on January 3rd, 2026. It is now July 24th. Six months later. The vulnerability is still live. Nobody has ever responded. I guess my email wasn’t in their prayers.

• GrapheneOS : un homme condamné pour avoir effacé son smartphone à la frontière américaine (clubic.com)
• A 77-year-old Republican man is staging a solo protest against St. Pete’s Flock cameras (cltampa.com)
  

  Flock cameras have been in St. Pete since 2022, and while police say they help solve crimes, civil liberties advocates say they create an unprecedented mass surveillance network.

• États-Unis : les critiques des technologies considéré·es comme des « terroristes d’extrême-gauche » (synthmedia.fr)
• A missing underscore sent innocent man to prison for 18 months (arstechnica.com)
  

  Had the case been properly investigated, the court says now, evidence “would have identified an individual whose first name is Jay whose IP address appears to be in California.”

• C’est la faute de Donald Trump si le bassin du Lincoln Memorial de Washington a viré au vert fluo (et ça l’agace fortement) (huffingtonpost.fr)
  

  Le président américain a crié sur tous les toits que du « vandalisme » expliquait le fiasco de la rénovation de l’étendue d’eau, mais la justice a conclu que l’« installation bâclée » est en cause.

• Epic diarrhea outbreak has 40 % of Americans avoiding fruits and veggies (arstechnica.com)
  

  The finding appears to be a setback to Kennedy’s Make America Healthy Again agenda, which has typically focused on overhauling nutrition guidance while neglecting food safety and infectious diseases.

• Face à l’épidémie de rougeole qui sévit aux États-Unis, les chercheureuses développent de nouveaux traitements (slate.fr)
  

  Jusqu’à récemment, la vaccination contre la rougeole semblait si efficace que le développement de traitements contre la maladie n’avait aucun intérêt, médicalement comme financièrement […] alors que les taux de vaccination déclinent, des entreprises biotechnologiques et des instituts universitaires se penchent sur des traitements spécifiques

• Les plans de travail en quartz, à l’origine d’une crise de santé publique aux États‑Unis et dans le monde (theconversation.com)
  

  Dans l’imaginaire collectif, la silicose, grave maladie incurable qui détruit la fonction pulmonaire, est associée au travail des mineurs. Mais d’autres ouvriers y sont exposés. C’est notamment le cas de ceux qui travaillent la pierre synthétique, ou quartz aggloméré, qui voient également leur risque de cancer du poumon augmenter.

• En manque de financements, une équipe de scientifiques cherche des sous sur OnlyFans (slate.fr)
  

  « C’est presque exclusivement des séquences tout public, montrant des marmottes en train de jouer, de se comporter de manière adorable, de creuser ou de rapporter des plantes dans leur terrier… bref, leur routine quotidienne »

• Comment le Venezuela se reconstruit après le terrible double séisme de juin 2026 ? (humanite.fr)
  

  Le 24 juin à 22h, deux tremblements de terre de magnitude 7,2 et 7,5 ont violemment secoué le Venezuela. Il s’agit du plus puissant séisme à avoir frappé le pays depuis au moins l’année 1900. Au moins 5500 morts et 16700 blessés et entre 10 000 et 50 000 personnes sont encore portées disparues. 16 000 personnes sont sans logement et 856 bâtiments sont sinistrés.

• Drifting SpaceX rocket heading for accidental collision with moon (theguardian.com)

Spécial IA

• La « vibecoding fatigue » : épuisés par l’IA, les développeureuses informatiques inventent leurs propres parades (theconversation.com)
  

  Chaque technique qui accélère remplit davantage les minutes qu’elle promettait de libérer.

• Anthropic is finding bugs faster than Microsoft can fix them (arstechnica.com)
  

  Microsoft is on a mad dash behind the scenes to patch exploits before hackers find them.

• AI-found bugs aren’t proving any easier to exploit despite the hype (theregister.com)
  

  Anthropic’s Project Glasswing may have uncovered tens of thousands of potential security flaws, but new research suggests AI-assisted vulnerability discovery has yet to produce the wave of real-world attacks many expected.

• Debian pourrait bannir les contributions assistées par IA, et ce n’est pas qu’une question de bugs (clubic.com)
  

  Le projet Debian débat de quatre propositions allant de l’interdiction des contributions directes assistées par IA à leur autorisation sous conditions. Derrière la qualité du code se joue surtout la protection des mainteneureuses bénévoles.

• Anti-AI open source has an enemy in common, but almost nothing else (theregister.com)
  

  What it will come down to is whether the anti-AI groups in FOSS can work together and help each other to hold off the vast and commercially backed pressure from LLM-assisted and LLM-generated code, even though they may find themselves bitterly opposed in terms of politics and ethics.

• L’IA entraîne une forte hausse du temps passé sur Facebook et Instagram (iphonesoft.fr)
• Tons of Peoples’ Claude Chats and Creations Are Exposed On Google (yro.slashdot.org)
  

  Claude is exposing a wealth of users’ chats and creations in Google search results, meaning anyone can dig through conversations or other material that people used Claude to make but may not have realized were publicly available for strangers to see. The exposed data includes an AI-powered therapy app that someone appears to have vibe-coded, notes on meetings, and a dashboard someone made apparently to analyze medical billing data. Exposed chats reportedly include private cryptocurrency wallet keys and personal information like peoples’ addresses

• Google Earth risked ruin with retracted AI tool for making fake satellite pics (arstechnica.com)
  

  Google’s aborted attempt to incorporate its Nano Banana 2 AI image generator as a Google Earth feature made it even easier for anyone to create modified versions of authentic imagery depicting real locations—something that Google boasted about when initially promoting the new feature.

  

• US government map of Africa mislabels every country at global conference (reuters.com)
  

  the ​image of the map included in the presentation contained an artificial intelligence watermark that ⁠signals it was made with OpenAI tools.

• In China, people are renting out their faces to AI (restofworld.org)
  

  New platforms are paying people to license their likeness for AI-generated dramas and ads, creating a new marketplace for biometric identity.

• High school defends staying silent while boys made AI nudes of 59 classmates (arstechnica.com)
  

  Gaps in laws may help Pennsylvania high school escape AI nudes scandal.One of the first schools to shut down after students were found making AI nudes of female classmates is now asking a court to toss a lawsuit filed by victims who claimed that the school stayed silent for months while the emboldened boys targeted many more girls.

• Unmoderated by Design : How Hugging Face Enables NCII (aiforensics.org)
  

  Our investigation found that Hugging Face, the top platform for sharing open-source AI models, isn’t just hosting tools that generate non-consensual intimate imagery. It’s helping users compare, benchmark and optimize them, making image-based sexual abuse easier to scale.

• Home Office used ‘AI hallucinated’ information to refuse asylum claim, judge suggests (theguardian.com)
  

  A senior judge has accused the Home Office of relying on “AI hallucinated” information to refuse an asylum claim. The case relates to a Moroccan woman and her child who fled her country after experiencing forced underage marriage and extreme violence, including rape. The woman claimed asylum on the basis of fears that she would be killed by her husband : a powerful, previously convicted criminal. The Home Office refused her case, citing evidence from a supposedly independent and authoritative document known as a country policy information note (CPIN), which they said confirmed that Morocco would be safe for her. But the document could not be found, although its existence was relied upon by a judge who rejected her appeal against the Home Office’s refusal decision in an immigration court known as the first-tier tribunal.

• A fundamental flaw leaves LLMs strikingly vulnerable to attack (technologyreview.com)
  

  It makes it easy to trick them into doing things they shouldn’t, such as telling you how to sabotage an aircraft’s navigation system.

• Face aux derniers modèles d’IA, la Silicon Valley se déchire autour de la régulation de l’intelligence artificielle (humanite.fr)
• LinkedIn ajoute un bouton pour signaler des contenus « AI slop » (next.ink)
• Les lunettes Meta se font bannir des événements, tribunaux et même des navires (next.ink)
• La vague anti-IA se retourne contre les patrons de la tech, qui craignent pour leur sécurité (courrierinternational.com)
  

  Dans la Silicon Valley, les fleurons de l’intelligence artificielle font face à des menaces grandissantes, numériques, mais aussi physiques dans les bureaux ou au domicile des dirigeants.

• L’Indium Phosphide – encore un goulot d’étranglement invisible de l’IA (open.substack.com)
  

  L’InP, c’est un symbole de notre foi aveugle dans l’innovation : on croit résoudre un problème (l’efficacité énergétique de l’IA) en en créant un autre (la dépendance aux matériaux critiques)

• South Korean Authorities Scrambling to Save Stock Market From AI Bubble (futurism.com)
  

  The US and European stock markets might be numb to the enormity of the AI bubble at this point, but in East Asia it’s a different story.

Spécial Palestine, Liban et Israel

• Massive Attack visé par une enquête à Singapour après avoir brandi sur scène un drapeau de la Palestine (huffingtonpost.fr)
  

  D’après la BBC, il est interdit d’afficher en public des emblèmes nationaux étrangers, tels que des drapeaux, sans autorisation. Les personnes qui ne respectent pas cette règle s’exposent à une amende pouvant aller jusqu’à 500 dollars singapouriens (soit environ 338 euros) et une peine d’emprisonnement pouvant aller jusqu’à six mois.

• I was sentenced as a terrorist. Now my barrister is on trial for defending me (opendemocracy.net)
  

  My lawyer faces jail over a speech to jurors – a first in English history – as state seeks to silence Palestine solidarity

• UN human rights chief says Israel must end occupation and house demolitions in Lebanon (apnews.com)
• Génocide à Gaza : Donald Trump annonce un accord sur le retrait des forces d’occupation israéliennes et le désarmement du Hamas (humanite.fr)
• “Les colons savent que c’est maintenant ou jamais” : comment une semaine de violences fait redouter un embrasement en Cisjordanie (franceinfo.fr)
• 50 organisations juives du monde entier soutiennent Francesca Albanese (ujfp.org)
  

  Mme Albanese est la cible d’attaques incessantes de la part d’organisations motivées politiquement, telles que UN Watch, qui mènent des campagnes de diffamation virulentes pour la réduire au silence et saper son mandat en matière de droits humains. Ces organisations n’ont qu’un seul objectif : protéger le gouvernement israélien de toute critique internationale et de toute responsabilité juridique. Malheureusement, des représentants de certains gouvernements occidentaux ont apporté un soutien indéfectible à ces campagnes de diffamation, accusant Mme Albanese d’antisémitisme. Nous rejetons ces accusations, qui sont infondées et incitent de manière irresponsable à des attaques contre Mme Albanese, mettant potentiellement sa sécurité personnelle en danger.

• Karim Khan, procureur général de la CPI, démis de ses fonctions après des accusations d’agression sexuelle (lemonde.fr)
  

  Le Britannique était visé par une procédure disciplinaire pour faute grave, liée à des accusations d’une collaboratrice. Cette décision survient au moment où la juridiction fait face à une pression croissante des Etats-Unis et d’Israël contre ses enquêtes sur les crimes commis dans les territoires palestiniens.

Spécial femmes dans le monde

• Et si le plus grand angle mort de la médecine moderne était la santé des femmes ? (slate.fr)
  

  La périménopause, […] est par exemple peu documentée. Elle n’a fait son entrée dans le Larousse que cette année. La ménopause a, elle aussi, longtemps été traitée avec un mépris manifeste. Dans les années 1960, un médecin réputé de l’époque, Roger Wilson, allait jusqu’à qualifier de « vaches écervelées » les femmes ménopausées.

• En voiture, les ceintures de sécurité ne sont pas adaptées aux femmes enceintes et ce… depuis 50 ans. (huffingtonpost.fr)
• Sonita Muluh, une haltérophile belge, rate le titre mondial après un sabotage raciste revendiqué (huffingtonpost.fr)
  

  Le pareur lituanien à l’origine du sabotage a été suspendu de ses fonctions à vie, après qu’il a revendiqué son acte raciste et proféré de nouvelles insultes.

• Jared Leto accusé de violences sexuelles par plusieurs femmes dans un documentaire de la BBC (huffingtonpost.fr)
  

  L’acteur américain se voit reprocher des « comportements sexuels délictueux » par quatre femmes. D’autres témoignages font état de comportements inappropriés vis-à-vis d’adolescentes.

RIP

• Jeanne Gibson, Who Represented ‘Rosie the Riveter,’ Dies at 100 (today.com)

Spécial France

• Nouvelle cyberattaque contre l’Éducation nationale : les données d’un grand nombre d’agents potentiellement dans la nature (clubic.com)
• « Nous sommes tous touchés » : la facturation électronique imposée dès le 1er septembre inquiète (basta.media)
  

  Comment choisir une plateforme parmi 140 payantes ? La réforme de la facturation électronique concerne plus de dix millions d’entreprises, mais les craintes sont fortes chez beaucoup de petites structures paysannes ou artisanes, comme pour les auto-entreprises.

• La Société Générale affiche un bénéfice record six mois après un plan de suppression de postes massif (humanite.fr)
  

  La Société Générale affiche, jeudi 30 juillet, un bénéfice net de 1,79 milliard d’euros pour son deuxième trimestre, du jamais-vu. La banque signe également un bénéfice record à l’échelle du semestre, à près de 3,5 milliards d’euros. En janvier dernier, le groupe annonçant la suppression de 1 800 postes en France.

• Amendes de 8,6 millions d’euros : le Conseil constitutionnel donne raison à l’île d’Oléron dans son contentieux avec Airbnb (humanite.fr)
  

  Le Conseil constitutionnel a estimé, vendredi 31 juillet, que le code des collectivités qui a valu des amendes à Airbnb, pour un total de 8,6 millions d’euros, est conforme à la Constitution.

• « La nouvelle canicule va encore accentuer la sécheresse déjà historique » : 80 % de la France connaît des restrictions d’eau (vert.eco)
• En pleine canicule, une pollution au fioul a causé la fermeture des sites de baignade de bras Marie et de Bercy, dans les 4e et 12e arrondissements de Paris. (huffingtonpost.fr)
• Canicule à Paris : sans abri le jour, sans place la nuit, des familles campent devant le Samusocial (reporterre.net)
  

  Devant le bâtiment du Samusocial, dans le 13e arrondissement de Paris, quelque 200 personnes, dont plus de 100 enfants, occupent le parvis.

• « Que du macadam, pas d’arbres » : l’été infernal des gens du voyage près de Lille (reporterre.net)
  

  Pour trouver l’aire d’accueil des gens du voyage d’Hellemmes-Ronchin, en périphérie de Lille, il ne faut pas suivre les panneaux routiers — inexistants — mais plutôt les camions toupie en route vers l’usine à béton. Là, coincée entre une concasserie de gravats et un grand champ de blé, se dresse un parking poussiéreux, sans un seul point ombragé.

• L’incendie de Fontainebleau a pu reprendre alors qu’il était « fixé » (huffingtonpost.fr)
  

  Bilan de cette résurgence des flammes : « 6 hectares brûlés »

  Voir aussi Incendies à Fontainebleau : sous terre, la forêt brûle toujours (reporterre.net)

• Incendie en Gironde : des obus de la Seconde Guerre mondiale ont explosé (reporterre.net)
  

  Enterrés dans un champ calciné, à quelques mètres des habitations [du Porge], ils ont explosé sous l’effet de la chaleur au deuxième soir de l’incendie, dans la nuit du 23 au 24 juillet. L’un d’eux a même perforé le mur d’une maison évacuée.[…] Depuis, 75 obus ont été retrouvés, venus d’un dépôt de munitions oublié datant de la Seconde Guerre mondiale, selon la municipalité.

• “Le Porge a été sacrifié” : un collectif d’habitant·es de cette commune de Gironde se constitue en vue d’une action judiciaire, après l’incendie qui a ravagé leurs maisons (franceinfo.fr)
  

  Ces habitant·es soutiennent que la commune a été abandonnée face au feu, avec un résultat catastrophique puisque près de 200 maisons ont été détruites.

  Voir aussi “On n’y voit rien, c’est l’apocalypse” : on vous raconte les 48 heures qui ont ravagé la commune du Porge, anéantie par l’incendie en Gironde (franceinfo.fr)

• Le “Robinson” du Cap-Ferret et les ostréiculteurs organisent la résistance face aux incendies : entre pare-feu controversé et sauvetage des huîtres en Gironde (france3-regions.franceinfo.fr)
  

  Au Cap-Ferret, menacé par les violents incendies en Gironde, l’homme d’affaires Benoît Bartherotte et des ostréiculteurs ont refusé d’évacuer pour protéger la presqu’île. Pendant que le premier érige un pare-feu controversé, les seconds se battent pour sauver leurs huîtres et leur outil de travail.

• En Gironde, des bénévoles au secours des animaux (reporterre.net)
• « Pas de fusil sur les cendres » : une pétition pour interdire la chasse dans les forêts brûlées dépasse les 340 000 signatures (leparisien.fr)
• Les feux de forêt menacent‑ils les installations gazières ? (theconversation.com)
• Fumées, cendres et sidération : Bordeaux suffoque sous l’incendie de Gironde (reporterre.net)
• Toux, crises d’asthme, irritations de la peau : quel sont les risques des fumées des incendies ? (reporterre.net)
• Incendies en Gironde : la logistique au cœur de l’évacuation massive d’une population (theconversation.com)
• Les Landes en flammes : la monoculture de pins transforme la forêt en boîte d’allumettes et aggrave les incendies (lareleveetlapeste.fr)
• Pâturer contre les incendies ? La filière pastorale doit se structurer pour réinvestir les friches agricoles (madeinperpignan.com)
• Le Var replonge dans « l’enfer » des flammes avec un nouveau feu important, renforcé par le mistral (huffingtonpost.fr)
  

  La préfecture a annoncé l’évacuation de près de 2 500 personnes de plusieurs communes du département ce vendredi.

• Pourquoi les incendies ne sont pas considérés comme catastrophe naturelle malgré les milliers d’hectares brûlés (huffingtonpost.fr)
  

  Aux yeux des assureurs, un feu de forêt ne coche pas les cases de la garantie Cat-Nat, le régime d’indemnisation des dommages majeurs causés par un événement naturel.

RIP

• La mort de Kavinsky est un choc pour la scène musicale électro (et bien au-delà) (huffingtonpost.fr)
  

  Connu pour ses tubes Nightcall, Roadgame, Testarossa Autodrive ou Rampage, Kavinsky a marqué toute une génération d’artistes, notamment ceux de la French Touch avec qui il collaborait régulièrement. L’annonce de sa disparition soudaine, trois jours avant son 51e anniversaire, a donc été vécue comme un choc dans le monde de la musique électro, mais pas uniquement.

• On l’oublie parfois, mais Kavinsky s’était aussi offert un passage inoubliable au cinéma (huffingtonpost.fr)
  

  C’était il y a maintenant 20 ans dans « Steak », une comédie loufoque avec Éric et Ramzy signée Quentin Dupieux, l’un de ses meilleurs amis.

Spécial femmes en France

• Délais « incroyables », discriminations persistantes : le bilan très mitigé de la PMA pour toutes (basta.media)
  

  L’ouverture de l’assistance médicale à la procréation pour les couples de femmes et les femmes seules fête ses cinq ans. Entre les délais d’attente, les inégalités d’accès et les discriminations persistantes, associations et professionnels de santé dressent un bilan très critique.

• « Grosse salope » : le président de la FDSEA de l’Oise insulte Marine Tondelier (courrier-picard.fr)
  

  Sur sa page Facebook privée, le président du syndicat agricole de l’Oise Régis Desrumaux a violemment attaqué Marine Tondelier, secrétaire nationale d’Europe Ecologie les Verts, suite au vote de la loi d’urgence agricole.

  Voir aussi « Force à toutes les ‘’grosses salopes’’ et à toutes les ‘’sales connes’’ » : Marine Tondelier riposte après l’insulte sexiste d’un membre de la FNSEA (humanite.fr)

  Marine Tondelier exige « des excuses publiques » de la part d’un responsable de la FDSEA de l’Oise qui a fini par s’exécuter après l’avoir insulté de « grosse salope » sur Facebook. Si la patronne des Écologistes a reçu le soutien unanime des élus de gauche, cet événement met de nouveau en lumière le sexisme en politique.

• « Ferme ta chatte », « sale pute », « chienne » : la révolte de deux collégiennes contre le masculinisme en classe (streetpress.com)
• Patrick Bruel visé par deux nouvelles plaintes, on vous récapitule les affaires le concernant (huffingtonpost.fr)
  

  Le chanteur de 67 ans est visé par deux nouvelles plaintes, l’une pour viol, l’autre pour agression sexuelle. Les faits dénoncés remontent à 1994 et 2005.

• Business du trauma : enquête sur les dérives des « coachs » pour femmes victimes de violences conjugales (medfeminiswiya.net)
  

  Derrière les promesses de « sororité » et de « reconstruction », se cachent parfois des structures qui s’apparentent à des organisations pyramidales. Dans le sud-ouest de la France ou en région parisienne, des réseaux de coaching attirent les victimes de violences conjugales via des stratégies dignes des plus agressives écoles de commerce.

Spécial médias et pouvoir

• Xenia Fedorova bientôt expulsée par la France ? Canal+ dénonce une atteinte à la liberté d’expression (huffingtonpost.fr)
  

  La journaliste russe, accusée d’être en France une « propagandiste » du Kremlin, est visée par un arrêté d’expulsion.

• Le journaliste Jean Quatremer quitte « Libération » et rejoint « Marianne » (lemonde.fr) – voir aussi « Je reprends ma liberté, car elle est mon bien le plus précieux » : Jean Quatremer quitte « Libération » (lepoint.fr)
  

  « L’islamo-gauchisme et le wokisme ont gagné » […] « Je défends l’idée qu’Israël est une démocratie. Je constate que les preuves d’un génocide à Gaza restent introuvables. Je pense qu’on peut parler sans détour d’un antisémitisme musulman. »

  

• CNews sanctionné à hauteur de 200 000 euros après des séquences sur le voile et l’immigration (huffingtonpost.fr)
  

  Les deux séquences remontent à 2025. Les propos d’Erik Tegnér, fondateur du média identitaire « Frontières », sont notamment pointés du doigt.

• Challenges racheté par LVMH : le Conseil d’État déboute RSF et des syndicats de journalistes (mesinfos.fr)
• Agacés par le comportement de journalistes couvrant les incendies en Gironde, les pompiers les mettent en garde (huffingtonpost.fr)
  

  Les pompiers ont rappelé le danger et la perte de temps engendrés par l’absence de respect des consignes de sécurité.

Spécial emmerdeurs irresponsables gérant comme des pieds (et à la néolibérale)

• La France sous les flammes : la faillite criminelle du néolibéralisme (reporterre.net)
• Pendant que la France brûle la réforme des pompiers attend toujours (lareleveetlapeste.fr)
• Des crédits destinés à l’achat de deux canadairs ont bien été annulés sous le gouvernement Attal (defacto-observatoire.fr) – voir aussi Méga-feux en Gironde : Derrière Thomas Cazenave, la responsabilité accablante des artisans de l’austérité (revolutionpermanente.fr)
• Mégafeux : les start-up dopées à l’IA à l’assaut des incendies (france24.com)
• « On a signé pour aller au charbon, pas à l’échafaud » : les pompiers asphyxiés par les fumées des incendies (reporterre.net)
  

  « La seule solution qu’on nous offre, ce sont des masques FFP2, en quantité limitée, et qui ne sont pas résistants au feu » […] Pourtant, il existe bien de nouvelles cagoules, filtrantes celles-ci, qui ont été intégrées depuis 2019 dans le référentiel technique de la Direction générale de la sécurité civile

• « Emmanuel Macron a entubé tout le monde » : le paléoclimatologue et ancien président du GIEC Jean Jouzel dresse un cinglant bilan écologique du président. (sudouest.fr)
• Loi d’urgence agricole : pourquoi la droite et le centre ne lâchent rien sur les néonicotinoïdes et le stockage de l’eau (theconversation.com)
  

  Pour nombre d’observateurs, [la FNSEA] a perdu une partie de sa capacité d’influence politique. Mais c’est justement dans ce contexte qu’il devient essentiel pour le syndicat de l’agro-industrie de renforcer ses appuis politiques, en particulier issus de la droite traditionnelle, son alliée historique.

• Avec la loi d’urgence agricole, la France contrevient au droit international sur les zones humides (theconversation.com)
  

  La promulgation de cette loi est désormais suspendue, depuis le 24 juillet 2026, à la saisine du Conseil constitutionnel entreprise par plusieurs député·es « insoumis » et écologistes.

• Pourquoi Total ne paie pas d’impôt sur les sociétés en France (open.substack.com)

Spécial recul des droits et libertés, violences policières, montée de l’extrême-droite…

• L’instrumentalisation de la situation à Ceuta vire à la caricature, de l’extrême droite à la macronie (huffingtonpost.fr)
  

  Ces derniers jours, environ 40 000 migrants ont traversé la frontière entre le Maroc et l’enclave espagnole de Ceuta.Ils n’auraient pas pu réagir plus vite. Pour servir leur discours, de nombreux dirigeants politiques français, à droite, à l’extrême droite, mais également chez les macronistes, sautent sur les vidéos en provenance de Ceuta

• Némésis se prend (encore) les pieds dans les statistiques de l’insécurité (lessurligneurs.eu)
• « C’est un carnage » : ces nouveaux maires d’extrême droite s’acharnent contre des projets écolos (reporterre.net)
  

  Jardins, écoquartiers, ferme municipale… Une fois élus, les maires d’extrême droite ne s’attaquent pas qu’à la culture et aux syndicats. Ils sabotent aussi des projets écologiques.

• Mulhouse : un homme condamné à trois mois de prison avec sursis pour un salut nazi (ici.fr)
  

  Un homme de 28 ans a été condamné à trois mois de prison avec sursis pour avoir fait ce geste en marge de la manifestation du 8 mars pour le droit des femmes. Il était jugé pour apologie de crime ou de délit. […] cet homme avait été candidat aux élections municipales à Mulhouse sur la liste du parti d’extrême-droite Reconquête

• Aymeric Lompret dénonce les « violences » de CRS à une fête en marge du festival « Chalon dans la rue » (huffingtonpost.fr)
  

  « Le dernier jour du festival, une fête tolérée a été organisée par le collectif [La Méandre] dans leurs locaux. On y était nombreux.ses et c’était super. Jusqu’à ce que la police puis 15 camions de CRS nous rejoignent et là c’était carrément moins festif »

Spécial résistances

• Face aux risques d’incendie, trois associations s’opposent à un projet de data center (next.ink)
  

  les associations Data for Good, Humanité et Nature et France Nature Environnement Bouches-du-Rhône déposent des recours contre l’autorisation environnementale accordée par la préfecture au projet de centres de données de Pennes-Mirabeau.

• « Se compter pour peser » : l’opération citoyenne lancée par l’Affaire du siècle franchit la barre des 100 000 sinistrés climatiques (vert.eco)
  

  Deux semaines après son lancement, la plateforme de recensement de victimes directes du changement climatique rassemble 105 000 personnes et plus de 30 000 témoignages. Son objectif : que « l’État regarde leurs réalités et agisse ».

• « Cette décision constitue un désaveu cinglant pour l’État » : Bassines, non merci salue le jugement qui ordonne la destruction de quatre bassines (lanouvellerepublique.fr)
  

  Le tribunal administratif de Poitiers a ordonné le démantèlement de quatre réserves d’eau illégales à la lisière des Deux-Sèvres et de la Charente-Maritime. Une décision qualifiée d’historique par BNM.

• « C’est écrit noir sur blanc » : À Jouy, les tilleuls de la gare sauvés, la victoire au bout du combat citoyen (le28.tv)
  

  Après une semaine de blocage, de nuits passées dans la canopée et de vives tensions, la mobilisation a payé. Ce mercredi 22 juillet, le maire de Jouy a officiellement signé un arrêté municipal garantissant la conservation et la protection des six tilleuls centenaires. Au pied des arbres, l’heure est à la fête et au bilan d’une lutte exemplaire.

• « Savourons cette victoire » : la serre géante Tropicalia ne verra pas le jour dans le Pas-de-Calais (reporterre.net)

Spécial outils de résistance

• Palantir Watch / They watch everyone. We watch them. (palantirwatch.org)
• How to disable or avoid intrusive AI (NotoAI.org)
• Manuel pour démasquer un·e flic infiltré·e (notrace.how)

Spécial MAGAM et cie

• Amazon contre la bibliodiversité (lagedefaire-lejournal.fr)
  

  Le géant Amazon profite de sa position dominante pour peser de tout son poids sur chaque maillon de la chaîne du livre. Ou comment la vente en ligne peut mettre en péril la « bibliodiversité ».

• Amazon s’est installé en catimini… Les habitants l’ont appris après le début des travaux (reporterre.net)
• Fini WhatsApp : la France choisit sa propre messagerie et veut convertir l’Europe (01net.com)
  

  Alors que Tchap est devenue la messagerie sécurisée de référence de l’État, la France cherche désormais à étendre sa stratégie de souveraineté numérique à l’échelle européenne en promouvant le protocole Matrix auprès d’autres pays.

• Infomaniak annonce son projet de cotation en bourse suisse (news.infomaniak.com)

Les autres lectures de la semaine

• Justice, médias, sciences sociales… Qui décide de l’existence d’un “racisme anti-Blanc” ? (histoirescrepues.fr)
  

  Alors que la justice a retenu la circonstance aggravante de racisme dans le meurtre de Thomas à Crépol, le racisme anti-Blanc s’invite à nouveau dans le débat public.

• Écologie et féminisme : même combat pour le vivant (lesnouvellesnews.fr)
  

  Au milieu des flammes, les écologistes sont mis en accusation. Stratégie de déni qui rappelle l’antiféminisme. Écologie et féminisme contestent l’actuel modèle économique : il valorise la destruction du vivant bien plus que sa préservation

• Défoncer la finance néolibérale : innover sans les « marchés », ou l’IA autrement (blog.mondediplo.net)
• Ce que les manifestations des « cafards » en Inde révèlent sur l’autoritarisme numérique (ledevoir.com)
  

  la police de Delhi a déployé autour du site de protestation une infrastructure de surveillance […] Tours de surveillance, reconnaissance faciale assistée par l’IA, caméras à 360 degrés, caméras-piétons, unités mobiles et même lunettes intelligentes Meta ont créé un environnement dans lequel presque chaque déplacement des manifestants pouvait être enregistré, analysé et archivé.

• Argentine : 50 ans après le coup d’État militaire, quel héritage de la dictature ? (contretemps.eu)
  

  En Argentine, la dictature n’a pas seulement imposé la terreur et le néolibéralisme : elle a également laissé une empreinte durable sur la façon dont le camp populaire pense la démocratie

• An interactive introduction to the terrific experience of rendering Arabic typography and its technical debt (lr0.org)
• An Uncomplicated Man (lrb.co.uk)
  

  Unlike some of Nolan’s other films, The Odyssey is not boring, thanks to the source material, which is impossible to mess up entirely. It’s a family-friendly audiovisual spectacle, like an elaborate Fourth of July fireworks display – and with about the same level of narrative and emotional depth.

• Not just Neanderthals : Ghost lineage in Africa left its mark on our DNA (arstechnica.com) Some group with no modern descendants contributed a lot to our genomes.

Les BDs/graphiques/photos de la semaine

• Tout va bien
• Expert
• Soutien
• Fidélité
• Prédire
• Urgence
• Renforts
• Canadair
• RN
• Votes
• Mesure
• Extrême
• Plainte
• Pluralisme
• Gloubi
• Exist

Les vidéos/podcasts de la semaine

• Les incendies sont politiques (tube.fdn.fr)
• Tous les six mois, cet îlot passe de la France à l’Espagne… et inversement (france24.com)
  

  Depuis plus d’un siècle, la France et l’Espagne se partagent l’administration de l’île des Faisans, un petit bout de terre posé au milieu de la Bidassoa. Du 1er août au 31 janvier, le plus petit condominium au monde est français, et le reste du temps, il est espagnol

• Soudan, la guerre oubliée : massacres, géopolitique, famine (video.davduf.net)
• Herculine-Abel Barbin ou les souffrances d’un·e intersexe (radiofrance.fr)
• Le vélo est-il un “sport de blancs” ? (humanite.fr)

Les trucs chouettes de la semaine

• La Ville de Blois résiste à l’obsolescence programmée dans les écoles (blois.fr)
  

  Face à l’annonce irresponsable de Microsoft de ne plus mettre à jour son système d’exploitation Windows 10, qui va rendre obsolète plus de 400 millions d’ordinateurs dans le monde, la Ville a décidé de convertir progressivement les ordinateurs qu’elle fournit aux écoles sous Linux, le système d’exploitation libre et gratuit. Une expérimentation est ainsi menée dans trois écoles élémentaires. Une opportunité éducative mais aussi environnementale qui prolongera la durée de vie des ordinateurs.

• Wiki-news : six recommandations pour une société des communs ; Wikimania à Paris (zdnet.fr)
• « Elle lance une communauté de vélo 100 % féminine à Dijon : “on a le même niveau, on peut rouler ensemble” (france3-regions.franceinfo.fr)
• Précieux allié contre les incendies, le castor est de retour dans les rivières françaises (reporterre.net)
  

  « Le castor est un véritable ingénieur de son écosystème. S’il constate que le niveau du cours d’eau baisse, notamment lors des sécheresses, il construit des barrages, qui retiennent l’eau. Il participe aussi à la stabilisation des berges en faisant tomber les grands arbres tout en conservant leurs systèmes racinaires »

• Étonnée par les cheveux des statues romaines, une coiffeuse résout un vieux mystère archéologique (slate.fr)
  

  La coiffeuse Janet Stephens a corrigé une erreur de longue date dans l’interprétation des sculptures romaines. Pour faire tenir les cheveux, il fallait en fait une aiguille et du fil.

Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.

Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).

Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 04 septembre 2025 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.

Tout l’été, profitez de republications de « Dans Les Algorithmes » ! Rendez-vous tous les dimanches de juillet et d’août pour réfléchir, ensemble, sur les enjeux de l’Intelligence Artificielle.

Hubert Guillaud

Emily Bender et Alex Hanna publient The AI con, « L’escroquerie de l’IA ». Une synthèse très documentée qui nous invite à lutter contre le monde que nous proposent les géants de l’IA. Lecture.

La couverture du livre d’Emily Bender et Alex Hanna.

L’arnaque de l’IA est le titre d’un essai que signent la linguiste Emily Bender et la sociologue Alex Hanna : The AI con : how to fight big tech’s hype and create the future we want (HarperCollins, 2025, non traduit). Emily Bender est professeure de linguistique à l’université de Washington. Elle fait partie des 100 personnalités de l’IA distinguées par le Time en 2023. Elle est surtout connue pour être l’une des co-auteure avec Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell du fameux article sur les Perroquets stochastiques, critique du développement des grands modèles de langage (voir l’interview du Monde avec Emily Bender). Alex Hanna, elle, est sociologue. Elle est la directrice de la recherche de DAIR, Distributed AI Research Institut. Les deux chercheuses publient également une newsletter commune et un podcast éponyme, « Mystery AI Hype Theater 3000 », où elles discutent avec nombre de chercheurs du domaine.

AI con pourrait paraître comme un brûlot technocritique, mais il est plutôt une synthèse très documentée de ce qu’est l’IA et de ce qu’elle n’est pas. L’IA est une escroquerie, expliquent les autrices, un moyen que certains acteurs ont trouvé “pour faire les poches de tous les autres”. « Quelques acteurs majeurs bien placés se sont positionnés pour accumuler des richesses importantes en extrayant de la valeur du travail créatif, des données personnelles ou du travail d’autres personnes et en remplaçant des services de qualité par des fac-similés ». Pour elles, l’IA tient bien plus d’une pseudo-technologie qu’autre chose.

L’escroquerie tient surtout dans le discours que ces acteurs tiennent, le battage médiatique, la hype qu’ils entretiennent, les propos qu’ils disséminent pour entretenir la frénésie autour de leurs outils et services. Le cadrage que les promoteurs de l’IA proposent leur permet de faire croire en leur puissance tout en invisibilisant ce que l’IA fait vraiment : « menacer les carrières stables et les remplacer par du travail à la tâche, réduire le personnel, déprécier les services sociaux et dégrader la créativité humaine ».

L’IA n’est rien d’autre que du marketing

Bender et Hanna nous le rappellent avec force. « L’intelligence artificielle est un terme marketing ». L’IA ne se réfère pas à un ensemble cohérent de technologies. « L’IA permet de faire croire à ceux à qui on la vend que la technologie que l’on vend est similaire à l’humain, qu’elle serait capable de faire ce qui en fait, nécessite intrinsèquement le jugement, la perception ou la créativité humaine ». Les calculatrices sont bien meilleures que les humains pour l’arithmétique, on ne les vend pas pour autant comme de l’IA.

L’IA sert à automatiser les décisions, à classifier, à recommander, à traduire et transcrire et à générer des textes ou des images. Toutes ces différentes fonctions assemblées sous le terme d’IA créent l’illusion d’une technologie intelligente, magique, qui permet de produire de l’acceptation autour de l’automatisation quelles que soient ses conséquences, par exemple dans le domaine de l’aide sociale. Le battage médiatique, la hype, est également un élément important, car c’est elle qui conduit l’investissement dans ces technologies, qui explique l’engouement pour cet ensemble de méthodes statistiques appelé à changer le monde. « La fonction commerciale de la hype technologique est de booster la vente de produits ». Altman et ses confrères ne sont que des publicitaires qui connectent leurs objectifs commerciaux avec les imaginaires machiniques. Et la hype de l’IA nous promet une vie facile où les machines prendront notre place, feront le travail difficile et répétitif à notre place. 

En 1956, quand John McCarthy et Marvin Minsky organisent un atelier au Dartmouth College pour discuter de méthodes pour créer des machines pensantes, le terme d’IA s’impose, notamment pour exclure Norbert Wiener, le pionnier, qui parle lui de cybernétique, estiment les chercheuses. Le terme d’intelligence artificielle va servir pour désigner des outils pour le guidage de systèmes militaires, afin d’attirer des investissements dans le contexte de la guerre froide. Dès le début, la « discipline » repose donc sur de grandes prétentions sans grande caution scientifique, de mauvaises pratiques de citation scientifiques et des objectifs fluctuants pour justifier les projets et attirer les investissements, expliquent Bender et Hanna. Des pratiques qui ont toujours cours aujourd’hui. Dès le début, les promoteurs de l’IA vont soutenir que les ordinateurs peuvent égaler les capacités humaines, notamment en estimant que les capacités humaines ne sont pas si complexes.

Des outils de manipulation… sans entraves

L’une des premières grande réalisation du domaine est le chatbot Eliza de Joseph Weizenbaum, nommée ainsi en référence à Eliza Doolittle, l’héroïne de Pygmalion, la pièce de George Bernard Shaw. Eliza Doolittle est la petite fleuriste prolétaire qui apprend à imiter le discours de la classe supérieure. Derrière ce nom très symbolique, le chatbot est conçu comme un psychothérapeute capable de soutenir une conversation avec son interlocuteur en lui renvoyant sans cesse des questions depuis les termes que son interlocuteur emploie. Weizenbaum était convaincu qu’en montrant le fonctionnement très basique et très trompeur d’Eliza, il permettrait aux utilisateurs de comprendre qu’on ne pouvait pas compatir à ses réponses. C’est l’inverse qui se produisit pourtant. Tout mécanique qu’était Eliza, Weizenbaum a été surpris de l’empathie générée par son tour de passe-passe, comme l’expliquait Ben Tarnoff. Eliza n’en sonne pas moins l’entrée dans l’âge de l’IA. Son créateur, lui, passera le reste de sa vie à être très critique de l’IA, d’abord en s’inquiétant de ses effets sur les gens. Eliza montrait que le principe d’imitation de l’humain se révélait particulièrement délétère, notamment en trompant émotionnellement ses interlocuteurs, ceux-ci interprétant les réponses comme s’ils étaient écoutés par cette machine. Dès l’origine, donc, rappellent Bender et Hanna, l’IA est une discipline de manipulation sans entrave biberonnée aux investissements publics et à la spéculation privée.

Bien sûr, il y a des applications de l’IA bien testées et utiles, conviennent-elles. Les correcteurs orthographiques par exemple ou les systèmes d’aide à la détection d’anomalies d’images médicales. Mais, en quelques années, l’IA est devenue la solution à toutes les activités humaines. Pourtant, toutes, mêmes les plus accomplies, comme les correcteurs orthographiques ou les systèmes d’images médicales ont des défaillances. Et leurs défaillances sont encore plus vives quand les outils sont imbriqués à d’autres et quand leurs applications vont au-delà des limites de leurs champs d’application pour lesquels elles fonctionnent bien. Dans leur livre, Bender et Hanna multiplient les exemples de défaillances, comme celles que nous évoquons en continu ici, Dans les algorithmes.

Ces défaillances dont la presse et la recherche se font souvent les échos ont des points communs. Toutes reposent sur des gens qui nous survendent les systèmes d’automatisation comme les très versatiles « machines à extruder du texte » – c’est ainsi que Bender et Hanna parlent des chatbots, les comparant implicitement à des imprimantes 3D censées imprimer, plus ou moins fidèlement, du texte depuis tous les textes, censées extruder du sens ou plutôt nous le faire croire, comme Eliza nous faisait croire en sa conscience, alors qu’elle ne faisait que berner ses utilisateurs. C’est bien plus nous que ces outils qui sommes capables de mettre du sens là où il n’y en a pas. Comme si ces outils n’étaient finalement que des moteurs à produire des paréidolies, des apophénies, c’est-à-dire du sens, des causalités, là où il n’y en a aucune. « L’IA n’est pas consciente : elle ne va pas rendre votre travail plus facile et les médecins IA ne soigneront aucun de vos maux ». Mais proclamer que l’IA est ou sera consciente produit surtout des effets sur le corps social, comme Eliza produit des effets sur ses utilisateurs. Malgré ce que promet la hype, l’IA risque bien plus de rendre votre travail plus difficile et de réduire la qualité des soins. « La hype n’arrive pas par accident. Elle remplit une fonction : nous effrayer et promettre aux décideurs et aux entrepreneurs de continuer à se remplir les poches ».

Déconstruire l’emballement

Dans leur livre, Bender et Hanna déconstruisent l’emballement. En rappelant d’abord que ces machines ne sont ni conscientes ni intelligentes. L’IA n’est que le résultat d’un traitement statistique à très grande échelle, comme l’expliquait Kate Crawford dans son Contre-Atlas de l’intelligence artificielle. Pourtant, dès les années 50, Minsky promettait déjà la simulation de la conscience. Mais cette promesse, cette fiction, ne sert que ceux qui ont quelque chose à vendre. Cette fiction de la conscience ne sert qu’à dévaluer la nôtre. Les « réseaux neuronaux » sont un terme fallacieux, qui vient du fait que ces premières machines s’inspiraient de ce qu’on croyait savoir du fonctionnement des neurones du cerveau humain dans les années 40. Or, ces systèmes ne font que prédire statistiquement le mot suivant dans leurs données de références. ChatGPT n’est rien d’autre qu’une « saisie automatique améliorée ». Or, comme le rappelle l’effet Eliza, quand nous sommes confrontés à du texte ou à des signes, nous l’interprétons automatiquement. Les bébés n’apprennent pas le langage par une exposition passive et isolée, rappelle la linguiste. Nous apprenons le langage par l’attention partagée avec autrui, par l’intersubjectivité. C’est seulement après avoir appris un langage en face à face que nous pouvons l’utiliser pour comprendre les autres artefacts linguistiques, comme l’écriture. Mais nous continuons d’appliquer la même technique de compréhension : « nous imaginons l’esprit derrière le texte ». Les LLM n’ont ni subjectivité ni intersubjectivité. Le fait qu’ils soient modélisés pour produire et distribuer des mots dans du texte ne signifie pas qu’ils aient accès au sens ou à une quelconque intention. Ils ne produisent que du texte synthétique plausible. ChatGPT n’est qu’une machine à extruder du texte, « comme un processus industriel extrude du plastique ». Leur fonction est une fonction de production… voire de surproduction.

Les promoteurs de l’IA ne cessent de répéter que leurs machines approchent de la conscience ou que les êtres humains, eux aussi, ne seraient que des perroquets stochastiques. Nous ne serions que des versions organiques des machines et nous devrions échanger avec elles comme si elles étaient des compagnons ou des amis. Dans cet argumentaire, les humains sont réduits à des machines. Weizenbaum estimait pourtant que les machines resserrent plutôt qu’élargissent notre humanité en nous conduisant à croire que nous serions comme elles. « En confiant tant de décisions aux ordinateurs, pensait-il, nous avions créé un monde plus inégal et moins rationnel, dans lequel la richesse de la raison humaine avait été réduite à des routines insensées de code », rappelle Tarnoff. L’informatique réduit les gens et leur expérience à des données. Les promoteurs de l’IA passent leur temps à dévaluer ce que signifie être humain, comme l’ont montré les critiques de celles qui, parce que femmes, personnes trans ou de couleurs, ne sont pas toujours considérées comme des humains, comme celles de Joy Buolamnwini, Timnit Gebru, Sasha Costanza-Chock ou Ruha Benjamin. Cette manière de dévaluer l’humain par la machine, d’évaluer la machine selon sa capacité à résoudre les problèmes n’est pas sans rappeler les dérives de la mesure de l’intelligence et ses délires racistes. La mesure de l’intelligence a toujours été utilisée pour justifier les inégalités de classe, de genre, de race. Et le délire sur l’intelligence des machines ne fait que les renouveler. D’autant que ce mouvement vers l’IA comme industrie est instrumenté par des millionnaires tous problématiques, de Musk à Thiel en passant par Altman ou Andreessen… tous promoteurs de l’eugénisme, tous ultraconservateurs quand ce n’est pas ouvertement fascistes. Bender et Hanna égrènent à leur tour nombre d’exemples des propos problématiques des entrepreneurs et financiers de l’IA. L’IA est un projet politique porté par des gens qui n’ont rien à faire de la démocratie parce qu’elle dessert leurs intérêts et qui tentent de nous convaincre que la rationalité qu’ils portent serait celle dont nous aurions besoin, oubliant de nous rappeler que leur vision du monde est profondément orientée par leurs intérêts – je vous renvoie au livre de Thibault Prévost, Les prophètes de l’IA, qui dit de manière plus politique encore que Bender et Hanna, les dérives idéologiques des grands acteurs de la tech.

De l’automatisation à l’IA : dévaluer le travail

L’IA se déploie partout avec la même promesse, celle qu’elle va améliorer la productivité, quand elle propose d’abord « de remplacer le travail par la technologie ». « L’IA ne va pas prendre votre job. Mais elle va rendre votre travail plus merdique », expliquent les chercheuses. « L’IA est déployée pour dévaluer le travail en menaçant les travailleurs par la technologie qui est supposée faire leur travail à une fraction de son coût ».

En vérité, aucun de ces outils ne fonctionnerait s’ils ne tiraient pas profits de  contenus produits par d’autres et s’ils n’exploitaient pas une force de travail massive et sous payée à l’autre bout du monde. L’IA ne propose que de remplacer les emplois et les carrières que nous pouvons bâtir, par du travail à la tâche. L’IA ne propose que de remplacer les travailleurs de la création par des « babysitters de machines synthétiques ».

L’automatisation et la lutte contre l’automatisation par les travailleurs n’est pas nouvelle, rappellent les chercheuses. L’innovation technologique a toujours promis de rendre le travail plus facile et plus simple en augmentant la productivité. Mais ces promesses ne sont que « des fictions dont la fonction ne consiste qu’à vendre de la technologie. L’automatisation a toujours fait partie d’une stratégie plus vaste visant à transférer les coûts sur les travailleurs et à accumuler des richesses pour ceux qui contrôlent les machines. »

Ceux qui s’opposent à l’automatisation ne sont pas de simples Luddites qui refuseraient le progrès (ceux-ci d’ailleurs n’étaient pas opposés à la technologie et à l’innovation, comme on les présente trop souvent, mais bien plus opposés à la façon dont les propriétaires d’usines utilisaient la technologie pour les transformer, d’artisans en ouvriers, avec des salaires de misères, pour produire des produits de moins bonnes qualités et imposer des conditions de travail punitives, comme l’expliquent Brian Merchant dans son livre, Blood in the Machine ou Gavin Mueller dans Breaking things at work. L’introduction des machines dans le secteur de la confection au début du XIXe siècle au Royaume-Uni a réduit le besoin de travailleurs de 75 %. Ceux qui sont entrés dans l’industrie ont été confrontés à des conditions de travail épouvantables où les blessures étaient monnaies courantes. Les Luddites étaient bien plus opposés aux conditions de travail de contrôle et de coercition qui se mettaient en place qu’opposés au déploiement des machines), mais d’abord des gens concernés par la dégradation de leur santé, de leur travail et de leur mode de vie.

L’automatisation pourtant va surtout exploser avec le 20e siècle, notamment dans l’industrie automobile. Chez Ford, elle devient très tôt une stratégie. Si l’on se souvient de Ford pour avoir offert de bonnes conditions de rémunération à ses employés (afin qu’ils puissent s’acheter les voitures qu’ils produisaient), il faut rappeler que les conditions de travail étaient tout autant épouvantables et punitives que dans les usines de la confection du début du XIXe siècle. L’automatisation a toujours été associée à la fois au chômage et au surtravail, rappellent les chercheuses. Les machines de minage, introduites dès les années 50 dans les mines, permettaient d’employer 3 fois moins de personnes et étaient particulièrement meurtrières. Aujourd’hui, la surveillance qu’Amazon produit dans ses entrepôts vise à contrôler la vitesse d’exécution et cause elle aussi blessures et stress. L’IA n’est que la poursuite de cette longue tradition de l’industrie à chercher des moyens pour remplacer le travail par des machines, renforcer les contraintes et dégrader les conditions de travail au nom de la productivité.

D’ailleurs, rappellent les chercheuses, quatre mois après la sortie de ChatGPT, les chercheurs d’OpenAI ont publié un rapport assez peu fiable sur l’impact du chatbot sur le marché du travail. Mais OpenAI, comme tous les grands automatiseurs, a vu très tôt son intérêt à promouvoir l’automatisation comme un job killer. C’est le cas également des cabinets de conseils qui vendent aux entreprises des modalités pour réaliser des économies et améliorer les profits, et qui ont également produit des rapports en ce sens. Le remplacement par la technologie est un mythe persistant qui n’a pas besoin d’être réel pour avoir des impacts.

Plus qu’un remplacement par l’IA, cette technologie propose d’abord de dégrader nos conditions de travail. Les scénaristes sont payés moins cher pour réécrire un script que pour en écrire un, tout comme les traducteurs sont payés moins cher pour traduire ce qui a été prémâché par l’IA. Pas étonnant alors que de nombreux collectifs s’opposent à leurs déploiements, à l’image des actions du collectif Safe Street Rebel de San Francisco contre les robots taxis et des attaques (récurrentes) contre les voitures autonomes. Les frustrations se nourrissent des « choses dont nous n’avons pas besoin qui remplissent nos rues, comme des contenus que nous ne voulons pas qui remplissent le web, comme des outils de travail qui s’imposent à nous alors qu’ils ne fonctionnent pas ». Les exemples sont nombreux, à l’image des travailleurs de l’association américaine de lutte contre les désordres alimentaires qui ont été remplacés, un temps, par un chatbot, deux semaines après s’être syndiqués. Un chatbot qui a dû être rapidement retiré, puisqu’il conseillait n’importe quoi à ceux qui tentaient de trouver de l’aide. « Tenter de remplacer le travail par des systèmes d’IA ne consiste pas à faire plus avec moins, mais juste moins pour plus de préjudices » – et plus de bénéfices pour leurs promoteurs. Dans la mode, les mannequins virtuels permettent de créer un semblant de diversité, alors qu’en réalité, ils réduisent les opportunités des mannequins issus de la diversité.

Babysitter les IA : l’exploitation est la norme

Dans cette perspective, le travail avec l’IA consiste de plus en plus à corriger leurs erreurs, à nettoyer, à être les babysitters de l’IA. Des babysitters de plus en plus invisibilisés. Les robotaxis autonomes de Cruise sont monitorés et contrôlés à distance. Tous les outils d’IA ont recours à un travail caché, invisible, externalisé. Et ce dès l’origine, puisqu’ImageNet, le projet fondateur de l’IA qui consistait à labelliser des images pour servir à l’entraînement des machines n’aurait pas été possible sans l’usage du service Mechanical Turk d’Amazon. 50 000 travailleurs depuis 167 pays ont été mobilisés pour créer le dataset qui a permis à l’IA de décoller. « Le modèle d’ImageNet consistant à exploiter des travailleurs à la tâche tout autour du monde est devenue une norme industrielle du secteur« . Aujourd’hui encore, le recours aux travailleurs du clic est persistant, notamment pour la correction des IA. Et les industries de l’IA profitent d’abord et avant tout l’absence de protection des travailleurs qu’ils exploitent.

Pas étonnant donc que les travailleurs tentent de répondre et de s’organiser, à l’image des scénaristes et des acteurs d’Hollywood et de leur 148 jours de grève. Mais toutes les professions ne sont pas aussi bien organisées. D’autres tentent d’autres méthodes, comme les outils des artistes visuels, Glaze et Nightshade, pour protéger leurs créations. Les travailleurs du clic eux aussi s’organisent, par exemple via l’African Content Moderators Union.

“Quand les services publics se tournent vers des solutions automatisées, c’est bien plus pour se décharger de leurs responsabilités que pour améliorer leurs réponses”

L’escroquerie de l’IA se développe également dans les services sociaux. Sous prétexte d’austérité, les solutions automatisées sont partout envisagées comme « la seule voie à suivre pour les services gouvernementaux à court d’argent ». L’accès aux services sociaux est remplacé par des « contrefaçons bon marchés » pour ceux qui ne peuvent pas se payer les services de vrais professionnels. Ce qui est surtout un moyen d’élargir les inégalités au détriment de ceux qui sont déjà marginalisés. Bien sûr, les auteurs font référence ici à des sources que nous avons déjà mobilisés, notamment Virginia Eubanks. « L’automatisation dans le domaine du social au nom de l’efficacité ne rend les autorités efficaces que pour nuire aux plus démunis » . C’est par exemple le cas de la détention préventive. En 2024, 500 000 américains sont en prison parce qu’ils ne peuvent pas payer leurs cautions. Pour remédier à cela, plusieurs États ont recours à des solutions algorithmiques pour évaluer le risque de récidive sans résoudre le problème, au contraire, puisque ces calculs ont surtout servi à accabler les plus démunis. À nouveau, « l’automatisation partout vise bien plus à abdiquer la gouvernance qu’à l’améliorer ».

“De partout, quand les services publics se tournent vers des solutions automatisées, c’est bien plus pour se décharger de leurs responsabilités que pour améliorer leurs réponses”, constatent, désabusées, Bender et Hanna. Et ce n’est pas qu’une caractéristique des autorités républicaines, se lamentent les chercheuses. Gavin Newsom, le gouverneur démocrate de la Californie démultiplie les projets d’IA générative, par exemple pour adresser le problème des populations sans domiciles afin de mieux identifier la disponibilité des refuges… « Les machines à extruder du texte pourtant, ne savent que faire cela, pas extruder des abris ». De partout d’ailleurs, toutes les autorités publiques ont des projets de développement de chatbots et des projets de systèmes d’IA pour résoudre les problèmes de société. Les autorités oublient que ce qui affecte la santé, la vie et la liberté des gens nécessite des réponses politiques, pas des artifices artificiels.

Les deux chercheuses multiplient les exemples d’outils défaillants… dans un inventaire sans fin. Pourtant, rappellent-elles, la confiance dans ces outils reposent sur la qualité de leur évaluation. Celle-ci est pourtant de plus en plus le parent pauvre de ces outils, comme le regrettaient Sayash Kapoor et Arvind Narayanan dans leur livre. En fait, l’évaluation elle-même est restée déficiente, rappellent Hanna et Bender. Les tests sont partiels, biaisés par les données d’entraînements qui sont rarement représentatives. Les outils d’évaluation de la transcription automatique par exemple reposent sur le taux de mots erronés, mais comptent tout mots comme étant équivalent, alors que certains peuvent être bien plus importants que d’autres en contexte, par exemple, l’adresse est une donnée très importante quand on appelle un service d’urgence, or, c’est là que les erreurs sont les plus fortes.

« L’IA n’est qu’un pauvre facsimilé de l’État providence »

Depuis l’arrivée de l’IA générative, l’évaluation semble même avoir déraillé (voir notre article « De la difficulté à évaluer l’IA »). Désormais, ils deviennent des concours (par exemple en tentant de les classer selon leurs réponses à des tests de QI) et des outils de classements pour eux-mêmes, comme s’en inquiétaient déjà les chercheuses dans un article de recherche. La capacité des modèles d’IA générative à performer aux évaluations tient d’un effet Hans le malin, du nom du cheval qui avait appris à décoder les signes de son maître pour faire croire qu’il était capable de compter. On fait passer des tests qu’on propose aux professionnels pour évaluer ces systèmes d’IA, alors qu’ils ne sont pas faits pour eux et qu’ils n’évaluent pas tout ce qu’on regarde au-delà des tests pour ces professions, comme la créativité, le soin aux autres. Malgré les innombrables défaillances d’outils dans le domaine de la santé (on se souvient des algorithmes défaillants de l’assureur UnitedHealth qui produisait des refus de soins deux fois plus élevés que ses concurrents ou ceux d’Epic Systems ou d’autres encore pour allouer des soins, dénoncés par l’association nationale des infirmières…), cela n’empêche pas les outils de proliférer. Amazon avec One Medical explore le triage de patients en utilisant des chatbots, Hippocratic AI lève des centaines de millions de dollars pour produire d’épouvantables chatbots spécialisés. Et ne parlons pas des chatbots utilisés comme psy et coach personnels, aussi inappropriés que l’était Eliza il y a 55 ans… Le fait de pousser l’IA dans la santé n’a pas d’autres buts que de dégrader les conditions de travail des professionnels et d’élargir le fossé entre ceux qui seront capables de payer pour obtenir des soins et les autres qui seront laissés aux « contrefaçons électroniques bon marchés ». Les chercheuses font le même constat dans le développement de l’IA dans le domaine scolaire, où, pour contrer la généralisation de l’usage des outils par les élèves, les institutions investissent dans des outils de détection défaillants qui visent à surveiller et punir les élèves plutôt que les aider, et qui punissent plus fortement les étudiants en difficultés. D’un côté, les outils promettent aux élèves d’étendre leur créativité, de l’autre, ils sont surtout utilisés pour renforcer la surveillance. « Les étudiants n’ont pourtant pas besoin de plus de technologie. Ils ont besoin de plus de professeurs, de meilleurs équipements et de plus d’équipes supports ». Confrontés à l’IA générative, le secteur a du mal à s’adapter expliquait Taylor Swaak pour le Chronicle of Higher Education (voir notre récent dossier sur le sujet). Dans ce secteur comme dans tous les autres, l’IA est surtout vue comme un moyen de réduire les coûts. C’est oublier que l’école est là pour accompagner les élèves, pour apprendre à travailler et que c’est un apprentissage qui prend du temps. L’IA est finalement bien plus le symptôme des problèmes de l’école qu’une solution. Elle n’aidera pas à mieux payer les enseignants ou à convaincre les élèves de travailler…

Dans le social, la santé ou l’éducation, le développement de l’IA est obnubilé par l’efficacité organisationnelle : tout l’enjeu est de faire plus avec moins. L’IA est la solution de remplacement bon marché. « L’IA n’est qu’un pauvre facsimilé de l’État providence ». « Elle propose à tous ce que les techs barons ne voudraient pas pour eux-mêmes ». « Les machines qui produisent du texte synthétique ne combleront pas les lacunes de la fabrique du social ».

On pourrait généraliser le constat que nous faisions avec Clearview : l’investissement dans ces outils est un levier d’investissement idéologique qui vise à créer des outils pour contourner et réduire l’État providence, modifier les modèles économiques et politiques.

L’IA, une machine à produire des dommages sociaux

« Nous habitons un écosystème d’information qui consiste à établir des relations de confiance entre des publications et leurs lecteurs. Quand les textes synthétiques se déversent dans cet écosystème, c’est une forme de pollution qui endommage les relations comme la confiance ». Or l’IA promet de faire de l’art bon marché. Ce sont des outils de démocratisation de la créativité, explique par exemple le fondateur de Stability AI, Emad Mostaque. La vérité n’est pourtant pas celle-ci. L’artiste Karla Ortiz, qui a travaillé pour Marvel ou Industrial Light and Magic, expliquait qu’elle a très tôt perdu des revenus du fait de la concurrence initiée par l’IA. Là encore, les systèmes de génération d’image sont déployés pour perturber le modèle économique existant permettant à des gens de faire carrière de leur art. Tous les domaines de la création sont en train d’être déstabilisés. Les “livres extrudés” se démultiplient pour tenter de concurrencer ceux d’auteurs existants ou tromper les acheteurs. Dire que l’IA peut faire de l’art, c’est pourtant mal comprendre que l’art porte toujours une intention que les générateurs ne peuvent apporter. L’art sous IA est asocial, explique la sociologue Jennifer Lena. Quand la pratique artistique est une activité sociale, forte de ses pratiques éthiques comme la citation scientifique. La génération d’images, elle, est surtout une génération de travail dérivé qui copie et plagie l’existant. L’argument génératif semble surtout sonner creux, tant les productions sont souvent identiques aux données depuis lesquelles les textes et images sont formés, soulignent Bender et Hanna. Le projet Galactica de Meta, soutenu par Yann Le Cun lui-même, qui promettait de synthétiser la littérature scientifique et d’en produire, a rapidement été dé-publié. « Avec les LLM, la situation est pire que le garbage in/garbage out que l’on connaît” (c’est-à-dire, le fait que si les données d’entrées sont mauvaises, les résultats de sortie le seront aussi). Les LLM produisent du « papier-mâché des données d’entraînement, les écrasant et remixant dans de nouvelles formes qui ne savent pas préserver l’intention des données originelles”. Les promesses de l’IA pour la science répètent qu’elle va pouvoir accélérer la science. C’était l’objectif du grand défi, lancé en 2016 par le chercheur de chez Sony, Hiroaki Kitano : concevoir un système d’IA pour faire des découvertes majeures dans les sciences biomédicales (le grand challenge a été renommé, en 2021, le Nobel Turing Challenge). Là encore, le défi a fait long feu. « Nous ne pouvons déléguer la science, car la science n’est pas seulement une collection de réponses. C’est d’abord un ensemble de processus et de savoirs ». Or, pour les thuriféraires de l’IA, la connaissance scientifique ne serait qu’un empilement, qu’une collection de faits empiriques qui seraient découverts uniquement via des procédés techniques à raffiner. Cette fausse compréhension de la science ne la voit jamais comme l’activité humaine et sociale qu’elle est avant tout. Comme dans l’art, les promoteurs de l’IA ne voient la science que comme des idées, jamais comme une communauté de pratique.

Cette vision de la science explique qu’elle devienne une source de solutions pour résoudre les problèmes sociaux et politiques, dominée par la science informatique, en passe de devenir l’autorité scientifique ultime, le principe organisateur de la science. La surutilisation de l’IA en science risque pourtant bien plus de rendre la science moins innovante et plus vulnérable aux erreurs, estiment les chercheuses. « La prolifération des outils d’IA en science risque d’introduire une phase de recherche scientifique où nous produisons plus, mais comprenons moins » , expliquaient dans Nature Lisa Messeri et M. J. Crockett (sans compter le risque de voir les compétences diminuer, comme le soulignait une récente étude sur la difficulté des spécialistes de l’imagerie médicale à détecter des problèmes sans assistance). L’IA propose surtout un point de vue non situé, une vue depuis nulle part, comme le dénonçait Donna Haraway : elle repose sur l’idée qu’il y aurait une connaissance objective indépendante de l’expérience. « L’IA pour la science nous fait croire que l’on peut trouver des solutions en limitant nos regards à ce qui est éclairé par la lumière des centres de données ». Or, ce qui explique le développement de l’IA scientifique n’est pas la science, mais le capital-risque et les big-tech. L’IA rend surtout les publications scientifiques moins fiables. Bien sûr, cela ne signifie pas qu’il faut rejeter en bloc l’automatisation des instruments scientifiques, mais l’usage généralisé de l’IA risque d’amener plus de risques que de bienfaits.

Mêmes constats dans le monde de la presse, où les chercheuses dénoncent la prolifération de « moulins à contenus”, où l’automatisation fait des ravages dans un secteur déjà en grande difficulté économique. L’introduction de l’IA dans les domaines des arts, de la science ou du journalisme constitue une même cible de choix qui permet aux promoteurs de l’IA de faire croire en l’intelligence de leurs services. Pourtant, leurs productions ne sont pas des preuves de la créativité de ces machines. Sans la créativité des travailleurs qui produisent l’art, la science et le journalisme qui alimentent ces machines, ces machines ne sauraient rien produire. Les contenus synthétiques sont tous basés sur le vol de données et l’exploitation du travail d’autrui. Et l’utilisation de l’IA générative produit d’abord des dommages sociaux dans ces secteurs. 

Le risque de l’IA, mais lequel et pour qui ?

Le dernier chapitre du livre revient sur les doomers et les boosters, en renvoyant dos à dos ceux qui pensent que le développement de l’IA est dangereux et les accélérationnistes qui pensent que le développement de l’IA permettra de sauver l’humanité. Pour les uns comme pour les autres, les machines sont la prochaine étape de l’évolution. Ces visions apocalyptiques ont produit un champ de recherche dédié, appelé l’AI Safety. Mais, contrairement à ce qu’il laisse entendre, ce champ disciplinaire ne vient pas de l’ingénierie de la sécurité et ne s’intéresse pas vraiment aux dommages que l’IA engendre depuis ses biais et défaillances. C’est un domaine de recherche centré sur les risques existentiels de l’IA qui dispose déjà d’innombrables centres de recherches dédiés.

Pour éviter que l’IA ne devienne immaîtrisable, beaucoup estiment qu’elle devrait être alignée avec les normes et valeurs humaines. Cette question de l’alignement est considérée comme le Graal de la sécurité pour ceux qui œuvrent au développement d’une IA superintelligente (OpenAI avait annoncé travailler en 2023 à une super-intelligence avec une équipe dédiée au « super-alignement », mais l’entreprise a dissous son équipe moins d’un an après son annonce. Ilya Sutskever, qui pilotait l’équipe, a lancé depuis Safe Superintelligence Inc). Derrière l’idée de l’alignement, repose d’abord l’idée que le développement de l’IA serait inévitable. Rien n’est moins sûr, rappellent les chercheuses. La plupart des gens sur la planète n’ont pas besoin d’IA. Et le développement d’outils d’automatisation de masse n’est pas socialement désirable. « Ces technologies servent d’abord à centraliser le pouvoir, à amasser des données, à générer du profit, plutôt qu’à fournir des technologies qui soient socialement bénéfiques à tous ». L’autre problème, c’est que l’alignement de l’IA sur les « valeurs humaines » peine à les définir. Les droits et libertés ne sont des concepts qui ne sont ni universels ni homogènes dans le temps et l’espace. La déclaration des droits de l’homme elle-même s’est longtemps accommodé de l’esclavage. Avec quelles valeurs humaines les outils d’IA s’alignent-ils quand ils sont utilisés pour armer des robots tueurs, pour la militarisation des frontières ou la traque des migrants ?, ironisent avec pertinence Bender et Hanna.

Pour les tenants du risque existentiel de l’IA, les risques existentiels dont il faudrait se prémunir sont avant tout ceux qui menacent la prospérité des riches occidentaux qui déploient l’IA, ironisent-elles encore. Enfin, rappellent les chercheuses, les scientifiques qui travaillent à pointer les risques réels et actuels de l’IA et ceux qui œuvrent à prévenir les risques existentiels ne travaillent pas à la même chose. Les premiers sont entièrement concernés par les enjeux sociaux, raciaux, dénoncent les violences et les inégalités, quand les seconds ne dénoncent que des risques hypothétiques. Les deux champs scientifiques ne se recoupent ni ne se citent entre eux.

Derrière la fausse guerre entre doomers et boomers, les uns se cachent avec les autres. Pour les uns comme pour les autres, le capitalisme est la seule solution aux maux de la société. Les uns comme les autres voient l’IA comme inévitable et désirable parce qu’elle leur promet des marchés sans entraves. Pourtant, rappellent les chercheuses, le danger n’est pas celui d’une IA qui nous exterminerait. Le danger, bien présent, est celui d’une spéculation financière sans limite, d’une dégradation de la confiance dans les médias à laquelle l’IA participe activement, la normalisation du vol de données et de leur exploitation et le renforcement de systèmes imaginés pour punir les plus démunis. Doomers et boosters devraient surtout être ignorés, s’ils n’étaient pas si riches et si influents. L’emphase sur les risques existentiels détournent les autorités des régulations qu’elles devraient produire.

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources, concluent les chercheuses. Nous devons collectivement façonner l’innovation pour qu’elle bénéficie à tous plutôt qu’elle n’enrichisse certains. Pour résister à la hype de l’IA, nous devons poser de meilleures questions sur les systèmes qui se déploient. D’où viennent les données ? Qu’est-ce qui est vraiment automatisé ? Nous devrions refuser de les anthropomorphiser : il ne peut y avoir d’infirmière ou de prof IA. Nous devrions exiger de bien meilleures évaluations des systèmes. ShotSpotter, le système vendu aux municipalités américaines pour détecter automatiquement le son des coups de feux, était annoncé avec un taux de performance de 97 % (et un taux de faux positif de 0,5 % – et c’est encore le cas dans sa FAQ). En réalité, les audits réalisés à Chicago et New York ont montré que 87 à 91 % des alertes du système étaient de fausses alertes ! Nous devons savoir qui bénéficie de ces technologies, qui en souffre. Quels recours sont disponibles et est-ce que le service de plainte est fonctionnel pour y répondre ? 

Face à l’IA, nous devons avoir aucune confiance

Pour les deux chercheuses, la résistance à l’IA passe d’abord et avant tout par luttes collectives. C’est à chacun et à tous de boycotter ces produits, de nous moquer de ceux qui les utilisent. C’est à nous de rendre l’usage des médias synthétiques pour ce qu’ils sont : inutiles et ringards. Pour les deux chercheuses, la résistance à ces déploiements est essentielle, tant les géants de l’IA sont en train de l’imposer, par exemple dans notre rapport à l’information, mais également dans tous leurs outils. C’est à nous de refuser « l’apparente commodité des réponses des chatbots ». C’est à nous d’œuvrer pour renforcer la régulation de l’IA, comme les lois qui protègent les droits des travailleurs, qui limitent la surveillance.

Emily Bender et Alex Hanna plaident pour une confiance zéro à l’encontre de ceux qui déploient des outils d’IA. Ces principes établis par l’AI Now Institute, Accountable Tech et l’Electronic Privacy Information Center, reposent sur 3 leviers : renforcer les lois existantes, établir des lignes rouges sur les usages inacceptables de l’IA et exiger des entreprises d’IA qu’elles produisent les preuves que leurs produits sont sans dangers.

Mais la régulation n’est hélas pas à l’ordre du jour. Les thuriféraires de l’IA défendent une innovation sans plus aucune entrave afin que rien n’empêche leur capacité à accumuler puissance et fortune. Pour améliorer la régulation, nous avons besoin d’une plus grande transparence, car il n’y aura pas de responsabilité sans elle, soulignent les chercheuses. Nous devons avoir également une transparence sur l’automatisation à l’œuvre, c’est-à-dire que nous devons savoir quand nous interagissons avec un système, quand un texte a été traduit automatiquement. Nous avons le droit de savoir quand nous sommes les sujets soumis aux résultats de l’automatisation. Enfin, nous devons déplacer la responsabilité sur les systèmes eux-mêmes et tout le long de la chaîne de production de l’IA. Les entreprises de l’IA doivent être responsables des données, du travail qu’elles réalisent sur celles-ci, des modèles qu’elles développent et des évaluations. Enfin, il faut améliorer les recours, le droit des données et la minimisation. En entraînant leurs modèles sur toutes les données disponibles, les entreprises de l’IA ont renforcé la nécessité d’augmenter les droits des gens sur leurs données. Enfin, elles plaident pour renforcer les protections du travail en donnant plus de contrôle aux travailleurs sur les outils qui sont déployés et renforcer le droit syndical. Nous devons œuvrer à des « technologies socialement situées », des outils spécifiques plutôt que des outils qui sauraient tout faire. Les applications devraient bien plus respecter les droits des usagers et par exemple ne pas autoriser la collecte de leurs données. Nous devrions enfin défendre un droit à ne pas être évalué par les machines. Comme le dit Ruha Benjamin, en défendant la Justice virale (Princeton University Press, 2022), nous devrions œuvrer à “un monde où la justice est irrésistible”, où rien ne devrait pouvoir se faire pour les gens sans les gens. Nous avons le pouvoir de dire non. Nous devrions refuser la reconnaissance faciale et émotionnelle, car, comme le dit Sarah Hamid du réseau de résistance aux technologies carcérales, au-delà des biais, les technologies sont racistes parce qu’on le leur demande. Nous devons les refuser, comme l’Algorithmic Justice League recommande aux voyageurs de refuser de passer les scanneurs de la reconnaissance faciale.

Bender et Hanna nous invitent à activement résister à la hype. À réaffirmer notre valeur, nos compétences et nos expertises sur celles des machines. Les deux chercheuses ne tiennent pas un propos révolutionnaire pourtant. Elles ne livrent qu’une synthèse, riche, informée. Elles ne nous invitent qu’à activer la résistance que nous devrions naturellement activer, mais qui semble être devenue étrangement radicale ou audacieuse face aux déploiements omnipotents de l’IA.

Hubert Guillaud