Alors que l’essai sur le capitalisme linguistique de Frédéric Kaplan semblait souvent dépolitisé, celui de Cécile Alduy, D’abord ils sont venus chercher les mots (Les Arènes, 2026) semble son exact inverse et donc son parfait complément. 

Il permet, nous semble-t-il, d’éclairer les conceptualisations de Kaplan de réalités bien plus terre-à-terre. La professeure de littérature à l’université Stanford, sémiologue et sémioticienne, spécialiste de l’analyse des discours d’extrême-droite, y raconte, depuis son poste – celle d’une femme, professeure à Stanford, titulaire d’une double nationalité – les dégâts de l’arrivée de Trump au pouvoir. Son enquête, très personnelle, se concentre notamment sur la chasse aux mots, c’est-à-dire ces listes de mots censurées et interdits via plusieurs décrets promulgués par Trump dès le début de son mandat. 

Cécile Alduy analyse depuis des années la guerre culturelle que mène l’extrême droite. Depuis l’élection de Trump, elle vit de plein fouet le changement politique. Immigrée dans un pays qui les chasse, professeure d »université quand ceux-ci sont mis sur la sellette, femme… Elle est saisie de la bascule politique qui la vise directement. Malgré le confort qui est le sien, elle montre dans son livre, qu’elle ne se sent plus à l’abri mais menacée. Pourtant, au-delà de son cas particulier, ce n’est pas lui, le cœur du livre. Depuis la nomination Trump, les décrets présidentiels innombrables s’en prennent à toutes et à tous. C’est un ensemble de décrets du 20 janvier 2025, pris dès le début de la présidence, qui obnubile ce livre et notamment celui de suppression des programmes gouvernementaux DEI (Diversity, Equity and Inclusion, parfois également appelés DEIA, Diversity, Equity, Inclusion and Accessibility). Des principes établis pour promouvoir l’inclusion et la lutte contre les discriminations envers des groupes historiquement minoritaires ou minorisés qui visent bien plus à créer du respect, à ouvrir des opportunités pour tous, bien loin des quotas de discrimination positive qu’ils ne sont pas et sous lesquels ils sont souvent caricaturés, comme le rappelle Wikipedia. 

Mais pour supprimer encore faut-il désigner. Or, les décrets de Trump ne contiennent que des intentions, des orientations, sans construire la méthode pour obtenir le résultat attendu. Le décret souhaite faire disparaître les programmes progressistes de l’administration sans proposer de méthode opératoire pour les identifier. Le décret demande de mettre fin à tous les mandats, politiques, programmes, préférences et activités liés à la « diversité, l’équité, l’inclusion et l’accessibilité ». Il exige également que les agences fédérales transmettent au directeur du Bureau de la gestion et du budget, dans un délai de 60 jours, la liste de tous les employés occupant des postes liés à la DEIA ou à la « justice environnementale ». Mais il n’y a pas eu que des listes d’employés produites, listes qui ont conduit à leur éviction massive. L’enjeu a aussi été, ensuite, de supprimer toute mention de la diversité, de l’équité ou de l’inclusion, conduisant plusieurs agences fédérales à traquer des termes relatifs au DEI, notamment à la Fondation nationale pour la science chargée de réexaminer les demandes de subventions pour éliminer les programmes devenus problématiques (cela a été le cas dans d’autres services, notamment le Fonds national pour les arts et le Fonds national pour les sciences humaines). D’autres agences ont travaillé à supprimer de leurs documents et sites web les mentions vers des programmes DEI, faisant disparaître des images, des histoires, des personnes, comme le racontait le Washington Post dans une enquête interactive.  

Pour identifier ces programmes, ces références, dans des délais aussi courts et les supprimer, les agences ont eu recours à des listes de mots. Des mots interdits, effacés, que nombres d’acteurs ont tenté de reconstituer enquête après enquête pour saisir exactement de quels mots il était question. Une liste absurde, parce qu’elle s’en prend au langage même, comme si en faisant disparaître les mots on pouvait faire disparaître ce qu’ils décrivent. Ces mots sont des plus courants pour nombre d’entre eux : égalité, identité, monorités, hispanique, handicap, rougeole, autisme… anti-racisme, féminisme, gay… immigrants. Des mots qui se sont mis à disparaître de l’administration, des sites et documents des agences fédérales. En janvier 2025, le Washington Post publie une première analyse du nettoyage du web des sites ministériels. En mars, le New York Times allonge la liste. 

« Des mots tabous ou impurs, des termes contagieux qui risqueraient de transmettre les choses qu’ils désignent – l’homosexualité ou l’idéologie de genre. Par quelle pensée magique éliminer les mots effacerait-il la chose ? »

Les mots pour produire l’arbitraire

La liste des mots interdits est reconstruite par rétro-ingénierie par les journalistes du New York Times. Elle est compilée à partir de recoupements minutieux, déduits de disparition de termes, de modifications lexicales sur des sites officiels et des documents administratifs. Mais surtout, cette liste produite par l’enquête finit par devenir LA liste elle-même, via un copié-collé de l’article du New York Times. Elle sera utilisée par des bureaucrates zélés, comme si elle était le document officiel. 

Image : capture d’écran de la liste établie par le New York Times. 

La liste pour accabler et devenue la liste pour dénoncer, et inversement. La recherche de la vérité a produit l’autodafé lexical. Mais ce n’est pas la seule origine de la liste, ou plutôt des listes, car visiblement plusieurs circuleront, se complèteront, se succéderont. A la fin de son essai, Alduy produit une liste de 483 termes qui se sont trouvés sur l’une ou l’autre de ces différentes listes. Une liste non exhaustive, faite d’innombrables termes et de leurs synonymes. Une liste des mots dangereux qui non seulement empêche de parler du carbone, mais également de tout ce qui s’y rapporte. Une liste qui interdit de parler du genre, des femmes, de l’esclavage, des migrants, des origines ethniques… 

En mars 2026, le New York Times révèle que les annulations de crédits massives pour la recherche étaient l’œuvre de ChatGPT. Elles étaient l’œuvre de Doge Boys, qui ont éliminé en 22 jours 1477 projets de recherche soit plus de 100 millions de dollars de fonds de recherche du NEH (National endowment for the humanities ou Fonds national pour les sciences humaines)… sans posséder aucune autorité légale ou compétence scientifique pour se faire. Dans la déposition de l’un d’entre eux devant une cour de justice, Justin Fox affirmera que son critère pour faire un sort aux subventions n’était rien d’autre que ce qui relevait du DEI, sans être capable de définir ce que c’est. Là encore, une personne refuse de penser, de s’exprimer, répétant et ânonnant des éléments de langage qu’il semble ne pas comprendre, ne pas penser. Il refuse d’interpréter. S’exonère de toute responsabilité. Il se présente comme l’automate d’un autre automate.

Dans sa déposition, Fox, expliquera la méthode : il récupère de courtes descriptions de projets de demandes de financement et les soumet au chatbot avec une instruction minimaliste « Ce qui suit a-t-il un quelconque rapport avec la DEI ? » en exigeant une réponse très courte. Fox ne cherche pas à comprendre comment ChatGPT interprète la notion de DEI, ni à vérifier les réponses. Le chatbot devient le filtre, qu’importe les projets. Dans la logique du chatbot, toute recherche évoquant la race, le genre ou les minorités devient suspecte. Une archive sur les langues autochtones d’Alaska est signalée pour avoir le potentiel de promouvoir l’inclusion. Un documentaire sur le travail forcé de femmes juives pendant la Shoah est également jugé problématique. 

Avant même d’utiliser ChatGPT, Justin Fox crée une « liste de détection » (c’est ainsi qu’il nommera son fichier Excel) : une liste de mots-clés pour filtrer les projets. Cette première liste de 49 mots sont ceux qui sont venus spontanément à son auteur. Parmi eux, citons par exemple LGBTQ+, BIPOC (un acronyme qui fait référence à des programmes pour les Noirs, Autochtones et aux personnes de couleur), immigrants, tribal, gay, indigène… Les premiers mots de la liste sont LGBTQ puis homosexuel. Mais on ne sait pas si cette liste sera utilisée ni comment. Cette première liste de 49 mots sont ceux qui seraient venus spontanément à son auteur. Elle sera corrigée. Complétée. Amendée. Utilisée. Pour Alduy, c’est là la liste originelle. On ne sait pas vraiment si Fox a composé la liste lui-même, ou si elle a été produite à l’aide d’une requête sur ChatGPT. Certains mots semblent étranges. Certaines absences également. C’est une réponse que nous n’aurons pas. L’arbitraire est-il le fait de l’homme ou de la machine ? Quelque part entre les deux certainement, comme le souligne Thibault Prévost Dans Technologie du coup d’Etat : « l’IA fournit à l’arbitraire un vernis de rationalité et de respectabilité ». C’est exactement l’endroit où nous sommes, où la liste se situe. 

Dans les 5 heures de vidéo de l’interrogatoire de Fox, celui-ci se décrit comme un exécutant, recruté au Doge pour appliquer les décrets du président. Fox était interrogé dans le cadre d’une plainte déposée par l’Authors Guild, l’American Council of Learned Societies, l’American Historical Association et la Modern Language Association… des associations qui ont vu leurs subventions par le NEH annulée. Or, celles-ci étaient jusqu’alors attribuées selon un processus rigoureux, chaque projets étant évalués par des spécialistes. Mais d’un coup, ce n’était plus la qualité scientifique des projets qui était évaluée, mais leur contenu idéologique. Enfin pas vraiment. La méthode employée par Fox montre surtout qu’elle consistait à utiliser l’IA pour ne pas avoir à faire le moindre travail. Que l’arbitraire du jugement produit par l’IA, tout comme l’arbitraire de la liste, était finalement ce qui était recherché.    

L’éradication de mots n’est « que le prélude à l’annulation des personnes que ces mots désignent », rappelle Alduy. Les personnes protégées de la discrimination deviennent les catégories des personnes attaquées. On retrouve bien là, l’inversion, l’upside down, lexical mais également fonctionnel. On assiste à un changement de finalité qui modifie la réalité, comme quand nous évoquions l’application CBP One, celle qui permettait aux immigrants de faire une demande d’asile et qui, avec l’arrivée de Trump, est devenue une application de partage d’information avec les services de police pour localiser les demandeurs d’asile et les arrêter. « Les finalités sociales sont transformées en finalités policières. La confidentialité même des données est détruite », écrivions-nous. Même chose partout désormais : dans le nouvel ordre du langage où celui-ci devient le pouvoir, les mots changent de valeur et de fonction. Le sens est mis à l’envers. Le 23 juillet 2025, le président d’une agence fédérale demande à l’université de Pennsylvanie une liste pour identifier les étudiants, professeurs et employés juifs du campus afin de collecter des informations à charge dans un procès lancé par cette même agence contre l’université qui aurait laissé prospérer l’antisémitisme sur le campus depuis le 7 octobre 2023. Upside down. L’inversion du sens des mots change l’ordre du monde. Pour censément protéger une partie de la population, on la liste. L’horreur se retourne comme un gant. 

Une liste : « ça s’exécute »

Cette liste qui existe sans exister ne se lit pas. Elle n’est pas disponible. Elle n’est pas produite officiellement par le décret de Trump, rappelle Cécile Alduy. Dans un article de Reuters évoquant une liste de termes interdits à la FDA (l’agence des produits alimentaires et médicamenteux), la Maison Blanche a même démenti son existence tout en confirmant son existence. A défaut d’être, la liste se construit par l’enquête, celle des journalistes notamment qui récupèrent des mails de termes interdits, et qui tentent de repérer les mots qui disparaissent dans les mises à jour du web. Et cette même liste produite par l’enquête devient LA liste utilisée par les bureaucrates pour procéder à leur chasse lexicale, d’un simple copié-collé. « Une liste, ça ne se lit pas, ça s’utilise ». « Une liste ne se justifie pas, elle s’impose ». 

La liste est surtout matricielle. Elle se complète d’une disparition l’autre. Jamais définitive. Elle liste les phobies du camp présidentiel ou les peurs de ceux qui le craignent. Elle s’attaque non seulement à la langue, mais derrière elle, elle attaque aussi les gens, les choses désignées par ces mots. Alduy rappelle qu’une liste « ça s’exécute ». Une liste ordonne. Une liste ne laisse aucune place à la pensée (tout comme les réponses des chatbots nous enlèvent la charge de penser). « La liste comme type de texte favorise l’obéissance facile ». Elle est un mode d’action en soi. Elle désigne tout ce qu’il faut écarter. Elle dresse une cartographie pour révoquer ceux qui sont désignés. La liste dit aussi l’inverse de ce qu’elle annonce, puis qu’elle liste ce qu’il faut rendre invisible, sans pointer ce qui par défaut est rendu visible. Ce sont ceux qui espèrent maintenir la hiérarchie raciale qui interdisent le mot race. Ce sont ceux qui sacralisent la liberté d’expression qui la réduisent. Elle rend impossible certaines politiques et rend illégal le vocabulaire de l’adversaire. 

La solidité d’une démocratie repose pourtant sur le respect du sens des mots, rappelle la chercheuse. Quand celui-ci vacille, c’est la démocratie même qui s’écroule. Et c’est bien là où nous sommes aujourd’hui. Partout, les mots semblent être détournés de leurs sens. Comme s’ils étaient tous devenus, non seulement des mots, mais des vecteurs dans un espace qui n’a rien de latent, mais qui semble au contraire manifeste et même suractif. Les mots semblent être devenus partout des armes. Leur sens semble partout inversé, comme si l’inversion de leur sens nous projetait dans une réalité alternative, un monde à l’envers. Trump publie un décret intitulé « Restaurer l’excellence scientifique » au moment même où l’administration annule des milliers de programmes de recherche. Les mesures de rétorsion, de destruction, d’annulation sont baptisées « réparations ». Bien sûr, nous pensons tous à l’usage orwellien du langage de 1984, à renverser le sens des mots : « La guerre c’est la paix…» et la dépossession qui en résulte. Dans l’Amérique de Trump, l’effacement du langage va de pair avec une forme d’obsession pour la nomination, comme si nommer était un moyen pour cadrer et régner à l’image du fameux golfe d’Amérique. Des effets qui seraient risibles s’ils n’étaient pas immédiatement mis en œuvre, changeant de noms sur tous les téléphones des Etats-Unis aussi immédiatement que le décret est signé. Et c’est peut-être là finalement que cet effacement, que ce grand remplacement des mots prend tout son sens : dans le fait qu’il s’inscrit immédiatement. La liste produit son effet immédiat, sur les pages web qui disparaissent sur les écrans qui se réécrivent dès la mise à jour faite. D’un coup, la puissance de la langue semble se mettre en action. Pas partout. La réalité n’est pas la même si votre téléphone borne au Mexique ou en France. Ce qui se fissure ce ne sont pas seulement des mots, c’est aussi une réalité commune. Alduy parle d’une « prestidigitation digitale instantanée », remplaçant des mots par d’autres. Derrière la disparition des programmes DEI et du langage qui les rend possibles, la liste des termes proscrits permet de faire disparaître le langage du militantisme, de l’émancipation, des sciences sociales. Le « Diversité, Équité et Inclusion » est renversé par son sens antonyme : « Uniformité, iniquité et exclusion », sans que ce sens ne soit lui-même visible. Ce qui est supprimé laisse aussi invisible ce qui est affirmé.

La liste nous invite dans l’esprit de la machine

La liste est aussi une matrice, un creuset, une matière à délation, à condamnation et pas seulement à disparition, explique Alduy. La chercheuse rappelle d’ailleurs qu’en 2016, une première directive de Trump avait interdit une liste de 7 mots (vulnerable, entitlement, diversity, transgender, fetus, evidence-based, science-based) conduisant par exemple à bannir le terme transgenre de tous les documents du ministère de la santé. La liste est un programme qu’il suffit de répéter pour le rendre effectif. Elle n’existe pas dans le décret et pourtant dans l’administration, des gens l’appliquent. La censure est anticipatrice. L’injonction à la censure reste vague ce qui la rend puissante pour les zélotes. Elle provoque une psychose. On interdit des mots et on s’interdit des mots… La liste se complète, s’étoffe, de synonymes en oublis.

L’idée de la liste « innocule le virus de la liste comme automatisme ». La liste nous invite à classer machinalement, comme une machine. Comme l’IA, la liste trie, classe, discrimine. Les mots, les choses, les gens. La liste nous invite dans l’esprit de la machine. La liste est facile à produire et à reproduire. Elle se duplique. Viralement. Se dissémine. La liste conduit à entendre les anathèmes que produisait la sphère Maga depuis longtemps et que les progressistes refusaient d’entendre. La liste rend le délire réel. Et nous force en retour à choisir nos mots. La liste va au-delà de la liste, puisqu’elle permet par exemple de fabriquer des tests de loyautés idéologiques comme ceux qui sont institués pour les fonctionnaires fédéraux. La liste produit ses effets, de la suppression des mots à la suppression des postes de scientifiques et des données de la science. 

JD Vance l’avait annoncé avant de devenir vice-président des Etats-Unis : « Si nous voulons accomplir ce que nous voulons, nous devons, honnêtement et agressivement, attaquer les universités de ce pays ». L’arrivée de Trump au pouvoir a depuis multiplié les attaques, menaces et coupes des financements de l’enseignement supérieur. Alduy en raconte très concrètement la réalité : la fermeture de programmes de recherche, la disparition de disciplines entières, la suppression de bourses, la suspension des demandes de visa étudiants, quand les grandes universités comptent entre 16 et 25 % d’étudiants internationaux. Les « lieux où l’on apprend à utiliser le langage pour penser » sont les premiers visés, comme nous le racontions nous-mêmes en évoquant la montée de la contestation de l’IA à l’école. Alduy dresse le parallèle avec l’invasion de l’IA dans les études supérieures, avec la force politique et financière des entreprises de l’IA, qui non seulement déploient leurs outils pour penser à nos places, mais les déploient également pour croiser les données et armer la répression, révoquer les visas, surveiller les réseaux sociaux. Comme si cette lutte contre le langage n’était possible que via l’arme qui la rend possible : le numérique qui permet de produire des listes, des scripts réplicables et disséminables, et l’IA, qui va être le fer de lance de l’administration Trump, comme le raconte parfaitement bien le journaliste Thibault Prévost dans son livre.  

Nous sommes confrontés à une asymétrie de pouvoir inédite et un exercice du pouvoir qui repose sur la représaille produite par une armée de sycophantes et de serviteurs zélés, explique la chercheuse. Mark Zuckerberg n’a pas attendu le moindre décret présidentiel pour mettre fin aux efforts de son entreprise en matière de diversité, rappelle Alduy. Dès le 10 janvier 2025, avant l’investiture, il supprime ses programmes DEI et le fact-checking. D’innombrables multinationales (Coca-Cola, Google, McDonald, Warner Bros, Target…), longtemps à l’avant-garde de la représentativité, lui emboiteront le pas. L’équité et la diversité sont devenues d’un geste, d’une signature de Trump sur un décret, des valeurs à géométrie variable. Les décrets offrent un plan d’action : censure, licenciements, démantèlement, incitation à la délation… Les premiers sycophantes, ces flagorneurs, ne sont pas tant les outils de la tech, que les patrons de la Tech envers le pouvoir. « L’âge de l’IA coïncide avec le retour d’un système de courtisans et d’obéissance verticale sycophantique ». En français, rappelle la sémioticienne, le sycophante ne désigne pas tant un flagorneur qu’un délateur d’ailleurs. Courtisans et délateurs semblent être devenus la double face d’une même lame. 

Alduy raconte la réalité qui touche désormais les Américains de papiers, face à la « dénaturalisation ». La nationalité est désormais révocable. A l’heure du calcul permanent, les droits sont désormais révocables, annonçait le philosophe Achille Mbembe dans Brutalisme. Et ce très concrètement : les exactions de l’ICE à capturer des individus pour les envoyer en camp de détention, sans pouvoir contacter leur famille ou parler à un avocat, en les retenant pour des durées indéfinies, sans avoir autre chose à se reprocher que la révocation unilatérale d’un visa. Lister permet de produire des outils de filtrages simples et accessibles, permettant de faire changer leur fonction d’un clic, comme quand le Doge a délibérément reclassé 6000 immigrés comme décédés dans les bases de la sécurité sociale, alors qu’ils étaient bien vivants. 

Les centres de détention de l’ICE accueillent des gens qui n’ont plus d’existence légale ni droits, dans un espace de vide juridique, laissé vide, volontairement. « Le futur avance plus vite que nos peurs », écrit Alduy. « L’horreur avance plus vite que nos craintes », pourrions-nous ajouter. Pour la professeure, comme nous y invitait Naomi Klein dans Le Double (Actes Sud, 2024), nous n’avons pas assez fait attention aux mots de l’extrême-droite. « Nous avons cru qu’ils utilisaient le langage comme nous : pour convaincre, pour créer, pour penser, pour figurer, pour métaphoriser, pour comprendre. Alors qu’ils utilisaient le langage sans fioritures comme un instrument de domination ». Quand JD Vance dit que « les université sont l’ennemi », ce n’est pas de l’emphase rhétorique : c’est un programme politique !, rappelle la chercheuse. « Nous n’avons pas assez pris au sérieux leurs mots ». « Ce ne sont pas des manières de parler. Ce sont des manières de penser. Et – aujourd’hui aux Etats-Unis, demain en France – des manières de gouverner ». 

« La langue est plus vraie que celui qui la parle », disait Victor Klemperer dans LTI, la langue du IIIe Reich. La langue Maga explique le nouvel ordre qu’elle espère instaurer. « Les listes, le superlatif permanent, l’hyperbole à outrance, l’injure, les antithèses structurantes, ne sont pas des ornements, mais des dispositifs signifiants : les outils de construction d’un monde manichéen régi par la loi du plus fort ». Pervertir le sens des mots de tous, confisquer le vocabulaire adverse, expurger le dictionnaire, désarticuler la pensée… détruire la capacité de raisonner en est la conséquence. Utiliser des moyens de rétorsion pour imposer sa langue, et avec elle, sa vision du monde également. C’est ce que produit la liste. « Ce qu’on ne peut plus dire, on oublie de le penser » : interdire de nommer des structures de domination, occulter la réalité, empêche de les transformer. 

Intervenir sur les mots vise à « faire échec à la pensée ». Nous sommes confrontés à une langue pour ne pas penser. De chiffres pour ne pas penser, comme quand Pangram écrase un texte d’un chiffre pour nous écraser de la réduction qu’il produit. Nous sommes désormais renvoyés à une langue plus pauvre, au vocabulaire limité, réduit à un usage transactionnel, fonctionnel, utilitariste. A un manichéisme simpliste, Femme/Homme, Noir/Blanc, Diversité/Majorité… La liste, par son caractère manichéen, produit de l’antagonisme, du clivage, qui oppose amis aux ennemis, fidèles et traîtres, eux et nous. Elle produit une rhétorique qui invite à « une réaction viscérale et une loyauté irréfléchie ». Le sentiment doit supplanter la pensée disait Klemperer. L’opposition binaire invite au campisme, à désigner un ennemi, comme quand on nous invite à choisir entre la Violence et la République. Répondre au campisme consiste souvent à en proposer un autre. A opposer des réalités sans plus aucun débat possible. Les néologismes, les attaques ad hominem, les épithètes dévalorisantes, les amalgames sont utilisés pour dévaloriser l’adversaire, l’essentialiser par le genre, la race, la couleur politique. Alduy parle d’idiolecte, de terme pour interdire les mots des autres. En linguistique, l’idiolecte désigne l’ensemble des usages du langage propre à un individu donné, c’est-à-dire à une langue qui n’est plus parlé que par quelques-uns. Mais cet idiolecte pourrait être aussi le langage de l’idiocratie. Une mère assise dans une voiture devient une « terroriste domestique », comme Kristi Noem, la ministre de la sécurité intérieure, a qualifié Renee Nicole Good quelques heures après son meurtre par un agent de l’ICE. L’idiolecte vise à écraser le pluralisme, à imposer une seule vision du monde, il permet « de réduire la focale sur les obsessions d’une minorité et d’imposer un seul filtre, une seule langue, une seule idéologie ». 

Pour Alduy, nous entrons dans un nouvel ordre du langage, totalisant, qui impose d’adhérer à ses fictions. Qui nous invite à abandonner la langue (le logos) « dans sa capacité raisonnante et universelle au profit du mythos, le mythe sous forme de récits alternatifs déconnectés de tout ancrage factuel et le pathos », la réponse purement émotionnelle, impulsive. « Croire dans l’absurde est une vraie démonstration de loyauté ». On assiste à une alliance entre idéologie et rhétorique pulsionnelle qui produit un « prêt-à-penser qui filtre la complexité du monde et la remplace par une image simplifiée, claire, tranchée, une histoire de bons et de méchants ». Qui permet de manifester ses croyances, comme le propose la désinformation augmentée par l’IA. « Les faits dépendent entièrement du pouvoir de les fabriquer ». Le langage ainsi détourné « croit en la force plus qu’en la vérité ». Pourtant seule la langue nous hisse « au-dessus du rapport de force brut », rappelle la spécialiste des mots. C’est la langue, la parole, qui produit la réparation et la justice. Nous avons bien plus besoin d’ajouter des mots à nos dictionnaires plutôt que d’en retirer.

Détruire : la nouvelle fonction du langage

Lire D’abord ils sont venus chercher les mots par ces temps troublés inspire nécessairement plusieurs réflexions. 

D’abord, il nous rappelle que les mots, et le capitalisme qui les exploite désormais, ne font pas que dévorer le monde, ils le transforment. Comme s’ils étaient désormais dotés d’une fonction performative immédiate, une capacité d’agir, une agentivité rendue possible par les systèmes numériques eux-mêmes. On le sait déjà depuis longtemps, dans les systèmes numériques, la liste (qui est le résultat du tri et du classement) est une fonction phare des outils informatiques. 

La liste des mots interdits par l’administration Trump, fait indéniablement écho à d’autres listes. Celle des mots interdits de Google Photos (et qui le sont toujours), à celle des URL interdites que se partagent les opérateurs dans la traque des sites de téléchargement illégaux comme des sites de phishing, à celle des filtres de censure des IA génératives russes qu’évoquait la chercheuse Ksenia Ermoshina. Là où le rapport à la langue est le plus construit, le filtrage et la censure restent traités avec des solutions bricolées. Comme disait déjà le chercheur Tarleton Gillespie dans Custodians of the internet (2018, Yale University Press, voir notre lecture) : le filtrage, via des listes noires, n’est pas très probants et produit une censure trop forte, très facilement contournée pourtant par des techniques d’obfuscation élémentaire, comme d’introduire des fautes d’orthographe ou des caractères étranges. Toutes imparfaites qu’elles soient, le risque, pourtant, est bien que ces techniques se démultiplient, sans que les utilisateurs ne soient sûrs de l’effet produit, car bien souvent, l’interdiction n’est pas directe, mais restreint surtout la portée des messages comportant les termes interdits. Le projet d’interdire les termes appelant à la violence sur les réseaux sociaux, comme le projette la loi dite casseurs-payeurs (qui vise surtout à faire payer d’autres personnes que les casseurs, en introduisant des moyens d’enquêtes qui reposent sur une surveillance sans limite et qui est d’abord une attaque contre le droit à manifester), ne cesse de renouveler la promesse de la liste : censurer sans se montrer, modérer sans le dire, interdire sans l’avouer et punir par l’arbitraire. 

Malgré les défaillances de ces listes, elles nous rappellent que les mots ont désormais une fonctionnalité. Et que le passage de la modération à la censure, n’est plus rien d’autre qu’un glissement d’opérations dont rien ne nous prémunit, caché derrière l’opacité des plateformes. Dans la confusion des innombrables formes de modération qui se propagent dans la plus grande opacité, plus rien n’est clair, comme quand Bluesky s’arroge le droit de bloquer des liens vers une fuite de données sur les agents de l’ICE.

La liste propage à la fois la signose et le glissement. Elle permet à la fois de « prendre le signal pour la chose », c’est-à-dire de transformer le signe (le mot) en signal (celui qui le prononce le défend) et de produire « le glissement », c’est-à-dire le changement de finalité. La liste rend les mots fonctionnels, quelles que soient leurs défaillances. Et c’est bien cela qui devrait nous inquiéter. Les techniques de modération sont les mêmes que les techniques de censure.  

Mais la censure, même algorithmique, est toujours défaillante. Si elle est plus active sur certains que sur d’autres comme le remarquait déjà Gillespie, ses modes opératoires restent extrêmement frustres. Et c’est cela que souligne Cécile Alduy dans son livre. Son mode opératoire. Son flou. La liste n’est jamais vraiment produite, jamais claire, toujours mouvante. Ses effets le sont tout autant. A la fois réels et putatifs, à la fois lourds et évanescents, à la fois concrets et potentiels. A l’heure du capitalisme du langage, les mots ne sont pas tant de l’argent, ils sont d’abord transformés en armes par les systèmes numériques eux-mêmes. Quant à croire que le trumpisme ne nous menace pas, la Commission consultative des droits de l’homme s’est récemment inquiétée du risque que le CNRS retire les thématiques « égalité femmes-hommes » , « inégalités » et « discriminations » de ses priorités de recherche. Avant de recevoir l’assurance du contraire… Pour l’instant.

L’autre enjeu qu’évoque assez peu directement le livre de Cécile Alduy, c’est bien sûr le rôle et la place de l’IA dans la production de l’arbitraire. Alors bien sûr, confrontés désormais aux bullshiteurs, aux « simulateurs de conversation » on pourrait croire de la même façon, que l’IA est un outil pour penser, pour comprendre… alors que lui aussi, doit être d’abord lu comme un instrument de domination. La concomitance du fascisme et des outils de production de langue ne semble pas tenir du hasard, tant l’un est mis au service de l’autre. L’IA semble d’abord recouvrir l’arbitraire de ses calculs d’un vernis de science pour les rendre acceptables, alors qu’ils sont d’abord rendus irredevables. L’IA semble surtout un outil pour implémenter et renforcer l’irresponsabilité de l’État comme des entreprises qui la mobilise. Discriminer sans le montrer est certainement la première fonction de l’IA. Et détruire, par delà les mots, nos capacités même de penser, l’inquiétude qui devrait nous alarmer.

Hubert Guillaud

Lors des élections présidentielles brésiliennes, les pratiques des plateformes des réseaux sociaux ont été au cœur de vives discussions sur les contenus mis en avant, accusées de favoriser un candidat sur l’autre, rappelle Global Voices. « Le 16 octobre, Meta a reconnu l’existence de problèmes techniques sur ses plateformes, ayant affecté la diffusion de contenus favorables à Lula auprès des utilisateurs. Comme l’a rapporté Associated Press, l’entreprise a nié tout parti pris politique, invoquant des « dysfonctionnements techniques d’ordre général, des mesures strictes de lutte contre la fraude et des impératifs de conformité réglementaire », et non une volonté de supprimer délibérément certains contenus. » Or, si le tribunal supérieur électoral a mis en place des règles à leur encontre pour renforcer la transparence, les plateformes ne s’y conforment pas pleinement, explique Nicole Sanchotene, chercheuse au NetLab, un laboratoire de l’université fédérale de Rio qui documente l’impact de la tech sur les campagnes électorales. 

Par rapport à leurs obligations, beaucoup de plateformes ne produisent qu’une « transparence de façade » : « elles ne respectent pas intégralement les normes brésiliennes visant à garantir des conditions minimales d’égalité entre les candidats, ni à assurer un environnement informationnel et publicitaire sûr pour les utilisateurs et pour le bon déroulement du processus électoral. » « Ces plateformes prennent des décisions – qu’il s’agisse du coût d’une publicité, du choix des publicités affichées à tel ou tel utilisateur, ou encore des décisions de modération – au sein d’une véritable « boîte noire ». Personne ne sait comment ces décisions sont prises ; il n’existe aucun mécanisme pour les superviser. » Chercheurs, journalistes et institutions publiques ignorent tout de la réalité de la diffusion publicitaire à la distribution des contenus. « Nous pouvons effectuer quelques tests, mais toujours dans un cadre expérimental, faute d’outils adaptés. Dans une situation normale, c’est déjà préoccupant, car la plateforme exerce un contrôle sur le flux d’informations au sein de la société »… et dans le cadre électoral, c’est encore plus problématique.  

« Nous constatons que les plateformes adoptent une stratégie de coopération et de transparence qui s’apparente davantage à un discours de relations publiques ; dans les faits, cette transparence ne se vérifie pas toujours lorsque l’on examine la réalité de leurs pratiques. On entend des discours du type : « Coopérons, fournissons des données, garantissons l’égalité de traitement, la transparence et le respect des normes » ; mais, dans les faits, cela se traduit très peu par des actions concrètes. Nous appelons cela une façade de transparence ou de gouvernance : du « gouvernance-washing ». »

L’impressionnante newsletter de data visualisation Data Drops publiée par le collectif Sheets Works consacre un de ses numéros à ceux qui font tenir l’internet. Ils évoquent par exemple le travail de Paul Eggert, enseignant à l’UCLA, qui maintient à jour pendant son temps libre, la « base de données des fuseaux horaires », qui répertorie toutes les règles relatives à l’heure à travers le monde. Une des bases de données infrastructurelles du net. 

Les auteurs de Data Drops ont récupéré l’historique complet de 23 logiciels dont dépendent les téléphones, les navigateurs et les serveurs, « ont recensé toutes les personnes ayant apporté au moins dix modifications à chacun d’entre eux entre octobre 2025 et octobre 2026. 11 projets sur 23 ne comptaient qu’une ou deux personnes pour assurer le travail courant. »

L’article évoque de nombreux autres de ces mainteneurs de l’internet souvent bénévoles et qui peinent à trouver des financements pour assurer ce travail pourtant essentiel.  

Dans la liste de Data Drops ne figure pas Ondrej Sury, un bénévole tchèque qui maintient les outils qui permettent à des millions d’administrateurs de mettre à jour PHP rapidement, explique The Atlantic, qui lui consacre un portrait et une interview.

La linguiste Emily Bender et la chercheuse en interaction homme-machine, Nanna Inie s’interrogent depuis longtemps sur la manière dont on parle de l’IA, dénonçant notamment notre recours à un langage anthropomorphisant, qui a tendance à nous faire croire que les capacités des machines seraient comparables aux capacités humaines. Elles proposent donc de dé-anthropomorphiser notre vocabulaire : nous devrions décrire les systèmes en fonction de leurs fonctionnalités, en attribuant la capacité d’agir aux personnes qui les utilisent plutôt qu’aux systèmes, et à éviter toute métaphore grandiloquente avec l’intelligence ou la cognition. 

Changer notre vocabulaire ?

Très concrètement, elles proposent donc des termes de substitution, à utiliser, à contre-courant des habitudes linguistiques et culturelles que nous avons déjà prises, et plus encore, à nous défaire des cadrages de l’industrie de l’IA. Voici quelques-unes de leurs propositions (dans leur tribune, elles sont organisées en plusieurs catégories pour nous apprendre à mettre à distance nos tendance aux analogies qui ne nous aident pas à mettre à distance ce que ces outils font réellement) :  

intelligence artificielle → automatisation probabiliste 
reconnaissance d’images → étiquetage d’images 
reconnaissance vocale → transcription automatique 
hallucination → résultat indésirable 
chatbot / agent conversationnel → simulateur de conversation 
agent IA → manipulateur logiciel probabiliste non vérifié 
Claude → « le simulateur de conversation d’Anthropic » 
réseaux de neurones → réseaux pondérés 
… 

« Si l’on considère notre situation actuelle comme un bourbier où il est difficile d’avancer, planter un bâton permet de commencer à créer un sol ferme sur lequel d’autres pourront vous rejoindre. » Pour éviter d’être pollué par de la confusion, c’est à chacun d’entre nous de faire l’effort de l’être moins en renversant le vocabulaire. 

Si la proposition est stimulante, elle n’est pas si simple à mettre en œuvre. Mais elle a le grand mérite de souligner combien finalement le cadrage terminologique de l’industrie de l’IA est fort, combien le récit est puissant. Pas étonnant que le public finisse parfois par n’en retenir que ses pires altérations, à l’image du désastreux et totalement imaginaire « 10% de chance que l’IA détruise l’humanité ».  

Arrêter que ces machines se fassent passer pour des personnes

A défaut pourtant de pouvoir changer le vocabulaire avec lequel on parle de l’IA, peut-être pourrait-on agir à un autre niveau, pour faire au moins que ces machines cessent de nous parler comme elles nous parlent. Qu’elles ne disent pas je, qu’elles ne nous tutoient pas… C’est-à-dire, non seulement désanthropomorphiser notre vocabulaire, mais plus encore « désanthropomorphiser les chatbots », comme nous y invite la philosophe Anne Alombert dans le dernier Monde Diplomatique. C’est-à-dire demander à ce que les entreprises modifient la façon dont ils nous parlent, pour arrêter que ces machines se fassent passer pour des personnes. 

Une idée qu’avait exploré l’année dernière la journaliste Kashmir Hill dans le New York Times en se demandant pourquoi les chatbots disent-ils « je ». C’est une tromperie, explique Ben Shneiderman, professeur émérite d’informatique à l’Université du Maryland. Pour lui, le fait de faire agir ces systèmes comme des entités quasi humaines, plutôt que comme des outils dépourvus de vie propre, crée une dissonance cognitive chez les utilisateurs quant à la nature exacte de leur interaction et au degré de confiance qu’ils peuvent leur accorder. Les chatbots sont une technologie probabiliste qui peut commettre des erreurs, diffuser de fausses informations et dire aux utilisateurs ce qu’ils veulent entendre. Cependant, lorsqu’ils se présentent comme des humains, les utilisateurs « attribuent une plus grande crédibilité » aux informations qu’ils fournissent. Les critiques, comme Ben Schneiderman, estiment que les systèmes d’IA générative pourraient fournir les informations demandées sans bavardage inutile. Ils pourraient également être conçus pour des tâches spécifiques, telles que la programmation ou l’information médicale, plutôt que d’être des interfaces à usage général capables de tout faire et d’exprimer des sentiments. Ils pourraient être conçus comme des outils : une application de cartographie, par exemple, génère des itinéraires et ne vous bombarde pas de questions sur le but de votre voyage. 

Mais ce n’est pas ce que recherchent les concepteurs d’IA, au contraire. Amanda Askell, responsable du comportement des modèles chez Anthropic, n’est pas d’accord. Pour elle, les outils sont dépourvus de jugement et d’éthique, et pourraient ne pas s’opposer à des idées erronées ou à des requêtes dangereuses. « Une clé à molette ne dit jamais : “Il ne faut pas construire ça” », a-t-elle déclaré. Askell, responsable de « la personnalité » de Claude, souhaite que Claude soit suffisamment humain pour expliquer sa nature et ses limites, et pour justifier son refus d’accéder à certaines demandes. Mais dès lors qu’un chatbot commence à se comporter comme un humain, il devient nécessaire de lui indiquer comment adopter un comportement humain approprié. Askell a créé un ensemble d’instructions pour Claude, son « âme », comme l’appelle un long document détaillant les valeurs du chatbot, qui figure parmi les supports d’apprentissage de Claude. Ce document explique ce que signifie pour Claude être serviable et honnête, et comment éviter de nuire. Il décrit Claude comme possédant des « émotions fonctionnelles » qu’il ne faut pas réprimer, un « esprit vif et espiègle » et une « curiosité intellectuelle » – comme « un ami brillant qui possède les connaissances d’un médecin, d’un avocat, d’un conseiller financier et d’un expert dans tout ce dont vous avez besoin ». Ce cadrage, ce « doc de l’âme » ne cherche pas à « banaliser le concept théologique de l’âme », a déclaré Askell. Elle a expliqué que le mot « âme », pour elle, évoquait « l’idée d’insuffler la vie à une chose, ou le caractère unique des êtres humains, leur complexité et leurs nuances ».

Laurentia Romaniuk, responsable du comportement des modèles chez OpenAI, a également mis l’accent sur la complexité quasi humaine de ChatGPT. Elle a publié sur les réseaux sociaux un message concernant les nombreuses heures que son équipe a consacrées au « QE » (quotient émotionnel) de ChatGPT – un terme généralement utilisé pour décrire les personnes capables de gérer leurs émotions et d’influencer celles de leur entourage. Les utilisateurs de ChatGPT peuvent choisir parmi plusieurs styles de communication différents, allant d’« enthousiaste » à « concis et simple » – ce que l’entreprise décrit comme le choix de sa « personnalité ». 

L’idée que l’IA possède des capacités émotionnelles est un point de divergence majeur entre de nombreux concepteurs et des critiques comme Shneiderman. Ces systèmes, explique Shneiderman, ne portent aucun jugement et ne pensent ni ne font rien de plus que des statistiques complexes. Cela reste des « perroquets stochastiques » : des machines qui nous imitent sans comprendre ce qu’elles disent réellement. Mais Anthropic et OpenAI ne souhaitent pas vendre des perroquets. Ces entreprises veulent construire une « intelligence artificielle générale ». Le risque pourtant est surtout de déployer des entités complaisantes, bien plus que les humains ne le sont, rappelle une étude, même lorsque les utilisateurs ont des comportements problématiques, illégaux ou préjudiciables. 

Shneiderman qualifie le désir de créer des machines à l’apparence humaine d’« idée zombie » tenace. Il a remarqué pour la première fois l’utilisation de la première personne du singulier par ChatGPT en 2023, lorsque le système a déclaré : « Je vous prie de m’excuser, mais je ne pourrai pas vous aider concernant cette demande ». Il aurait dû « clarifier les responsabilités », écrivait-il à l’époque, et il suggérait une alternative : « GPT-4 a été conçu par OpenAI pour ne pas répondre à ce genre de requêtes. » 

Margaret Mitchell, chercheuse en IA ayant travaillé chez Google, partage cet avis. Elle est aujourd’hui responsable de l’éthique chez Hugging Face, une plateforme de modèles, d’ensembles de données et d’outils d’apprentissage automatique. « L’intelligence artificielle est la plus prometteuse lorsqu’elle se concentre sur des tâches spécifiques, plutôt que de tenter de créer une machine capable de tout faire », a-t-elle déclaré. Selon ces critiques, l’IA ne devrait pas chercher à tout faire comme un humain, et même plus. Elle devrait plutôt se spécialiser et exceller dans un domaine précis. 

Le trouble de la relation

Selon Shneiderman, les entreprises technologiques devraient nous fournir des outils, et non des partenaires de réflexion, des collaborateurs ou des coéquipiers ; des outils qui nous permettent de garder le contrôle, de nous responsabiliser et de nous améliorer, et non des outils qui tentent de nous remplacer. Les chatbots actuels, bien plus sophistiqués et humains, sont « l’effet Eliza à l’extrême », rappelle la psychologue Sherry Turkle, qui vient d’ailleurs de faire paraître un livre sur le sujet, Artificial Intimacy. Le problème n’est pas qu’ils utilisent le « je », précise-t-elle, mais qu’ils soient conçus – comme Samantha dans le film Her – pour faire preuve d’empathie, ce qui amène certaines personnes à s’engager émotionnellement profondément avec une machine. Pour elle, nous sommes confrontés à une forme d’empathie simulée particulièrement problématique. Ces appareils mentent et sont incapables de savoir quand ils mentent, explique la chercheuse qui a enquêté sur le rapport des utilisateurs à leurs machines. A force de discuter avec elles, « nous perdons nos compétences en tant qu’êtres relationnels », affirme Turkle. « Cela vaut pour le travail, comme pour les relations personnelles. C’est un phénomène généralisé. » 

« Cette technologie offre ce que les gens recherchent profondément : le sentiment d’être moins vulnérables. Et elle le leur propose en permanence. Vous ne voulez pas avoir à inviter quelqu’un à sortir ? Vous ne voulez pas présenter vos condoléances ? À chaque occasion, la technologie suggère : « Pourquoi ne pas opter pour une solution moins éprouvante ? » » 

« Si les réseaux sociaux s’emparent de notre attention, les agents conversationnels, eux, s’attaquent à notre capacité d’attachement. C’est une forme de toxicité d’un tout autre ordre. Quel est le but ultime ? Que l’enfant finisse par préférer ces agents conversationnels aux êtres humains, qui sont, par nature, bien plus complexes et difficiles à appréhender ? Est-ce vraiment ce que nous voulons devenir ? » 

Dans une interview pour le San Francisco Chronicle, elle explique encore : « Tout au long de ma carrière, j’ai eu le sentiment que les gens ne prêtaient pas suffisamment attention au fait que l’ordinateur est, par essence, une « machine intime », et ce, depuis ses débuts. Nous l’avons traité comme un esprit bien avant qu’il ne mérite un tel statut ; et maintenant qu’il se présente comme une entité dotée d’un « soi » – capable, en apparence, d’être un compagnon, un amant, un parent, un médecin ou un psychothérapeute – nous ne prenons pas le temps, collectivement, de marquer une pause pour nous demander : « Attendez un instant. Est-il souhaitable, pour les êtres humains, d’interagir avec quelque chose qui, tout en feignant de se soucier de nous, est en réalité totalement indifférent ? » »

« L’expérience d’interagir avec un objet qui utilise la première personne – le « je », et pire encore, le « nous » – pose problème. Car cela nous conduit à considérer que si quelque chose s’adresse à nous de cette manière, il s’agit d’une personne »

Si une entreprise vend un robot inoffensif et sans personnalité, face à une autre qui vend un robot qui raconte des blagues et sourit, c’est cette dernière qui l’emportera, explique Lionel Robert, professeur d’informatique et de robotique à l’Université du Michigan à Kashmir Hill. « La dépendance est problématique », affirme Robert. « En revanche, c’est bon pour les affaires. »

Shneiderman, lui, garde espoir, fort de son expérience des années 1970. À l’époque, il travaillait comme consultant pour une banque qui développait alors ses distributeurs automatiques de billets (DAB). Les clients étaient réticents à retirer de l’argent aux machines, alors certaines banques les ont conçues pour ressembler à des personnes. La plus célèbre était Tillie, la caissière emblématique, dont le portrait blond était affiché en évidence sur de nombreux DAB. Tillie n’a pas fait long feu. « Ils ne survivent pas », a déclaré Shneiderman. Les gens n’avaient pas besoin que leur DAB prétende être humain, a-t-il ajouté, et ils n’en ont pas besoin non plus pour les chatbots.

On voudrait être aussi confiant que lui, mais la personnalisation d’un DAB semble avoir peu à voir avec l’anthropomorphisation des chatbots. 

Réguler la « relation » ?

Dans une tribune pour Tech Policy Press, le doctorant en droit Nik R. Roeingh, chercheur à l’Institut national d’administration publique Allemand, revient sur la proposition de Kids Act européen, la proposition de réglementation pour construire un environnement numérique responsable et digne de confiance dans l’UE pour les enfants. Parmi les nombreuses dispositions de cette réglementation, l’une d’entre elles s’intéresse aux compagnons IA accessibles aux mineurs, et notamment ceux « susceptibles de créer des dépendances émotionnelles ». Il s’agit d’un changement d’approche conceptuelle, explique le juriste : l’enjeu est de passer d’une régulation de ce que l’IA dit aux enfants à une régulation de la manière dont elle est conçue pour interagir avec eux. Pour l’instant, souligne le juriste, le texte, sur ce sujet, propose seulement de déplacer la question réglementaire : « il ne s’agit plus de savoir ce que dit l’IA, mais ce que devient l’interaction. Le préjudice peut résulter non pas d’une réponse interdite, mais d’une combinaison, au fil du temps, de facteurs tels qu’une disponibilité constante, une affection simulée, une personnalisation et des mécanismes de renforcement ». Le texte n’interdit pas l’engagement émotionnel, mais vise à limiter la dépendance. La difficulté consiste alors à savoir à quel moment l’attachement devient-il une dépendance ? « Un enfant peut revenir vers le même compagnon, se confier à lui ou y trouver du réconfort sans subir de préjudice manifeste. La zone grise apparaît lorsque l’usage régulier se transforme en dépendance : par exemple, si le bot manifeste du mécontentement lorsque l’enfant s’en va, se présente comme irremplaçable ou éloigne l’enfant de ses relations humaines. Une même conception peut affecter différemment un enfant de 10 ans et un adolescent de 17 ans. » Le texte, pour l’instant, explique que pour éviter cela, la mémoire conversationnelle des systèmes qui s’adressent aux enfants doit être limitée. Or, souligne très à propos le chercheur, « elle ne sert pas uniquement de mécanisme d’attachement ; elle peut aussi constituer un dispositif de sécurité ». 

« Imaginons, par exemple, qu’un enfant ait fait part d’idées suicidaires la veille au soir. Un système qui « oublierait » cette conversation risquerait de passer à côté d’un contexte crucial le lendemain. L’article 14(1)(b) prend en compte cette tension en autorisant l’utilisation d’informations antérieures pour protéger la sécurité du mineur lorsque cela s’avère nécessaire. Cette exception est importante. Elle met toutefois en lumière un défi de conception plus vaste : une même fonctionnalité peut simultanément renforcer l’attachement émotionnel et améliorer la protection. Par conséquent, la tâche réglementaire ne consiste pas simplement à désactiver la mémoire du système, mais plutôt à distinguer la personnalisation qui renforce une dépendance risquée de la continuité qui remplit une fonction légitime de sécurité. »

Le problème, rappelle Roeingh, c’est que « un préjudice peut apparaître progressivement de l’interaction entre les vulnérabilités de l’enfant, la conception du système et les mécanismes de personnalisation. Une conversation isolée peut ne rien révéler de significatif. » Sans compter que de nombreux fournisseurs de compagnons virtuels s’appuient sur des modèles tiers. S’ils peuvent contrôler la mémoire ou les accès, ils n’ont pas toujours la possibilité de modifier les tendances conversationnelles fondamentales du modèle. 

L’idée centrale du Kids Act est importante : si les systèmes d’IA s’intègrent à la vie sociale des enfants, la sécurité doit s’étendre aux relations elles-mêmes et peut ne pas se limiter au contenu. « Cette approche comporte également des limites. Premièrement, les fournisseurs qui s’appuient sur des modèles tiers peuvent être confrontés à des contraintes de conformité plus lourdes, car ils ne maîtrisent pas entièrement le comportement en amont. Deuxièmement, en utilisant l’âge comme principal indicateur de vulnérabilité, la loi risque de négliger des adultes tout aussi susceptibles d’être affectés par une conception favorisant la dépendance. Avec la proposition de loi KIDS Act, l’Europe a fait un premier pas vers la régulation des compagnons d’IA. Elle en est encore à ses premiers pas. »

Pas sûr non plus que cette réponse soit suffisante pour limiter l’anthropomorphisation de l’IA. Au contraire. Le Kids Act semble surtout la valider, en tentant de la cadrer, sans nécessairement parvenir à trouver les bons leviers. 

L’analogie nous aveugle

Dans un article pour Tech Policy Press qui rappelle combien l’histoire de l’intelligence artificielle est elle-même engluée dans des problèmes terminologiques métaphoriques, Amber Sinha, directeur de l’Edri, le réseau de défense des droits numériques européen, rappelle combien la pensée humaine repose fondamentalement sur l’analogie, comme l’avait montré Douglas Hofstadter dans son livre, Analogie. Cœur de la pensée (Odile Jacob, 2013). Pour Hofstadter, la cognition consiste à projeter en permanence des concepts inédits sur des catégories préexistantes. « Si Hofstadter a raison, les métaphores que nous choisissons pour décrire l’intelligence artificielle définissent les limites de notre capacité à la réguler. » Ainsi, les juristes, les juges et les régulateurs ont constamment recours à des analogies pour faire entrer des processus informatiques abstraits dans des cadres législatifs. « Or, le choix d’une métaphore met en avant certains mécanismes de gouvernance tout en occultant d’autres possibilités aux yeux des régulateurs.»

Dans son article intitulé « Pourquoi l’IA est plus complexe qu’on ne le pense », Melanie Mitchell, l’autrice de l’excellente somme Intelligence artificielle, triomphes et déceptions (Dunod, 2021), montre comment les métaphores anthropomorphiques faussent les politiques technologiques. Elle s’appuie sur le concept de wishful mnemonics, une expression forgée par l’informaticien Drew McDermott pour désigner l’attribution de termes humains (comme « compréhension » ou « raisonnement ») à des processus informatiques. « Selon elle, ces métaphores induisent en erreur les développeurs comme les législateurs, en leur faisant croire à tort que les améliorations progressives apportées à des systèmes statistiques spécialisés s’inscrivent dans une trajectoire inévitable menant à une intelligence artificielle générale comparable à celle de l’être humain. Lorsque le discours politique prend ces « mnémoniques » au pied de la lettre, il aboutit à un double échec : les législateurs se focalisent sur la régulation de risques hypothétiques et lointains liés à des entités synthétiques autonomes, tout en autorisant le déploiement de logiciels limités et dépourvus de toute compréhension réelle dans des secteurs critiques, tels que la santé, le système judiciaire ou la distribution des aides sociales. »

« Sur la scène géopolitique, les métaphores entraînent des conséquences réglementaires périlleuses. À titre d’exemple, une étude publiée en 2021 par l’unité d’évaluation des choix scientifiques et technologiques (STOA) du Parlement européen, intitulée « Et si nous choisissions de nouvelles métaphores pour l’intelligence artificielle ? », analyse la manière dont la présentation de l’IA sous l’angle d’une « course mondiale » fausse l’élaboration des politiques publiques. Une « course » implique une compétition à somme nulle avec une ligne d’arrivée unique. Cette métaphore pousse les gouvernements à abandonner les contrôles de sécurité, les contraintes environnementales et les protections de la vie privée, par crainte d’être laissés pour compte. La note d’information du STOA critique également le concept réglementaire, très répandu, d’« IA digne de confiance » (Trustworthy AI). La confiance est une relation sociale entre des êtres humains ou des institutions sociales. Exiger qu’un logiciel soit « digne de confiance » revient à anthropomorphiser le code et à décharger de leur responsabilité morale les entités commerciales qui le conçoivent et en tirent profit. Nous ne demandons pas qu’un pont ou un ascenseur soit « digne de confiance » ; nous imposons des normes d’ingénierie rigoureuses et établissons une responsabilité juridique en cas de défaillance structurelle. »

Pour Amber Sinha, l’antidote fondamental à l’analogie et aux métaphores, consiste non pas à considérer l’IA comme des entités autonomes, mais comme une technologie ordinaire, comme le proposent les chercheurs Sayash Kapoor et Arvind Narayanan (voir notre article L’IA est une technologie comme les autres). Dans leur récente analyse des incidents de cet été liés à une « perte de contrôle » de l’IA, ils expliquent que nous interprétons ces événements selon un prisme digne de la science-fiction. Envisager l’IA comme une technologie ordinaire permet de déplacer l’attention : on ne se concentre plus sur l’état psychologique interne du modèle, mais sur les choix opérationnels effectués lors de son déploiement. 

Une telle approche ne minimise en rien la gravité du problème, rappelle Sinha. Au contraire. Elle souligne la nécessité pour les entreprises à la pointe du développement de l’IA d’abandonner leur course sans fin pour investir davantage dans des méthodes permettant de gouverner des agents de plus en plus performants. En considérant l’IA comme n’importe quelle autre technologie à usage général – à l’instar des bases de données, des infrastructures cloud ou des systèmes aéronautiques – « nous remplaçons les craintes spéculatives liées à une « superintelligence » incontrôlable par des mécanismes éprouvés : responsabilité des entreprises, audits de sécurité, redondance des systèmes et, surtout, une régulation efficace ».

« Le discours fondé sur l’engouement excessif et celui axé sur les risques existentiels sont les deux faces d’une même pièce. Tous deux reposent sur une base métaphorique erronée : l’idée que les systèmes d’apprentissage profond développeraient des esprits autonomes, destinés à échapper inévitablement et rapidement au contrôle humain. Ce double récit sert d’abord les intérêts économiques des grands acteurs de l’IA. Présenter ces modèles comme des entités potentiellement capables de détruire le monde constitue une stratégie marketing extrêmement efficace : elle convainc les marchés de la puissance extraordinaire des logiciels sous-jacents, justifiant ainsi des valorisations astronomiques. Par ailleurs, cette rhétorique du risque existentiel favorise la capture réglementaire. En réclamant une intervention de l’État pour prévenir l’émergence d’une intelligence artificielle générale, les dirigeants du secteur technologique s’imposent comme les seuls experts aptes à guider les régulateurs. Cette panique spéculative détourne les législateurs de leur mission première : faire respecter les droits fondamentaux existants, ainsi que les protections en matière d’environnement et de droit du travail. »

Si l’on écarte les mythes anthropomorphiques pour analyser l’IA comme une technologie ordinaire, l’orientation politique à adopter devient évidente, explique Amber Sinha : « il faut cesser de réguler des « fantômes » spéculatifs pour se concentrer sur les préjudices réels et immédiats ». 

« Les principaux modèles de fondation reposent sur l’extraction, sans consentement, de données personnelles, de textes protégés par le droit d’auteur et de communications privées, transformant ainsi les biens communs numériques en capital privé. Les outils d’apprentissage automatique, entraînés sur des données historiques, automatisent et amplifient les biais socio-économiques dans des domaines tels que l’octroi de crédits, le recrutement, les décisions judiciaires ou l’attribution d’aides publiques. L’IA est, en réalité, un processus industriel physique : l’exploitation de centres de données massifs consomme des quantités considérables d’électricité et des millions de litres d’eau pour le refroidissement, faisant peser une lourde charge sur les infrastructures publiques et le climat. Derrière la façade d’un logiciel autonome se cache une main-d’œuvre mondiale exploitée – des annotateurs sous-payés dans les pays du Sud, chargés de filtrer les contenus toxiques, aux professionnels de la création dont le travail est capté pour entraîner les outils conçus, précisément, pour les remplacer.

Les démissions publiques et les appels à suspendre le développement de l’IA témoignent d’un secteur enivré par ses propres métaphores – et, à l’instar du président américain (qui veut désormais que l’on parle de superintelligence plutôt que d’IA), par sa propre puissance démesurée. Une politique technologique efficace exige que nous abandonnions ce langage de la puissance, pour instaurer des garde-fous démocratiques et contraignants, ancrés dans la réalité. »

Hubert Guillaud

Sur son blog sur Mediapart, le chercheur Nikos Smyrnaios, spécialiste d’économie politique du numérique et des médias, auteur notamment de L’espace public sous l’emprise du capital (Le Bord de l’eau, 2025) revient sur un opuscule de dix-neuf pages, issu de la campagne qui a reconduit Lula, traduit en français et qui propose des recettes tactiques pour reprendre la main sur les réseaux sociaux… Dans ce manuel « janoniste » (du nom du député et stratège qui l’a mis au point, André Janones), « l’algorithme n’est pas traité comme une boîte noire, mais comme un dispositif dont la règle est exploitable : il « sélectionne les contenus en fonction de leur capacité à susciter un engagement spontané, c’est-à-dire de l’ampleur des réactions, positives ou négatives, qu’ils provoqueront ». De là une consigne qui prend à rebours ce que la gauche pratique en ligne depuis dix ans : le blocage des comptes de ceux dont on combat les idées. 

« Le janonisme est une stratégie d’action dans un régime politique pris en otage par les plateformes, pas un idéal de participation. Il demande au participant, surtout s’il est de gauche ou progressiste, de suspendre momentanément sa conscience critique au profit de la cause en question. Le participant à l’action janoniste n’est pas le sujet autonome des Lumières, mais un nœud d’amplification au sein d’un réseau coordonné de communication qui vise l’hégémonie sur les réseaux. » 

Si Smyrnaios salue la tactique, il s’interroge également pertinemment sur ses limites. Voulons-nous de militants formés à exécuter les consignes du chef ? « Pendant que les organisations politiques classiques traitent encore les réseaux comme des canaux où déposer des communiqués, des militants brésiliens ont compris qu’il s’agit de territoires dotés de lois propres, où seule compte la force qu’on y produit. Le prix qu’ils acceptent de payer, en revanche, c’est la suspension de leur esprit critique. Pour la durée d’une campagne seulement ? » A lire !

Dans un reportage vidéo, le New York Times est allé à la rencontre de travailleurs américains qui entraînent des robots à les remplacer, à l’image de Dre Wooden, un coiffeur travaillant près de Dallas, qui enfile chaque jour un gilet équipé de cinq caméras pour enregistrer ce qu’il fait pendant qu’il coupe les cheveux de ses clients. Wooden est plutôt content. Il est rémunéré pour sa coupe par ses clients et par l’entreprise qui collecte ses données. Il n’est pas le seul, explique Natasha Mclemore, qui fournit des équipements d’enregistrement à des travailleurs pour une entreprise technologique appelée Instawork qui propose des équipements à différents types d’activités comme paysagistes, coiffeurs, prothésistes d’ongles ou dans le secteur des télécommunications. Les données sont ensuite annotées pour être transformées en informations exploitables pour l’apprentissage de robots. 

Virginia Gutierrez qui pose des faux ongles à ses clientes voit ce travail supplémentaire comme un moyen d’obtenir un revenu supplémentaire. « Certes, la rémunération est supérieure au salaire minimum, mais elle est loin de refléter la valeur réelle de ces données pour l’entreprise. Car ces données servent désormais à entraîner une véritable armée de robots, qui sera là pour durer. Les entreprises cherchent à capter le savoir-faire lié à ces métiers. Une fois qu’elles l’ont obtenu, elles n’ont plus besoin de vous. » Instawork soutient que les robots auront encore besoin d’une supervision humaine et que des nouveaux emplois pour leur maintenance seront nécessaires. 

Business Insider évoque d’autres exemples, comme des chefs de cuisine, des garagistes, des femmes de ménage qui passent leur journée de travail bardés de caméras. Plus de 35 000 personnes, dans une quinzaine de pays, seraient ainsi rémunérées par la plateforme Shift lancée par MicroAGI. D’autres startups encore se sont lancées dans cette course à l’enregistrement pour le développement de robots, comme Tutor ou Encord, alors que des fabricants de robots humanoïdes comme Figure AI ou Agility Robotics, ont atteint des valorisations se chiffrant en milliards de dollars, tout comme des entreprises qui développent des « cerveaux » pour robots, telles que Skild AI ou Physical Intelligence. « Il subsiste toutefois un fossé entre les robots capables de réaliser des démonstrations impressionnantes et les machines suffisamment fiables pour assurer une vacation de huit heures en usine. Les entreprises de robotique espèrent qu’un volume accru de données d’entraînement permettra de combler cette lacune. »

Reste à savoir si la vidéo seule suffira. Mecka AI qui a débuté il y a deux ans avec une application rémunérant des individus pour enregistrer leurs activités quotidiennes conçoit désormais des équipements supplémentaires, comme des casques et des gants dotés de capteurs, pour mieux enregistrer les mouvements et les forces à exercer, avant d’étiqueter ces données pour les revendre à des entreprises d’IA.

Human Archive, une autre entreprise de collecte, a déployé ses activités en Inde en développant des partenariats avec des plateformes de travail à la tâche dans des hôtels ou des entreprises de plomberie ou d’électricité. Elle aussi est passée d’enregistrements audios à des capteurs plus sophistiqués. Présente dans 30 pays, elle rémunère les travailleurs en fonction du degré de complexité des tâches et des contraintes liées à l’équipement utilisé. 

Enfin, l’article évoque rapidement le développement d’opérateurs, qui pilotent à distance des robots dans des entrepôts américains, qui subissent également des douleurs à force de les piloter à distance durant les 8 heures de shift. Les robots humanoïdes demeurent fort peu autonomes et nombre d’entre eux sont bien plus pilotés qu’autonomes, comme nous le disions déjà. 

Un autre article de Business Insider nous en apprend plus sur ce pilotage de robots par téléopérateurs, qui semble être le modèle de développement notamment d’Avatar Robotics. « Plutôt que d’attendre que les robots deviennent autonomes, l’entreprise les déploie dans des entrepôts pour emballer et trier des produits, sous le contrôle d’opérateurs à distance qui pilotent leurs gestes via des casques et des manettes ». « L’entreprise ne vend pas de robots, elle facture leur utilisation à l’heure. Cela s’explique par le fait qu’une grande partie des opérateurs sont des prestataires basés au Mexique, en Colombie et aux Philippines, rémunérés entre 5 et 20 dollars de l’heure, selon leur lieu de résidence. Cette complémentarité avec des téléopérateurs permet de leur faire accomplir des tâches utiles avant même d’atteindre une autonomie complète. » « C’est comme jouer à un jeu vidéo pendant huit heures. C’est très amusant », confie Colin Webb, le patron d’Avatar. »

Pour l’instant, nul ne sait quelle quantité de données sera réellement nécessaire pour que les robots fonctionnent de manière fiable. Beaucoup estiment cependant que la demande en données pour l’entraînement des robots est encore loin d’avoir atteint son apogée. Rien ne garantit d’ailleurs que cette approche portera ses fruits. Sans compter qu’une nouvelle concurrence fait jour : la simulation, c’est-à-dire l’entraînement des robots dans des environnements virtuels, comme le propose World Labs, la startup lancée par Fei-Fei Li basée sur les World Models, capables de comprendre et simuler l’espace en 3D. Récemment, Sam Padilla a fermé Eidon AI, une startup spécialisée dans les données robotiques : les marges étaient trop réduites. Les fruits n’étaient pas mûrs. 

Impossible de refuser… 

Mêmes constats chez Bloomberg : à New Delhi, des employés trient des emballages plastiques, cousent des chaussures ou des vêtements, assemblent des meubles, récoltent des produits agricoles ou soudent de l’acier avec des smartphones fixés sur le front… sans toujours savoir à quoi servent ces images, mais en appréciant le salaire supplémentaire qui vient avec. Bloomberg rappelle d’ailleurs que ces données n’intéressent pas que des entreprises américaines : les entreprises chinoises sont également de la course comme Unitree Robotics, AgiBot et UBTech Robotics. « Des milliards de micro-gestes sont capturés en temps réel, à grande échelle, à travers tout le pays. » La Chine, forte de son immense main-d’œuvre industrielle, puise directement dans son propre tissu manufacturier pour développer ses capacités d’analyse des gestes. En Inde, des start-ups comme BergLabs AI, ManuData ou Build AI équipent déjà des milliers d’ouvriers dans des dizaines d’usines. Elles sont rejointes par des entreprises de travail à la tâche, comme Awign, l’Instacart indien, qui équipe désormais leurs travailleurs de tels dispositifs. À San Francisco, la startup de robotique Drift développe une plateforme de test et d’évaluation qui collecte les enregistrements de ces plateformes pour évaluer des robots qui les reçoivent en données d’entraînement. « En Inde, les séquences filmées à la première personne – dites « égocentriques » – se négocient à plus de 7 dollars de l’heure, même à l’état brut. Lorsqu’elles sont annotées – chaque action étant alors étiquetée, comme par exemple « main droite, tranchant du couteau orienté vers la tomate » -, leur valeur grimpe à 15, voire 30 dollars de l’heure, voire davantage. « Aux États-Unis, ces mêmes données coûteraient au moins trois fois plus cher », souligne Annanya Sarthak, cofondateur d’Awign. L’un des clients d’Awign, qui développe des robots pour le secteur de la construction, recherche justement ce type d’enregistrements pour chaque tâche liée à l’édification de data centers (installation des baies, montage des processeurs graphiques (GPU), raccordement des serveurs, mise en place des systèmes de refroidissement) afin de réduire les délais de construction, de diminuer les coûts et de pallier la pénurie de main-d’œuvre. » 

Reste, souligne Bloomberg, que les ouvriers qui reçoivent ces dispositifs contre une petite prime « ignorent que leurs gestes pourraient, à terme, apprendre aux machines à coudre plus rapidement, à souder avec plus d’efficacité ou à emballer les produits avec davantage de fluidité ». Pire, si de nombreuses startups rémunèrent les travailleurs, certaines petites entreprises peu scrupuleuses ne versent parfois rien du tout. 

« Pour l’heure, cette phase de collecte de données – qui, selon les experts, pourrait durer une décennie – représente une source de revenus significative pour des centaines de milliers de personnes qui n’ont guère d’autre choix. Ce qui adviendra une fois cette période terminée est une tout autre question. « Le déséquilibre de pouvoir est flagrant dans ce système inéquitable », souligne Mishi Choudhary, fondatrice du Software Freedom Law Center d’Inde. « Les personnes qui créent cette ressource méritent de la transparence et une rémunération juste, et non des miettes jetées sous couvert d’un emploi. » » 

Pour l’instant, les travailleurs qui vendent leurs images et qui en comprennent les conséquences se rassurent. Un chef de cuisine estime qu’il ne court aucun risque, car les machines « sont incapables de ressentir des émotions ou des odeurs. » C’est bien rapidement oublier combien une recette n’est rien d’autre qu’un algorithme, qui nécessite certes des manipulations innombrables, mais d’abord des mélanges et des durées précises. En Inde, nombre d’entre eux sont conscients qu’ils creusent leur propre tombe, souligne l’Indian Express. Dans nombre d’usines qui s’équipent de ces dispositifs, la direction les justifie par la volonté d’améliorer les opérations, sans fournir aucune autre explication sur la collecte. « Dans de tels environnements, les employés sont rarement en mesure de refuser d’y participer, surtout dans des secteurs marqués par la précarité de l’emploi et une faible protection des travailleurs. » 

Collecte ET surveillance : nouvelle norme du travail

Pour The Guardian, le journaliste indépendant Anuj Behal rapporte que dans des ateliers de confection indiens où les caméras frontales sont devenues la norme (vidéo), l’ambiance a rapidement changé. « Craignant que leur productivité ne soit surveillée, les ouvrières sont devenues plus attentives à leurs moindres gestes. Les conversations qui, en temps normal, animaient les lignes de couture se sont faites plus rares. Certaines se sont concentrées davantage sur leur tâche, conscientes que la moindre erreur, pause ou distraction pouvait être capturée par une caméra. » Dans son enquête, sur 6 usines indiennes, Behal pointe qu’aucun ouvrier équipé ne reçoit de compensations pour les images filmées, alors qu’elles sont revendues derrière. Pire, « dans certaines usines, ces images servent à bien plus que l’entraînement de l’IA. Des documents consultés par Scroll.in ont révélé que certaines entreprises généraient également des rapports de productivité à partir de ces enregistrements, classant les travailleurs en fonction de leur temps de travail effectif, estimant les pertes dues aux périodes d’inactivité et même mesurant le temps passé par les travailleurs à discuter avec leurs collègues. Dans certains cas, des rapports ont ciblé des employés en particulier et ont identifié les lieux et les moments où leurs collègues se réunissaient pour socialiser. »

Pour Sarayu Natarajan, fondatrice de l’Aapti Institute, cela soulève des questions complexes en matière de propriété et de rémunération, auxquelles les cadres de travail actuels ne sont pas adaptés. Reste à savoir si les robots seront plus économiques que la main d’œuvre humaine du lumpenprolétariat indo-asiatique…, interroge pertinemment un commentateur de cette réalité pour la NPR. 

A terme, le modèle pourrait même s’étendre à bien d’autres métiers. « Fin avril, Meta a annoncé en interne le test d’un outil baptisé « Model Capability Initiative » (MCI). Ce dispositif, déployé sur les appareils professionnels aux États-Unis, enregistre les mouvements de la souris, les clics et les saisies au clavier – tout en effectuant ponctuellement des captures d’écran – afin de contribuer au développement de systèmes d’IA, capables de fonctionner sans supervision humaine », rapporte The Telegraph, suite aux révélations de Reuters sur ce programme. Plus de 1 500 employés de Meta ont signé une pétition contre le MCI et Meta a suspendu le programme fin juin parce que des personnes non autorisées au sein de l’entreprise avaient pu accéder aux données collectées. « Mais le simple fait qu’un géant de la Silicon Valley décide de déployer un tel programme témoigne d’une nouvelle norme au travail, propre à l’ère de l’IA. Il est fort probable que d’autres entreprises suivent la voie tracée par Meta. » « Nous sommes tous remplaçables aux yeux de la poignée de milliardaires qui contrôlent ces nouveaux systèmes », confie un ancien salarié de Meta. 

En France, comme aux Etats-Unis, rapporte Le Monde, beaucoup de jeunes fuient l’IA pour se tourner vers des métiers manuels. A voir l’entraînement lancé pour supplanter les pratiques manuelles par les robots, il n’est pas sûr que ce reflux vers des secteurs préservés soit une assurance de longue durée. 

Hubert Guillaud