ACCÈS LIBRE
04.05.2025 à 09:00
Framasoft
Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 13 janvier 2025 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.
Des contenus générés par IA qui ânonnent des textes qui ne veulent rien dire. Des images stylisées qui nous déconnectent de la réalité. L’internet zombie colonise l’internet, par un remplissage par le vide qui n’a pas d’autre enjeu que de nous désorienter.
Sur la plupart des réseaux sociaux vous avez déjà dû tomber sur ces contenus génératifs, pas nécessairement des choses très évoluées, mais des contenus étranges, qui n’ont rien à dire, qui hésitent entre développement personnel creux, blague ratée ou contenu sexy. Des vidéos qui ânonnent des textes qui ne veulent rien dire. Les spécialistes parlent de slop, de contenus de remplissages, de résidus qui peu à peu envahissent les plateformes dans l’espoir de générer des revenus. A l’image des contenus philosophiques générés par l’IA que décortique en vidéo Monsieur Phi.
Pour l’instant, ces contenus semblent anecdotiques, peu vus et peu visibles, hormis quand l’un d’entre eux perce quelque part, et en entraîne d’autres dans son flux de recommandation, selon la logique autophagique des systèmes de recommandation. Pour l’analyste Ben Thompson, l’IA générative est un parfait moteur pour produire de la publicité – et ces slops sont-ils autre chose que des contenus à la recherche de revenus ? Comme le dit le philosophe Rob Horning : « le rêve de longue date d’une quantité infinie de publicités inondant le monde n’a jamais semblé aussi proche ». Pour Jason Koebler de 404 Media, qui a enquêté toute l’année sur l’origine de ce spam IA, celui-ci est profondément relié au modèle économique des réseaux sociaux qui rémunèrent selon l’audience que les créateurs réalisent, ce qui motive d’innombrables utilisateurs à chercher à en tirer profit. Koebler parle d’ailleurs d’internet zombie pour qualifier autant cette génération de contenu automatisée que les engagements tout aussi automatisés qu’elle génère. Désormais, ce ne sont d’ailleurs plus les contenus qui sont colonisés par ce spam, que les influenceurs eux-mêmes, notamment par le biais de mannequins en maillots de bains générés par l’IA. À terme, s’inquiète Koebler, les médias sociaux pourraient ne plus rien avoir de sociaux et devenir des espaces « où le contenu généré par l’IA éclipse celui des humains », d’autant que la visibilité de ces comptes se fait au détriment de ceux pilotés par des humains. Des sortes de régies publicitaires sous stéroïdes. Comme l’explique une créatrice de contenus adultes dont l’audience a chuté depuis l’explosion des mannequins artificiels : « je suis en concurrence avec quelque chose qui n’est pas naturel ».
Ces contenus qui sont en train de coloniser les réseaux sociaux n’ont pas l’air d’inquiéter les barons de la tech, pointait très récemment Koebler en rapportant les propose de Mark Zuckerberg. D’autant que ces contenus génératifs semblent produire ce qu’on attend d’eux. Meta a annoncé une augmentation de 8 % du temps passé sur Facebook et de 6 % du temps passé sur Instagram grâce aux contenus génératifs. 15 millions de publicités par mois sur les plateformes Meta utilisent déjà l’IA générative. Et Meta prévoit des outils pour démultiplier les utilisateurs synthétiques. Le slop a également envahi la plateforme de blogs Medium, explique Wired, mais ces contenus pour l’instant demeurent assez invisibles, notamment parce que la plateforme parvient à limiter leur portée. Un endiguement qui pourrait ne pas résister au temps. À terme, les contenus produits par les humains pourraient devenir de plus en plus difficiles à trouver sur des plateformes submergées par l’IA.
On voudrait croire que les réseaux sociaux puissent finir par s’effondrer du désintérêt que ces contenus démultiplient. Il semble que ce soit l’inverse, l’internet zombie est en plein boom. Tant et si bien qu’on peut se demander, un an après le constat de l’effondrement de l’information, si nous ne sommes pas en train de voir apparaître l’effondrement de tout le reste ?
Dans sa newsletter personnelle, le chercheur et artiste Eryk Salvaggio revient à son tour sur le remplissage par l’IA, dans trois longs billets en tout point passionnants. Il souligne d’abord que ce remplissage sait parfaitement s’adapter aux algorithmes des médias sociaux. Sur Linked-in, les contenus rédigés par des LLM seraient déjà majoritaires. Même le moteur de recherche de Google valorise déjà les images et les textes générés par IA. Pour Salvaggio, avec l’IA générative toute information devient du bruit. Mais surtout, en se jouant parfaitement des filtres algorithmiques, celle-ci se révèle parfaitement efficace pour nous submerger.
Salvaggio propose d’abandonner l’idée de définir l’IA comme une technologie. Elle est devenue un projet idéologique, c’est-à-dire que « c’est une façon d’imaginer le monde qui devient un raccourci pour expliquer le monde ». Et elle est d’autant plus idéologique selon les endroits où elle se déploie, notamment quand c’est pour gérer des questions sociales ou culturelles. « L’optimisation de la capacité d’un système à affirmer son autorité est une promesse utopique brillante des technologies d’automatisation ». « L’un des aspects de l’IA en tant qu’idéologie est donc la stérilisation scientifique de la variété et de l’imprévisibilité au nom de comportements fiables et prévisibles. L’IA, pour cette raison, offre peu et nuit beaucoup au dynamisme des systèmes socioculturels ». Les gens participent à l’idéologie de l’IA en évangélisant ses produits, en diffusant ses résultats et en soutenant ses avancées pour s’identifier au groupe dominant qui l’a produit.
La production par l’IA de contenus de remplissage nécessite de se demander à qui profite ce remplissage abscons ? Pour Salvaggio, le remplissage est un symptôme qui émerge de l’infrastructure même de l’IA qui est elle-même le résultat de l’idéologie de l’IA. Pourquoi les médias algorithmiques récompensent-ils la circulation de ces contenus ? Des productions sensibles, virales, qui jouent de l’émotion sans égard pour la vérité. Les productions de remplissage permettent de produire un monde tel qu’il est imaginé. Elles permettent de contourner tout désir de comprendre le monde, car elle nous offre la satisfaction immédiate d’avoir un « sentiment sur le monde ». « L’AI Slop est un signal vide et consommé passivement, un symptôme de « l’ère du bruit », dans lequel il y a tellement de « vérité » provenant de tant de positions que l’évaluation de la réalité semble sans espoir. »
Eryk Salvaggio se demande même si le but de l’IA n’est pas justement de produire ce remplissage. Un remplissage « équipé », « armé », qui permet d’essaimer quelque chose qui le dépasse, comme quand l’IA est utilisée pour inonder les réseaux de contenus sexuels pour mieux essaimer le regard masculin. Les productions de l’IA permettent de produire une perspective, un « regard en essaim » qui permet de manipuler les symboles, de les détourner. « Les images générées par l’IA offrent le pouvoir de façonner le sens dans un monde où les gens craignent l’impuissance et l’absence de sens en les invitant à rendre les autres aussi impuissants et dénués de sens qu’eux ». Ces images « diminuent la valeur de la réalité », suggère brillamment Salvaggio. Elles créent « une esthétisation », c’est-à-dire rend la représentation conforme à un idéal. La fonction politique de ce remplissage va bien au-delà des seules représentations et des symboles, suggère-t-il encore. L’IA appliquée aux services gouvernementaux, comme les services sociaux, les transforme à leur tour « en exercice esthétique ». Notre éligibilité à une assurance maladie ou à une couverture sociale n’est pas différente de l’IA Slop. C’est cette même infrastructure vide de sens qui est pointée du doigt par ceux qui s’opposent à l’algorithmisation de l’Etat que ceux qui fuient les boucles de rétroactions délétères des médias sociaux.
Le projet DOGE d’Elon Musk, ce département de l’efficacité gouvernementale qui devrait proposer un tableau de bord permettant aux internautes de voter pour éliminer les dépenses publiques les plus inutiles, semble lui-même une forme de fusion de médias sociaux, d’idéologie de l’IA et de pouvoir pour exploiter le regard en essaim de la population et le diriger pour harceler les fonctionnaires, réduire l’État providence autour d’une acception de l’efficacité ultra-réductrice. Au final, cela produit une forme de politique qui traite le gouvernement comme une interface de médias sociaux, conçue pour amplifier l’indignation, intimider ceux qui ne sont pas d’accord et rendre tout dialogue constructif impossible. Bienvenue à la « momusocratie » , le gouvernement des trolls, de la raillerie, explique Salvaggio, cette Tyrannie des bouffons chère à l’essayiste Christian Salmon.
Mais encore, défend Salvaggio, le déversement de contenus produit par l’IA générative promet un épuisement du public par une pollution informationnelle sans précédent, permettant de perturber les canaux d’organisation, de réflexion et de connexion. « Contrôlez le filtre permet de l’orienter dans le sens que vous voulez ». Mais plus que lui donner un sens, la pollution de l’information permet de la saturer pour mieux désorienter tout le monde. Cette saturation est un excellent moyen de garantir « qu’aucun consensus, aucun compromis, ou simplement aucune compréhension mutuelle ne se produise ». Cette saturation ne vise rien d’autre que de promouvoir « la division par l’épuisement ». « Le remplissage est un pouvoir ».
« L’idéologie de l’IA fonctionne comme une croyance apolitique trompeuse selon laquelle les algorithmes sont une solution à la politique » qui suppose que les calculs peuvent prendre les décisions au profit de tous alors que leurs décisions ne sont qu’au profit de certains, en filtrant les données, les idées, les gens qui contredisent les résultats attendus. Alors que l’élection de Trump éloigne les enjeux de transparence et de régulation, l’IA va surtout permettre de renforcer l’opacité qui lui assure sa domination.
Dans la dernière partie de sa réflexion, Salvaggio estime que le remplissage est un symptôme, mais qui va produire des effets très concrets, des « expériences désintéressées », c’est-à-dire des « expériences sans intérêt et incapables de s’intéresser à quoi que ce soit ». C’est le rêve de machines rationnelles et impartiales, omniscientes, désintéressées et qui justement ne sont capables de s’intéresser à rien. Un monde où l’on confie les enfants à des tuteurs virtuels par souci d’efficacité, sans être capable de comprendre tout ce que cette absence d’humanité charrie de délétère.
L’IA s’est construite sur l’excès d’information… dans le but d’en produire encore davantage. Les médias sociaux ayant été une grande source de données pour l’IA, on comprend que les contenus de remplissage de l’IA soient optimisés pour ceux-ci. « Entraînée sur du contenu viral, l’IA produit du contenu qui coche toutes les cases pour l’amplification. Le slop de l’IA est donc le reflet de ce que voient nos filtres de médias sociaux. Et lorsque les algorithmes des médias sociaux en reçoivent les résultats, il les reconnaît comme plus susceptibles de stimuler l’engagement et les renforce vers les flux (générant plus d’engagement encore). » Dans le tonneau des Danaïdes de l’amplification, l’IA slop est le fluidifiant ultime, le contenu absurde qui fait tourner la machine sans fin.
Combattre ce remplissage par l’IA n’est une priorité ni pour les entreprises d’IA qui y trouvent des débouchés, ni pour les entreprises de médias sociaux, puisqu’il ne leur porte aucun préjudice. « Les contenus de remplissage de l’IA sont en fait la manifestation esthétique de la culture à médiation algorithmique » : « ils sont stylisés à travers plus d’une décennie d’algorithmes d’optimisation qui apprennent ce qui pousse les gens à s’engager ».
Face à ces contenus « optimisés pour performer », les artistes comme les individus qui ont tenté de partager leur travail sur les plateformes sociales ces dernières années ne peuvent pas entrer en concurrence. Ceux qui ont essayé s’y sont vite épuisés, puisqu’il faut tenir d’abord le rythme de publication infernal et infatigable que ces systèmes sont capables de produire.
« Les images générées par l’IA peuvent être interprétées comme de l’art populaire pour servir le populisme de l’IA ». Elles visent à « dépouiller les symboles de leur relation à la réalité » pour les réorganiser librement. Les gens ne connaissent pas les films mais ont vu les mèmes. Le résultat de ces images est souvent critiqué comme étant sans âme. Et en effet, le texte et les images générés par l’IA souffrent de l’absence du poids du réel, dû à l’absence de logique qui préside à leur production.
« L’ère de l’information est arrivée à son terme, et avec elle vient la fin de toute définition « objective » et « neutre » possible de la « vérité ». » L’esthétique du remplissage par l’IA n’est pas aléatoire, mais stochastique, c’est-à-dire qu’elle repose sur une variété infinie limitée par un ensemble de règles étroites et cohérentes. Cela limite notre capacité à découvrir ou à inventer de nouvelles formes de culture, puisque celle-ci est d’abord invitée à se reproduire sans cesse, à se moyenniser, à s’imiter elle-même. Les images comme les textes de l’IA reflètent le pouvoir de systèmes que nous avons encore du mal à percevoir. Ils produisent des formes de vérités universalisées, moyennisées qui nous y enferment. Comme dans une forme d’exploitation sans fin de nos représentations, alors qu’on voudrait pouvoir en sortir, comme l’expliquait dans une note pour la fondation Jean Jaurès, Melkom Boghossian, en cherchant à comprendre en quoi les algorithmes accentuent les clivages de genre. Comme s’il devenait impossible de se libérer des contraintes de genres à mesure que nos outils les exploitent et les renforcent. Cet internet de contenus absurde n’est pas vide, il est plein de sens qui nous échappent et nous y engluent. Il est plein d’un monde saturé de lui-même.
A mesure que l’IA étend son emprise sur la toile, on se demande s’il restera encore des endroits où nous en serons préservés, où nous pourrons être mis en relation avec d’autres humains, sans que tout ce qui encode les systèmes ne nous déforment.
Dans une tribune pour PubliBooks, la sociologue Janet Vertesi estime que les recherches en ligne sont devenues tellement chaotiques et irrationnelles, qu’elle a désormais recours aux dictionnaires et encyclopédies papier. « Google qui a fait fortune en nous aidant à nous frayer un chemin sur Internet se noie désormais dans ses propres absurdités générées par elle-même ». Nous voici confrontés à un problème d’épistémologie, c’est-à-dire de connaissance, pour savoir ce qui est réel et ce qui ne l’est pas. Au XXᵉ siècle, les philosophes ont défini la connaissance comme une croyance vraie justifiée. La méthode scientifique était le moyen pour distinguer la bonne science de la mauvaise, la vérité du mensonge. Mais cette approche suppose souvent qu’il n’y aurait qu’une seule bonne réponse que nous pourrions connaître si nous adoptons les bonnes méthodes et les bons outils. C’est oublier pourtant que la connaissance ne sont pas toujours indépendantes de l’expérience. Ludwig Wittgenstein a utilisé la figure du canard-lapin pour montrer comment des personnes rationnelles pouvaient en venir à avoir des points de vue irréconciliablement différents sur une même réalité. Les épistémologues se sont appuyés sur cette idée pour montrer que les personnes, selon leurs positions sociales, ont des expériences différentes de la réalité et que la connaissance objective ne pouvait naître que de la cartographie de ces multiples positions. Les sociologues de la connaissance, eux, examinent comment différents groupes sociaux en viennent à légitimer différentes manières de comprendre, souvent à l’exclusion des autres. Cela permet de comprendre comment différents faits sociaux circulent, s’affrontent ou se font concurrence, et pourquoi, dans les luttes pour la vérité, ceux qui détiennent le pouvoir l’emportent si souvent… Imposant leurs vérités sur les autres.
Mais ces questions ne faisaient pas partie des préoccupations de ceux qui ont construit internet, ni des systèmes d’IA générative qui s’en nourrissent. Depuis l’origine, internet traite toutes les informations de manière égale. Le réseau ne consiste qu’à acheminer des paquets d’informations parfaitement égaux entre eux, rappelle la sociologue. À cette neutralité de l’information s’est ajoutée une autre métaphore : celle du marché des idées, où chaque idée se dispute à égalité notre attention. Comme dans le mythe du libre marché, on a pu penser naïvement que les meilleures idées l’emporteraient. Mais ce régime épistémique a surtout été le reflet des croyances de l’Amérique contemporaine : un système de connaissance gouverné par une main invisible du marché et entretenue par des conservateurs pour leur permettre de générer une marge bénéficiaire.
« Pourtant, la connaissance n’est pas une marchandise. La « croyance vraie justifiée » ne résulte pas non plus d’une fonction d’optimisation. La connaissance peut être affinée par le questionnement ou la falsification, mais elle ne s’améliore pas en entrant en compétition avec la non-connaissance intentionnelle. Au contraire, face à la non-connaissance, la connaissance perd. » L’interrogation du monde par des mécanismes organisés, méthodiques et significatifs – comme la méthode scientifique – peut également tomber dans le piège des modes de connaissance fantômes et des impostures méthodologiques. « Lorsque toute information est plate – technologiquement et épistémologiquement – il n’y a aucun moyen d’interroger sa profondeur, ses contours ou leur absence ». En fait, « au lieu d’être organisé autour de l’information, l’Internet contemporain est organisé autour du contenu : des paquets échangeables, non pondérés par la véracité de leur substance. Contrairement à la connaissance, tout contenu est plat. Aucun n’est plus ou moins justifié pour déterminer la vraie croyance. Rien de tout cela, au fond, n’est de l’information. »
« En conséquence, nos vies sont consumées par la consommation de contenu, mais nous ne reconnaissons plus la vérité lorsque nous la voyons. Et lorsque nous ne savons pas comment peser différentes vérités, ou coordonner différentes expériences du monde réel pour regarder derrière le voile, il y a soit une cacophonie, soit un seul vainqueur : la voix la plus forte qui l’emporte. »
Contrairement à Wikipédia, encore relativement organisé, le reste du Web est devenu la proie de l’optimisation des moteurs de recherche, des technologies de classement et de l’amplification algorithmique, qui n’ont fait que promouvoir le plus promouvable, le plus rentable, le plus scandaleux. « Mais aucun de ces superlatifs n’est synonyme de connaissance ». Les systèmes qui nous fournissent nos informations ne peuvent ni mesurer ni optimiser ce qui est vrai. Ils ne s’intéressent qu’à ce sur quoi nous cliquons. Et le clou dans le cercueil est enfoncé par l’intelligence artificielle qui « inonde Internet de contenu automatisé plus rapidement que l’on ne peut licencier une rédaction ». Dans ce paysage sous stéroïdes, aucun système n’est capable de distinguer la désinformation de l’information. Les deux sont réduits à des paquets de même poids cherchant leur optimisation sur le marché libre des idées. Et les deux sont ingérés par une grande machinerie statistique qui ne pèse que notre incapacité à les distinguer.
Aucun système fondé sur ces hypothèses ne peut espérer distinguer la « désinformation » de « l’information » : les deux sont réduites à des paquets de contenu de même valeur, cherchant simplement une fonction d’optimisation dans un marché libre des idées. Et les deux sont également ingérées dans une grande machinerie statistique, qui ne pèse que notre incapacité à les discerner. Le résultat ne promet rien d’autre qu’un torrent indistinct et sans fin, « où la connaissance n’a jamais été un facteur et d’où la connaissance ne peut donc jamais émerger légitimement ». « Sans topologie de l’information, nous sommes à la dérive dans le contenu, essayant en vain de naviguer dans une cascade d’absurdités sans boussole ».
« Il est grand temps de revenir à ces méthodes et à ces questions, aux milliers d’années de gestion de l’information et d’échange de connaissances qui ont transmis non seulement des faits ou du contenu, mais aussi une appréciation de ce qu’il faut pour faire émerger des vérités », plaide Vertesi. « Il n’est pas nécessaire que ce soit un projet colonial ou réductionniste. Les connaissances d’aujourd’hui sont plurielles, distribuées, issues de nombreux lieux et peuples, chacun avec des méthodes et des forces d’ancrage uniques. Cela ne signifie pas non plus que tout est permis. Le défi consiste à s’écouter les uns les autres et à intégrer des perspectives conflictuelles avec grâce et attention, et non à crier plus fort que les autres ».
« Alors que nos vies sont de plus en plus infectées par des systèmes d’IA maladroits et pilleurs et leurs flux hallucinatoires, nous devons apprendre à évaluer plutôt qu’à accepter, à synthétiser plutôt qu’à résumer, à apprécier plutôt qu’à accepter, à considérer plutôt qu’à consommer ».
« Notre paysage technologique contemporain exige de toute urgence que nous revenions à une autre des plus anciennes questions de toutes : « Qu’est-ce qui est vraiment réel ? » »
29.04.2025 à 07:42
Framatophe
L’illusion du progrès numérique masque une réalité brutale : celle d’un monde où chaque geste alimente des systèmes de contrôle, de surveillance et d’exploitation. Ce n’est pas seulement l’intelligence artificielle, mais tout un modèle technologique, celui des plateformes, de la capture de l’attention, de l’extractivisme numérique, qu’il faut interroger. Ce texte n’invite ni à fuir ni à consentir : il appelle à politiser nos usages et à réarmer nos pratiques.
Vers la vingt-deuxième minute de cet entretien matinal sur France Inter, le 09 avril 2025, la journaliste Léa Salamé faisait dire à F. Ruffin qu’il n’y a pas d’alternatives aux GAFAM. « Vous utilisez Google Docs, vous ? ». Tout le monde utilise les outils des GAFAM, on ne peut pas faire autrement…
En écoutant ces quelques secondes, et en repassant mentalement les quelques vingt dernières années passées à militer pour le logiciel libre avec les collègues de Framasoft, je me disais que décidément, le refrain sans cesse ânonné du there is no alternative concernant les outils numériques, n’est pas un argument défaitiste, ce n’est pas non plus un constat et encore moins une lamentation, c’est un sophisme. « Vu que tout le monde les utilise, on ne peut pas faire autrement que d’utiliser soi-même les logiciels des GAFAM » est une phrase qui a une valeur contraignante : elle situe celui ou celle qui la prononce en figure de sachant et exclut la possibilité du contre-argument du logiciel libre et des formats ouverts. Elle positionne l’interlocuteur en situation de renoncement car mentionner les logiciels libres et les formats ouverts suppose un argumentaire pseudo-technique dont le coût cognitif de l’explication l’emporte sur les bénéfices potentiels de l’argument. Face aux sophismes, on est souvent démuni. Ici, il s’agit de l’argumentum ad populum : tout le monde accepte l’affirmation parce qu’un nombre suffisamment important de la population est censé la considérer comme vraie. Et il est clair que dans le bus ou entre le café et la tartine du petit déjeuner, à l’heure de l’interview dont nous parlons ici, beaucoup de personnes ont dû se sentir légitimées et ont abordé leur journée comme ces pauvres prisonniers au fond de la caverne, dans un état de cécité intellectuelle heureuse (mais quand même un peu coupable).
20 ans (et même un peu plus) ! 20 ans que Framasoft démontre, littéralement par A+B que non seulement les alternatives aux outils des GAFAM existent, mais en plus sont utilisables, fiables, souvent conviviales. Depuis que nous avons annoncé que nous n’irions plus prendre le thé à l’Éducation Nationale, nous avons vu passer des pseudo politiques publiques qui tendent vers un semblant de lueur d’espoir : de la confiance dans l’économie numérique, des directives pour les formats ouverts, des débats parlementaires où pointe parfois la question du logiciel libre dans une vague conception de la souveraineté… auxquelles répondent, tout aussi inlassablement des contrats open bar Microsoft dans les fonctions publiques (1, 2, 3), quand il ne s’agit pas carrément du pantouflage de nos ex-élus politiques chez les GAFAM. Comme on dit de l’autre côté du Rhin : Einen Esel, der keinen Durst hat, kann man nicht zum Trinken bringen, que l’Alsacien par chez moi raccourcit ainsi : « on ne donne pas à boire à un âne qui n’a pas soif », autre version de l’historique « laisse béton ». Le salut ne viendra pas des élus. Il ne viendra pas de l’économie libérale, celle-là même qui veut nous faire croire que l’échec tient surtout de nos motivations personnelles, d’un manque de performance, d’un manque de proposition.
Si le logiciel libre n’était pas performant, il ne serait pas présent absolument partout. Il suffit d’ouvrir de temps en temps le capot. Mais comme je l’ai écrit l’année dernière, c’est une situation tout aussi confortable que délétère que de pouvoir compter sur les communs sans y contribuer, ou au contraire d’y contribuer activement comme le font les multinationales pour s’octroyer des bénéfices privés sur le dos des communs. En quelques années, les transformations du monde numérique n’ont pas permis au grand public de s’approprier les outils numériques que de nouvelles frontières, floutées, sont apparues. L’une des raisons principales de l’adoption des logiciels libres dans le domaine de la bureautique personnelle consistait à tenter de s’émanciper de la logique hégémonique des grandes entreprises mondialisées qui imposent leurs pratiques au détriment des besoins réels pour se gaver des données personnelles. Or, l’intégration des services numériques et la puissance de calcul mobilisée, aux dépends de l’environnement naturel comme de nos libertés, ont crée une attraction telle que la question stratégique des pratiques personnelles est passée au second plan. Ce qui importe maintenant, ce n’est plus seulement de savoir ce que deviennent nos données personnelles ou si les logiciels nous émancipent, mais de savoir comment s’extraire du cauchemar de la production frénétique de contenus assistée par IA. Nous perdons pied.
Die Zeit Online. 21/01/2025. Capture d’écran. Source.
Cette logique productiviste numérique est au sommet de la logique formelle du capital. Elle a une histoire dont la prise de conscience collective date des années 1980, contemporaine de celle du logiciel libre. C’est Detlef Hartmann (il y a bien d’autres auteurs) qui nous en livre l’une des formulations que je trouve assez simple à comprendre. Dans Die Alternative : Leben als Sabotage (1981), D. Hartmann procède à une critique de l’idéologie capitaliste en montrant comment celle-ci tend à subsumer l’ensemble des rapports sociaux sous une logique instrumentale, formelle, qui nie les subjectivités concrètes. C’est un processus d’aliénation généralisée : ce que le capitalisme fait au travailleur dans l’atelier taylorisé, il le reproduit à l’échelle de toute la société à travers l’expansion de technologies façonnées par les intérêts du capital. La taylorisation, qu’on peut résumer en une intensification de la séparation entre conception et exécution, devient paradigmatique d’un mode de domination : elle dépouille les individus de leur autonomie, les rendant étrangers à leur propre activité. À partir des années 1970-1980, cette logique d’aliénation se déplace du seul domaine de la production industrielle vers celui de la production symbolique et intellectuelle, via l’informatisation des tâches, toujours au service du contrôle et de la rationalisation capitalistes. Dans cette perspective, ce que Hartmann appelle la « violence technologique » s’inscrit dans le prolongement de la violence structurelle du capital : elle consiste à tenter de formater les dimensions qualitatives de l’existence humaine (l’intuition, l’émotion, l’imaginaire) selon les exigences d’un ordre rationnel formel, celui du capital abstrait. Cette normalisation est une violence parce que, au profit d’une logique d’accumulation et de contrôle, elle nie la richesse des facultés humaines, elle réduit les besoins humains à des catégories qui ne représentent pas l’ensemble des possibilités humaines1. Ce faisant, elle entrave les pratiques d’émancipation, c’est-à-dire la capacité collective à transformer consciemment le monde.
La violence technologique capitaliste s’incarne à la perfection dans la broligarchie qui a contaminé notre monde numérique. Ce monde que, par excès d’universalisme autant que de positivisme, nous pensions qu’il allait réussir à connecter les peuples. Cette broligarchie joue désormais le jeu de la domination anti-démocratique. Elle foule même au pied la démocratie libérale dont pourtant nous avions compris les limites tant en termes d’inégalités que d’assujettissement des gouvernements aux intérêts économiques de quelques uns. Pour ces techbros, le combat est le même que le gouvernement chinois ou russe : le contrôle et les systèmes de contrôle ne sont pas des sujets démocratiques, il n’y a pas plus de contrat social et les choix politiques se réduisent à des choix techniques. Et il n’y a aucune raison que nous soyons exemptés dans notre start-up nation française.
Quelles sont les manifestations concrètes de ce productivisme dans nos vies ? il y a d’abord les algorithmes de contrôle qui relèvent du vieux rêve de l’automatisation généralisée dont je parlais déjà dans mon livre. Comme le montre H. Guillaud, ces systèmes décisionnels automatisés influencent les services publics, tout comme les banques ou les assurances avec une efficacité si mauvaise, entraînant des injustices, que l’erreur loin d’être corrigée devient partie intégrante du système. Le droit au recours, la nécessité démocratique du contrôle de ces systèmes, tout cela est nié parce que ces systèmes automatisés sont considérés comme des solutions, et non des problèmes. L’IA arrive alors comme le Graal tant attendu, surfant sur le boom du développement des IA génératives, les projets d’emmerdification maximale des services publics deviennent des projets d’avenir : si les caisses sont vides pour entretenir des services publics performants, utilisez l’IA pour les rendre plus productifs ! Comme l’écrit H. Guillaud :
Dans l’administration publique, l’IA est donc clairement un outil pour supprimer des emplois, constate le syndicat. L’État est devenu un simple prestataire de services publics qui doit produire des services plus efficaces, c’est-à-dire rentables et moins chers. Le numérique est le moteur de cette réduction de coût, ce qui explique qu’il soit devenu omniprésent dans l’administration, transformant à la fois les missions des agents et la relation de l’usager à l’administration. Il s’impose comme un « enjeu de croissance », c’est-à-dire le moyen de réaliser des gains de productivité.
Outre la question antédiluvienne du contrôle, cela fait bien longtemps que nous avons intériorisé l’idée que nous ne sommes pas seulement des usagers, mais surtout des produits. Ce constat ne relève plus de la révélation. Comme le montre David Lyon, c’est un choix culturel, une absorption sociale. En acceptant sans sourciller l’économie des plateformes, nous avons scellé un pacte implicite avec le capitalisme de surveillance, troquant nos données personnelles contre des services dont la pertinence est souvent discutable, dans des contrats où la vie privée se monnaie à vil prix. Ce choix, pour beaucoup, s’est imposé comme une fatalité, tant l’alternative semble absente ou inaccessible : renoncer à ces services reviendrait à se marginaliser et se priver de certains bienfaits structurels.
Pire : nous avons également intégré, souvent sans résistance, le modèle économique des plateformes parasites dont la logique repose sur l’intermédiation. Ces plateformes ne produisent rien : elles captent, organisent, et exploitent la relation entre des prestataires précaires et des clients captifs. Elles génèrent du profit non pas en créant de la valeur, mais en prélevant leur dîme sur chaque interaction. Et pourtant nous continuons à alimenter ces circuits toxiques : d’un côté, une généralisation du travail sous contrainte algorithmique, mal payé, pressurisé, et de l’autre, un mode de consommation séduisant qui reconduit en fait une exploitation des travailleurs qu’on croyait enterrée avec le siècle d’Émile Zola.
Dans sa conception classique, le logiciel libre se proposait d’effacer autant que faire se peut la distinction entre producteur et consommateur. Programmer n’est pas seulement une réponse à une demande industrielle, mais un moyen puissant d’expression personnelle et de possibilités créatives. Utiliser des programmes libres est tout autant créatif car cela renforce l’idée que l’utilisateur ne partage pas seulement un programme mais des savoirs, des rapports complexes avec les machines, au sein d’une communauté d’utilisateurs, dont font aussi partie les programmeurs.
L’efficacité et la durabilité de cette approche obéissent à une logique de « pratique réflexive ». La qualité d’un logiciel libre émerge d’une forme de « dogfooding », c’est-à-dire de la consommation directe du produit par son propre producteur, un processus d’amélioration continue. Cette pratique assure une dynamique auto-correctrice. Au sein de la communauté, la qualité du logiciel est d’autant plus renforcée par un feedback interne, où l’utilisateur se transforme en agent critique, capable d’identifier et de rectifier les dysfonctionnements de manière autonome. Il en résulte une production plus cohérente, car motivée par des intérêts personnels et collectifs qui orientent la création. Le code n’est pas seulement un produit technique, mais aussi un produit socialement inscrit dans une logique de désirs et de partage.
Code is law
Privacy is power
C’est beau, non ? Dans ces principes, oui. Mais les barrières sont de plus en plus efficaces, soit pour élever le ticket d’entrée dans les communautés d’utilisateur-ices de logiciels libres, soit pour conserver la dynamique libriste au sein même de la production de logiciels « communautaires ».
Pour le ticket d’entrée, il suffit de se mettre à la place des utilisateurs. Là où il était encore assez facile, il y a une dizaine d’années, de promouvoir l’utilisation de logiciels libres dans la bureautique personnelle, le cadre a radicalement changé : l’essentiel de nos communications et de nos productions numériques passe aujourd’hui par des services en ligne. Cela pose la question du maintien des infrastructures techniques qui sous-tendent ces services. Il y a dix ans, Nadia Eghbal constatait que, au fil du temps, le secteur de l’open source a une tendance à l’épuisement par une attitude productiviste :
Cette dernière génération de développeurs novices emprunte du code libre pour écrire ce dont elle a besoin, mais elle est rarement capable, en retour, d’apporter des contributions substantielles aux projets. Beaucoup sont également habitués à se considérer comme des « utilisateurs » de projets open source, davantage que comme les membres d’une communauté.
Aujourd’hui, cette attitude s’est radicalisée avec les outils à base d’IA générative qui se sont largement gavés de code open source. Mais en plus de cela, cela a conduit les utilisateurs à s’éloigner de plus en plus des pratiques réflexives que je mentionnais plus haut, car il est devenu aujourd’hui quasi impossible de partager des connaissances tant l’usage des services s’est personnalisé : les services d’hébergement de cloud computing, l’intégration toujours plus forte des services à base d’IA dans les smartphones, l’appel toujours plus contraignant à produire et utiliser des contenus sur des plateformes, tout cela fait que les logiciels qu’on installe habituellement sur une machine deviennent superflus. Ils existent toujours mais sont rendus invisibles sur ces plateformes. Ces dernières vivent de ces communs numériques. Elles y contribuent juste ce qu’il faut, créent au besoin des fondations ou les subventionnent fortement, mais de communautés il n’y a plus, ou alors à la marge : celleux qui installent encore des distributions GNU/Linux sur des ordinateurs personnels, celleux qui veulent encore maîtriser l’envoi et la réception de leurs courriels… Dans les usages personnels (hors cadre professionnel), tout est fait pour que l’ordinateur personnel devienne superflu. Trop subversif, sans doute. Et ainsi s’envolent les rêves d’émancipation numérique.
Même les logiciels dont on pouvait penser qu’il participaient activement à une certaine convivialité d’Internet commencent à emmerdifier les utilisateurs. Par exemple : qui a convaincu la fondation Mozilla que ce dont avaient besoin des utilisateurs de Firefox c’est d’un outil de prévisualisation des liens dont le contenu est résumé par IA ? Que ce soit utile, efficace ou pas, n’est pas vraiment la question. La question est de savoir si les surcoûts énergétiques, environnementaux et cognitifs en valent la peine. Et la réponse est non. Dans un tel cas de figure, où est la communauté d’utilisateurs ? où sont les principes libristes ?
Il faut re-former des communautés d’utilisateurs, en particulier pour des services en ligne, mais pas uniquement. Avec son projet Frama.space, basé sur Nextcloud, Framasoft a annoncé haut et fort vouloir œuvrer pour « renforcer le pouvoir d’agir des associations ». L’idée mentionnée dans le billet qui était alors consacré portait essentiellement sur la capacité des associations et autres collectifs à faire face aux attaques contre les libertés associatives, la mise en concurrence des associations, les logiques de dépolitisation et de ringardisation. Avoir un espace de cloud partagé pour ne pas dépendre des plateformes n’est pas seulement une méthode pour échapper à l’hégémonie de quelques multinationales, c’est une méthode qui permet d’échapper justement aux logiques formelles qui nous obligent à la productivité, nous contraignent aux systèmes de contrôle, et nous empêchent d’utiliser des outils communs. Nextcloud n’est pas qu’un logiciel libre dont nous pourrions nous contenter d’encourager l’installation. C’est un logiciel dont le mode de partage que nous avons adopté, en mettant à disposition des serveurs payés par des donateurs, consiste justement à outiller une communauté d’utilisateurs. Et nous pouvons le faire dans une logique libriste et émancipatrice. Les communs qui peuvent s’y greffer sont par exemple des logiciels tels l’outil de supervision Argos Panoptès ou Intros, une application spécialement dédié à la prise en main de Frama.space. Ce que Framasoft encourage, ce n’est pas seulement des outils : cela reviendrait à verser dans une forme de solutionnisme infructueux. C’est l’« encapacitation » des utilisateurs.
Mais j’ai aussi écrit plus haut qu’il ne s’agissait pas seulement de services en ligne. Pourquoi avons-nous avancé quelques pions en produisant un logiciel qui utilise de l’IA comme Lokas ? Ce logiciel n’a rien de révolutionnaire. Il tourne avec une IA spécialisée, déjà entraînée, et il existe d’autres logiciels qui font la même chose. Qu’espérons-nous ? Constituer une communauté critique et autonome autour de la question de l’IA. Lokas n’est qu’un exemple : que souhaitons-nous en faire ? Si des modèles d’IA existent, quel avenir voulons nous avec eux ou à côté d’eux ? L’enjeu consiste à construire les conditions d’émancipation numérique face à l’envahissement des pratiques qui nous contraignent à produire des contenus sans en maîtriser la cognition.
J’ai affirmé ci-dessus la raison pour laquelle nous sommes embarqués de force dans un monde où les IA génératives connaissent un tel succès, quasiment sans aucune perspective critique : elles sont considérées comme les outils ultimes de la mise en production des subjectivités, leur dés-autonomisation. Les possibilités sont tellement alléchantes dans une perspective capitaliste que tout argument limitatif comme les questions énergétiques, climatiques, sociales, politiques, éthiques sont sacrifiées d’emblée sur l’autel de la rentabilité start-upeuse au profit de l’impérialisme fascisant des techbros les plus en vue. Ce que nous souhaitons opposer à cela, tout comme Framasoft avait opposé des outils alternatifs pour « dégoogliser Internet », c’est de voir si une alternative à l’« IA über alles » est possible. La question n’est pas de savoir si nous apporterons une réponse à la pertinence de chaque outil basé sur de l’IA générative ou spécialisée. La question que nous soulevons est de savoir quelles sont nos capacités critiques et notre degré d’autonomie stratégique et collective face à des groupes d’intérêts qui nous imposent leurs propres outils de contrôle, en particulier avec des IA.
Capital (poing dans une flaque rouge), Fac. des Sciences. BNF. Collection [Mai 1968]. Affiche. Source.
Il y a vingt ans déjà, nous avions compris que culpabiliser les utilisateurs de Windows constituait non seulement une stratégie inefficace, mais surtout contre-productive, dans la mesure où elle nuisait directement à la promotion et à la légitimation des logiciels libres. Cette attitude moralisatrice présupposait une liberté de choix que la réalité technologique, sociale et économique ne garantit pas à tous. L’environnement numérique est souvent imposé par défaut, par des logiques industrielles, éducatives ou institutionnelles. La posture libriste ne peut être qu’une posture située, consciente des rapports de force et des contraintes concrètes qui pèsent sur les individus.
À l’heure de l’IA générative omniprésente, le rapport de force s’est accentué et l’enfermement technologique est aggravé. Les systèmes d’exploitation en deviennent eux-mêmes les vecteurs, comme le montre la prochaine version de Windows, où la mise à jour n’est plus un choix mais une obligation, dissimulant des logiques de captation des usages et des données.
Dans ce contexte, proposer des alternatives « sans » IA devient de plus en plus difficile – et pourrait s’avérer, à terme, irréaliste. Dans la mesure où l’environnement numérique est colonisé par les intérêts d’acteurs surpuissants, il ne s’agit plus de rejeter globalement l’IA, mais de re-politiser son usage : distinguer entre les instruments de domination et les instruments d’émancipation.
Il serait malhonnête de nier en bloc toute forme d’utilité aux systèmes d’IA. Automatiser certaines tâches, c’est un vieux rêve de l’informatique, bien antérieur à l’essor actuel de l’IA générative. Il arrive que des IA fassent ce qu’on attend d’elles, surtout dans des environnements et des rôles restreints. Lorsqu’on regarde l’histoire des techniques numériques dans l’entreprise dans la seconde moitié du XXe siècle, on constate autant de victoires que de défaites, sociales ou économiques. Mais les usages supposément vertueux sont devenus l’argument marketing préféré des entreprises de l’IA d’aujourd’hui : une vitrine bien propre, bien lisse, pour faire oublier les ravages sociaux, environnementaux et politiques que ces technologies engendrent ailleurs. Comme si quelques cas d’usage médical, par exemple en médecine personnalisée, pouvaient suffire à justifier l’opacité des systèmes, la dépendance aux infrastructures privées, la capture des données sensibles et l’accroissement des inégalités. Ce n’est pas parce qu’une technologie peut parfois servir qu’elle sert le bien commun2.
De même que la promotion des logiciels libres n’avait pas vocation à se cristalliser dans un antagonisme stérile entre Windows (ou Mac) et GNU Linux, la question d’une informatique émancipatrice ne peut aujourd’hui se réduire à un débat binaire « pour ou contre l’IA ». Il faut reconnaître la diversité des IA – génératives, prescriptives, symboliques, décisionnelles, etc. – et la pluralité de leurs usages. L’enjeu est de comprendre leur place dans les systèmes techniques, reflets des rapports socio-économiques, et des visions du monde. Les IA nouvelles, notamment génératives, connaîtront un cycle d’adoption : après l’euphorie initiale et les sur-promesses, viendra probablement une phase de décantation, une redescente vers un usage plus mesuré, plus intégré, moins spectaculaire. Selon moi, cette marche forcée prendra fin. Mais ce qui restera – les infrastructures, les dépendances, les cultures d’usage – dépendra largement de ce que nous aurons su construire en parallèle : des communautés numériques solidaires, résilientes, capables de reprendre la main sur leurs outils et de refuser les logiques de dépossession. Quelle résilience pouvons-nous opposer à la violence technologique que nous subissons ? Il ne s’agit pas d’imaginer un monde d’après, neutre ou apaisé, mais de préparer les conditions de notre autonomie dans un monde où la violence technologique est déjà notre quotidien.
— Christophe Masutti
J’emprunte cette formulation à Agnès Heller, La théorie des besoins chez Marx, Paris, Les Éditions sociales, 2024, p.51.↩︎
Pour continuer avec l’exemple de la médecine, souvent employé par les thuriféraires de l’IA-partout, on voit poindre régulièrement les mêmes problèmes que soulève depuis longtemps la surveillance algorithmique. Ainsi ce récent article dans Science relate de graves biais relatifs aux groupes sociaux (femmes et personnes noires, essentiellement) dans la recherche diagnostique lorsqu’on utilise une aide à l’analyse d’imagerie assistée par IA. ↩︎
28.04.2025 à 07:42
Khrys
Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.
Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)
Suite à l’attaque meurtrière de mardi au Cachemire, des échanges de tirs ont eu lieu durant la nuit du jeudi 24 au vendredi 25 avril entre troupes pakistanaises et indiennes le long de la ligne de contrôle (LOC), la frontière entre les deux pays. L’ONU appelle à la « retenue maximale ».
La projection en mars 2025 à Paris d’un cycle intitulé « Cinéma soudanais : défis et résiliences » a offert une occasion rare de présenter et discuter des films d’une grande richesse. La mise en valeur de ces créations alors que la société soudanaise est déchirée par la guerre, trop souvent négligée, est un moyen pour lutter contre l’oubli et les raccourcis.
Depuis plusieurs jours, un climat de terreur règne dans les campements de migrants disséminés dans la région de Sfax, dans le centre-est de la Tunisie. La Garde nationale mène une opération de grande ampleur visant à démanteler les milliers de logements de fortune érigés dans les champs d’oliviers, sur la route qui mène de Sfax à El-Amra. Selon les estimations des autorités, environ 20 000 migrants vivent dans cette zone, en attendant de traverser la Méditerranée pour rejoindre l’Italie.
That billionaires would fly private jets to luxury yachts, then board helicopters to chase the last snow-covered peaks in Europe—while attempting to silence Indigenous voices—is being seen as a microcosm of global environmental inequality.
Une dizaine d’universités et de hautes écoles suisses, parmi lesquelles l’EPFL, l’EPFZ ou les universités de Berne et de Genève, bénéficient de subventions du gouvernement américain.
Des polluants éternels en forte dose dans nos verres de vin. C’est ce qu’a découvert le réseau d’associations Pesticide Action Network (PAN) Europe, qui a analysé une cinquantaine de bouteilles, révèle Le Monde. Tous les millésimes récents contiennent des concentrations élevées d’acide trifluoroacétique (TFA). Cette contamination s’est accrue à un rythme effréné. Absent des vignes les plus anciennes, le TFA est présent dans tous les vins testés mis en bouteille après 1988, y compris ceux issus de l’agriculture biologique.
A surveillance tool meant to keep tabs on employees is leaking millions of real-time screenshots onto the open web.
“Nous entrons dans une période où le système économique mondial que nous connaissons depuis 80 ans est réinitialisé”, a averti le chef-économiste du FMI, Pierre-Olivier Gourinchas
Donald Trump a aussi assuré mardi qu’il ne comptait pas limoger le chef de la Fed, Jerome Powell, malgré ses virulentes critiques contre lui, contribuant à soulager en partie les marchés mondiaux effrayés par ses politiques agressives. Les Bourses ont ainsi rebondi en Asie ce mercredi, de Tokyo à Hong Kong
Voir aussi Trump says China tariffs will drop ‘substantially – but it won’t be zero’ (theguardian.com)
Le président états-unien, Donald Trump, a signé un décret pour accélérer l’exploration et l’exploitation des minerais contenus dans les fonds marins, y compris dans les eaux internationales.
Voir aussi Donald Trump livre les océans à l’exploitation minière (reporterre.net)
Donald Trump a signé un décret autorisant l’exploitation minière des fonds marins. Une décision à rebours des accords internationaux, qui sera mortifère pour la vie et la biodiversité des océans.
Researchers left at US climate agency say drastic cuts could leave air ‘not breathable’ and water ‘not drinkable’
The US military launched a long-range hypersonic missile Friday morning from Cape Canaveral Space Force Station in Florida on a test flight that, if successful, could pave the way for the weapon’s operational deployment later this year.
Trump appointee Ed Martin accuses the online encyclopedia of “allowing foreign actors to manipulate information and spread propaganda to the American public.”
The goal is to create a massive repository of data pulled from various agencies, according to sources familiar with the project who spoke on the condition of anonymity because they aren’t authorized to talk about it. The administration has previously sought to centralize information from a number of agencies, including the Internal Revenue Service, the Social Security Administration and Health and Human Services, among others. Palantir, a Silicon Valley data-analytics company co-founded by a Musk ally that has been used by immigration officials before for criminal investigations, is involved in building out the database.
Voir aussi Trump s’appuie sur Palantir, l’entreprise de Peter Thiel, pour déporter des migrant·es et assister le DOGE d’Elon Musk (legrandcontinent.eu)
DOGE has tapped into some of the most sensitive and valuable data in the world. Now it’s starting to put it to work.
The suit claims that the government’s demands for input on Harvard’s hiring and admissions violate the university’s First Amendment rights, and that the funding freeze hasn’t followed the procedures laid out in federal law.
A letter signed by more than 400 university heads offers a sharp rebuke to the bully-in-chief.
Voir aussi Universities (finally) band together, fight “unprecedented government overreach” (arstechnica.com)
Une descendante de survivants de la Shoah : ce que lui ont raconté ses parents de la montée du nazisme « est en train de se passer ici »
AI-powered assistants are becoming a popular business and consumer tool. The EU says “no thanks” for now.
Hallucinations algorithmiques, discriminations exacerbées, atteintes à la vie privée, dépendance des professionnel.les de santé, ou encore obstacles dans l’accès aux droits de remboursement, on ne compte plus les exemples où des IA défaillantes ont affecté la santé et les droits des premiers concernés : les patient·es.
Recall se présente sous la forme d’une frise chronologique listant des captures d’écran réalisées à intervalles réguliers. Ces captures sont interprétées par une technologie de reconnaissance d’écriture, des informations qui sont ensuite moulinées par de l’IA.
“That’s kind of one of the other reasons we wanted to build a browser, is we want to get data even outside the app to better understand you,” Srinivas said. “Because some of the prompts that people do in these AIs is purely work-related. It’s not like that’s personal.” And work-related queries won’t help the AI company build an accurate-enough dossier.
Les robots utilisés par les grands modèles de langage (LLM) pour indexer le web ne sont que la partie émergée de l’iceberg. Une étude portant sur le trafic web des clients d’une entreprise de cybersécurité proposant des services de lutte contre les bots avance que 37 % émanerait en effet de « robots malveillants » (contre 19 % il y a 10 ans), contre 14 % pour les robots légitimes, et 49 % pour les internautes humains (contre plus de 60 % il y a encore 5 ans).
L’absence de transparence sur le fonctionnement de certains outils d’intelligence artificielle inquiète. « Nous ne pouvons pas accepter de travailler uniquement avec une boîte noire […] Nous sommes une infrastructure cruciale, nous devons comprendre ce qui se passe et le contrôler. »
Being polite to your AI might make you feel warm and fuzzy, but it’s also burning through millions in electricity – literally.
Google’s AI Overviews feature credible-sounding explanations for completely made-up idioms.
With Llama 4, Meta fudged benchmarks to appear as though its new AI model is better than the competition.
Intel has tried to position itself at the forefront of the AI PC revolution, but based on the company’s latest financial report, it looks like that revolution isn’t happening yet. Despite offering dozens of AI-enabled PCs packing a Meteor Lake, Lunar Lake, or even more recently, Arrow Lake, CPU, Intel says that its older generations are seeing “much greater demand”
Big LLM is purposefully obfuscating the cost of running LLMs, because if the people actually knew the cost, they’d riot. Well, they wouldn’t riot. But they definitely stop believing all the hype surrounding AI and LLMs and especially open-source models.
In fact, I’m willing to go a step further and say you can’t actually run them.
Après deux mois de trêve, Israël a repris le 18 mars ses bombardements aériens suivis d’une offensive terrestre dans la bande de Gaza.
« L’incapacité à tenir l’engagement d’accueillir 50 enfants palestiniens en sept mois est symbolique ; elle accompagne, à mon sens, notre attentisme face à un génocide qui se poursuit »
Le gouvernement justifie ce revirement par l’engagement de l’Espagne envers le peuple palestinien.
“The federal government reaching out to our personal cellphones to identify who is Jewish is incredibly sinister,” said Barnard associate professor Debbie Becher, who is Jewish and received the text. “They are clearly targeting what most of the United States, I hope and I think, defines as freedom of speech, but only in the case of anti-Israeli speech.”
A magician who tricked her way into the Magic Circle is finally being granted membership – 34 years after she was kicked out.Sophie Lloyd says she disguised herself as a man to fool examiners into letting her join the elite society in 1991, at a time female magicians were not allowed to be members.
Other Epstein victims credited Giuffre with giving them the courage to speak out.
Le souverain pontife a succombé à un accident vasculaire cérébral qui a provoqué un coma, d’après son certificat de décès.
J. D. Vance et son entourage théologico-politique sont descendus sur Rome avec une proposition et une menace.
Le Pape François a marqué son pontificat par un changement de discours sur des questions cruciales comme l’immigration et la crise climatique, ainsi qu’une ouverture relative sur les questions morales. Il est mort à l’âge de 88 ans ce lundi 21 avril.
Deux propositions de loi ont été déposées, des syndicats de policiers s’élèvent contre le cadre légal flou, et en 2024, un nombre record de personnes a été tué par les balles policières. Mais ce jeudi, devant les experts du Comité contre la torture de l’ONU, la France a continué de faire la sourde oreille.
Malgré l’échec de son projet d’implantation au sein même du campus de Polytechnique, TotalEnergies reste omniprésent sur le plateau de Saclay et – plus généralement – dans l’écosystème de la recherche et de l’enseignement supérieur français. Mais la contestation ne faiblit pas.
Le tribunal administratif de Lille a décidé ce mercredi d’annuler la résiliation du contrat d’association avec l’État de l’établissement privé musulman de Lille, décidée par un ancien préfet en décembre 2023. […] « Sur le fond, c’est simple, tout ce qu’a dit le préfet était faux » […] C’est un camouflet pour le préfet Georges-François Leclerc, désormais en poste à Marseille, et pour le président du Conseil régional, Xavier Bertrand. Depuis l’année scolaire 2020-21, ce dernier refuse de verser le forfait d’externat au lycée même si à chaque fois, le Conseil d’État le contraint à payer. […] un éventuel appel ne serait pas suspensif. Averroès, revenu dans le giron de l’Éducation nationale avec rétroactivité à la rentrée de septembre, est en droit de réclamer des dommages économiques et moraux.
Les usages se développent, comme la consommation d’énergie et les émissions des acteurs des télécoms et des datacenters d’après l’édition 2025 de l’enquête de l’Arcep sur le numérique.
Plus de 500 000 hectares. C’est l’ampleur de la déforestation menée par Casino au Brésil selon un rapport publié le 23 avril par l’Instituto Centro de Vida (ICV), une ONG spécialisée dans l’analyse des dégâts éco-environnementaux des chaînes d’approvisionnement en viande et en soja. Un chiffre a minima : les coupes pourraient s’étendre jusqu’à 50 fois la taille de la capitale française.
Depuis son arrivée en France en 2013, l’enseigne Primark a connu un succès fulgurant. Mais au sein de la multinationale irlandaise de la fast-fashion, les salarié·es sont au bout du rouleau. Ils et elles ont fait grève en mars.
À l’hôpital, les internes doivent assumer d’importantes responsabilités dans des conditions très difficiles, avec des horaires à rallonge pouvant mener au burn-out et la dépression
Dans une interview à « Paris Match », Hélène Perlant, ancienne élève de Notre-Dame-de-Bétharram, décrit par ailleurs un établissement scolaire « organisé comme une secte ou un régime totalitaire » pour que les élèves « se taisent ».
Voir aussi Affaire Bétharram : la fille de François Bayrou met à mal la défense du Premier ministre (huffingtonpost.fr)
Hélène Perlant assure que son père s’est rendu au domicile du juge Christian Mirande pour parler de l’affaire, ce que François Bayrou avait toujours nié.
C’est la première fois que la chanteuse de 34 ans évoque publiquement son agression. À ses côtés dans le clip mis en ligne, la comédienne Charlotte Arnould, qui accuse Gérard Depardieu de viols, ou Caroline Darian, la fille de Gisèle Pelicot.
Dans un rapport publié en partenariat avec Attac, l’Observatoire des multinationales propose une radiographie sans concession du groupe Bolloré et alerte sur les risques démocratiques à continuer à le considérer comme un groupe « comme les autres ».
Dans un rapport, Attac et l’Observatoire des multinationales décortiquent le « système Bolloré », expliquant comment le milliardaire, dans l’indifférence, voire avec le soutien des pouvoirs publics, a acquis son empire médiatique. Et s’inquiètent d’une trésorerie largement positive qui laisse craindre le pire.
Les filiales Lagardère Media et Hachette Livre sont visées par un redressement fiscal de près de 200 millions d’euros […] Bercy leur a respectivement adressé 189,9 millions et 6,5 millions d’euros de rectification pour l’année 2024. Une annonce à rebours de la communication du groupe, qui a loué une année record.
Dans la galaxie des médias d’extrême droite, Frontières occupe une place centrale. Le jeune média identitaire peut compter sur le soutien de l’écosystème pour diffuser ses idées réactionnaires, parfois aux frais du contribuable.
Quand on dit que la dépense publique c’est 57 % du PIB, la plupart des gens imagine que l’on prélève plus de la moitié de la richesse créée par le privé, qui serait le seul secteur productif, pour payer les fonctionnaires. Tout est faux dans cette phrase.
Lors de la séance du 24 avril, les partenaires sociaux présents (Medef, CPME, CFDT, CFE-CGC) ont fait un pas de côté, en effleurant le sujet d’une dose de retraite par capitalisation, en sus du système par répartition, sans parvenir à une proposition commune concrète. Ils n’excluent pas de lancer une négociation distincte incluant les quatre organisations absentes (U2P, FO, CGT et CFTC).
Voir aussi Retraite par capitalisation : le retour d’un débat explosif (lessentieldeleco.fr)
La retraite par capitalisation revient dans le débat public, sur fond de réforme des retraites et de tensions démographiques croissantes.
Et Retraites : 68 % des Français·es favorables à un référendum, 73 % des salarié·es pour l’abrogation de la réforme à 64 ans (humanite.fr)
« Attention aux publicités mensongères : dans plusieurs pays où les retraites ont été capitalisées, c’est-à-dire jouées en Bourse pour les intérêts des fonds de pension ou des banques, tout a été perdu lors des différentes crises financières […] Avec la capitalisation, on sait ce qu’on verse mais pas ce qu’on reçoit une fois retraité. Avec le salaire socialisé, on est protégé, avec la capitalisation, on risque de perdre sa pension. »
L’Autorité des relations sociales des plateformes d’emploi, créée il y a quatre ans à l’initiative du gouvernement, devait favoriser le dialogue social entre les plateformes comme Uber et les travailleureuses. Mais c’est toujours la précarité qui règne.
Alors que deux centres d’accueil pour demandeurs d’asile (Cada) doivent fermer en Haute-Loire, des bénévoles et habitants se mobilisent, malgré un climat local et national parfois hostile et une justification budgétaire contestée.
« Le lycéen, les gens le connaissaient comme dépressif, il disait qu’il adorait Hitler. Il a envoyé un mail de 13 pages à tout le monde pour expliquer tous ses problèmes à midi » […] Le ministre de l’Intérieur Bruno Retailleau a estimé que l’attaque au couteau n’était « pas un fait divers » mais « un fait de société ». « Je pense que ce n’est pas un fait divers ce drame, cette tragédie, c’est un fait de société. Nous sommes dans une société qui a encouragé le laxisme, qui a voulu déconstruire les interdits, l’autorité, l’ordre, les hiérarchies et qui a accouché finalement de toute cette violence »
Dominique Sopo déplore le manque de réaction “de certains responsables politiques”, notamment du ministre de l’Intérieur, après l’assassinat, vendredi, d’un homme dans une mosquée du Gard. [Il] reproche au ministre de l’Intérieur de s’être “précipité à Nantes” après l’attaque dans le lycée Notre-Dame-de-Toutes-Aides […]“pour raconter à peu près n’importe quoi”. “Là, il a su s’exprimer, se déplacer, se prendre pendant quelques instants pour le ministre de l’EN mais, en tant que ministre des cultes, lorsque l’information que ce crime est au moins en partie motivé par la haine envers les musulmans, il y a un silence pour le moins assourdissant”
Au sein de la Ligue ligérienne, Stanislas Laugier fricote avec des néofascistes violents et racistes. Un fiston encombrant pour son père, Louis Laugier, directeur général de la police nationale depuis octobre 2024, nommé par Bruno Retailleau.
L’empire philanthropique du milliardaire Pierre-Édouard Stérin
« les gens le connaissaient comme dépressif ». « Il disait qu’il adorait Hitler » […] il était « réservé » et « partageait des idées bizarres, des idées nazies ».
« Le but n’est pas de nous mettre en cellule mais de nous fatiguer. » Trois antinucléaires sont repassés au tribunal pour des faits remontants à 2017. Une épopée judiciaire épuisante qui pourrait bien se terminer par une relaxe.
Pierre Nicodème, mathématicien-informaticien retraité au CNRS, rend la médaille d’honneur du CNRS, qu’il avait reçue en 2013, en réponse aux pressions du ministère de l’Enseignement supérieur sur l’IEP de Strasbourg pour maintenir le partenariat avec l’Université Reichman de Herzliya en Israël.
Des militant·es de la campagne BDS (Boycott, Désinvestissement, Sanctions) et de la CGT se sont mobilisé·es jeudi 24 avril devant la Salle Pleyel à Paris, en marge de l’assemblée générale du groupe AXA. Iels accusent l’assureur d’investir dans des entreprises d’armements liées au génocide perpétré par Israël à Gaza.
Ce 26 avril, des centaines de personnes se sont donné rendez-vous place de la Nation à Paris pour célébrer la journée de visibilité lesbienne. Une manifestation sous le prisme de la lutte contre l’extrême droite.
« Nous, on n’est pas anti-État. C’est plutôt l’État qui est anti-nous »
Les président·es d’associations de solidarité du collectif Alerte ont adressé le 18 mars au Premier ministre un recours gracieux pour lui rappeler ses obligations légales en matière de réduction de la pauvreté. En ce sens, il lui a été demandé de définir un objectif quantifié de la pauvreté pour les 5 ans à venir et de reprendre la remise au Parlement d’un rapport annuel sur le sujet. Il s’agit en effet d’une obligation prévue dans la loi du 1er décembre 2008 généralisant le revenu de solidarité active (RSA). […] Le silence du gouvernement est considéré comme un refus au bout de deux mois selon la loi. Aujourd’hui, à un peu plus d’un mois de l’échéance, une vingtaine de parlementaires déposent une question écrite au gouvernement lui demandant de respecter cette obligation légale.
Pour développer un élevage capable de fournir en singes les laboratoires français, le CNRS veut tripler la capacité d’accueil de la station de primatologie de Rousset, dans les Bouches-du-Rhône. Selon ce projet, elle deviendrait d’ici à 2030 le centre national de primatologie et fournirait une part bien plus important qu’aujourd’hui des primates non-humains dont dit avoir besoin la recherche biomédicale. […] Opposée à l’expérimentation animale en général et à celle sur les primates en particulier, l’association One Voice […] dénonce un projet « qui transforme un lieu principalement dédié à l’observation de colonies de babouins en un élevage pour de l’expérimentation animale invasive » […] Aujourd’hui, la station de Rousset accueille en majorité des babouins à des fins de recherche en éthologie, l’étude du comportement animal.
The European Commission has shown some teeth with the EU’s digital rulebook by slamming tech giants Apple and Meta with fines, and an order to stop the infringing behaviour. While we commend the strong stance, we’re concerned about whether the low fines will actually lead to change of behaviour from the tech giants.
Chrome will keep third-party cookies, a win for web giant’s ad rivals
The company is also pulling Nest thermostats out of Europe entirely, citing “unique” heating challenges.
Data on 4.7 million members was captured over almost four years from a misconfiguration that sent Google Analytics data to Google Ads.
Meta is facing a second set of lawsuits in Africa over the psychological distress experienced by content moderators […] Moderators working for Majorel in Accra claim they have suffered from depression, anxiety, insomnia and substance abuse as a direct consequence of the work they do checking extreme content.
Multiple countries in Europe are critically dependent on services provided by Microsoft. Querying mail-servers teaches that in some countries, over 70 % of all public services rely on this American provider. Europe needs to build its own infrastructure, and open source is the most robust solution.
Lorsque la France annonce la reprise des essais nucléaires en Polynésie en 1995, Tahiti s’enflamme et le monde se mobilise. Quelques mois plus tard, c’est la fin… sauf pour les victimes des retombées atomiques des 193 bombes explosées dans l’archipel. Hinamoeura Morgant-Cross est l’une d’elles.
I speak of the near-constant refrain that devious men will enter these spaces and pretend to be trans women, in order to spy on, or assault, their occupants. It obviously appals me that our trans friends are constantly cited as monsters, ubiquitously mentioned in the same breath as cisgendered male predators. […] Perhaps my conception of feminism has been mis-calibrated all this time, and true freedom for women is mandating that they carry their birth certificates around with them all day, so they can be checked by citizen genital inspectors, male and female, encouraged to presume you’re a predator first, and work backwards from there. […] The only way any of the absurdities of this ruling make sense, is if its aims are exactly what they appear to be : A punitive attack on the rights and dignity of trans people divorced from any real-world concern about safety or women’s rights, designed to demoralise and punish them simply for the crime of existing.
One way or another, we are inside a process of fundamentally changing the world. If we don’t want their plan to be the only one on offer, we have to similarly give ourselves the right to dream big, to act boldly, and make clear that it’s our vision against theirs.
Une traduction de ce texte est proposée ici : Monstruosité constitutionnelle et escroquerie monarchiste (lundi.am)
La théorie du complot qui permet de comprendre le second mandat Trump
By seeking to “liberate” Germans from a globalized world order, the Nazi government sent the national economy careening backwards.
last night the story broke of three children ages 2, 4 and 7—all U.S. citizens—being taken out of the country without due process […] the “rapid early-morning deportation” involved two mothers (one who is pregnant) and their children, including a two-year-old who suffers from a rare form of metastatic cancer and was removed without needed medication.
The Trump administration wants to make us too afraid to look out for one another. Don’t let them.One of the more pernicious effects of authoritarianism is to make the everyday participation in civic life we take for granted feel subversive. The goal isn’t to police all behavior at all times. It’s to make us fearful to the point that we police our own behavior. […] There was no video. “That’s when I learned why my VPN had gone down. It wasn’t the VPN. Someone had shut off my Wifi.” About 15 minutes after the interaction at his front door, Jackson’s Wifi was up and running again.“So there was about a 30-minute period where my Wifi was down, and it happened to be the period where these officers came to my door, which prevented my Ring camera from recording them […] I guess it could be a coincidence. But that’s a big coincidence” […] [Intimidating lawyers has become a key component of the Trump administration’s overall strategy, and this is especially true with respect to mass deportations. Immigrants detained for lacking documentation are more than 10 times more likely to get a favorable outcome if they have an attorney than if they don’t.
De passage en France pour effectuer des recherches sur son prochain livre, l’historienne, écrivaine et professeure à Yale Alice Kaplan s’inquiète des attaques menées par Donald Trump contre les universités américaines et le langage. Elle revient sur son parcours et ses travaux sur la période de l’Occupation en France et sur l’Algérie.
Claudia Jones (1915-1964) fut une grande militante du Parti Communiste états-unien et une féministe, qui a très tôt théorisé la triple oppression des femmes (de race, de classe et de genre). Après une présentation de son parcours par Carole Boyce Davies, nous publions un de ses textes les plus célèbres, rédigé en 1949.
Cette question insolite oppose deux historiens britanniques. Christopher Monk dit avoir repéré un « pénis manqué » sur la broderie médiévale, ce que conteste George Garnett qui avait réalisé un premier comptage il y a six ans.
Les canards font partie des 3 % d’oiseaux seulement dotés de pénis externes (les autres, comme les coqs ont des cloaques ), organes qu’ils ne développent qu’au printemps, avant que celui-ci ne dégénère totalement, puis repousse à la saison des amours suivante. […] En 2011, Patricia Brennan avait déjà montré que les canards se livraient une véritable guerre des sexes dans une course évolutive effrayante : l’anatomie interne des femelles évolue en effet pour empêcher l’accès aux indésirables qui forcent la copulation et leurs cloaques forment même des culs-de-sacs où vont se perdre leurs spermatozoïdes. De leur côté, les mâles développent des sexes de plus en plus longs en forme de tire-bouchon hérissés de crochets de kératine pour augmenter leur chances […] Les accouplements se font dans la majorité des cas par la coercition. Et ils ne durent que quelques secondes
Alors que l’interruption volontaire de grossesse est autorisée depuis la loi Veil du 17 janvier 1975, des femmes rencontrent encore des obstacles pour faire valoir ce droit. On leur fait la morale, on leur reproche de mal prendre leur contraceptif, on les bouscule psychologiquement. Trois expériences d’interruption volontaire de grossesse (IVG) à la limite du déni de droit.
Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.
Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).
27.04.2025 à 09:00
Framasoft
Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 19 novembre 2024 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.
Sommes-nous en passe d’entrer dans un État artificiel, c’est-à-dire un moment où la vie civique n’est plus produite que par le calcul au risque de nous dessaisir de toute action collective ?
Le philosophe Rob Horning rapporte que des chercheurs de Google ont publié un article décrivant un projet de « Machines d’Habermas » – hommage au philosophe et à sa théorie de l’espace public – décrivant des machines permettant de faciliter la délibération démocratique. L’idée consiste à utiliser des IA génératives pour générer des déclarations de groupes à partir d’opinions individuelles, en maximisant l’approbation collective par itération successive. Le but : trouver des terrains d’entente sur des sujets clivants, avec une IA qui fonctionne comme un médiateur.
Dans leur expérimentation, les chercheurs rapportent que les participants ont préféré les déclarations générées par les IA à celle des humains. Pour Horning, cela signifie peut-être que les gens « sont plus susceptibles d’être d’accord avec une position lorsqu’il semble que personne ne la défende vraiment qu’avec une position articulée par une autre personne ». Effectivement, peut-être que le fait qu’elles soient artificielles et désincarnées peut aider, mais peut-être parce que formulées par la puissance des LLM, ces propositions peuvent sembler plus claires et neutres, comme le sont souvent les productions de l’IA générative, donc plus compréhensibles et séduisantes. Les chercheurs mettent en avant l’efficacité et la rapidité de leur solution, par rapport aux délibérations humaines, lentes et inefficaces – mais reconnaissent que les propositions et les synthèses faites par les outils nécessiteraient d’être vérifiées. 404 media rapportait il y a peu le développement d’une IA pour manipuler les réseaux sociaux permettant de cibler les messages selon les discours politiques des publics. Pas sûr effectivement qu’il y ait beaucoup de différence entre les machines d’Habermas de Google et ces outils de manipulation de l’opinion.
Ces efforts à automatiser la sphère publique rappellent à Horning le livre de Hiroki Azuma, General Will 2.0 (2011) qui défendait justement l’utilisation de la surveillance à grande échelle pour calculer mathématiquement la volonté générale de la population et se passer de délibération. « Nous vivons à une époque où tout le monde est constamment dérangé par des « autres » avec lesquels il est impossible de trouver un compromis », expliquait Azuma, en boomer avant l’heure. Il suffit donc d’abandonner la présomption d’Habermas et d’Arendt selon laquelle la politique nécessite la construction d’un consensus par le biais de discussions… pour évacuer à la fois le compromis et les autres. D’où l’idée d’automatiser la politique en agrégeant les données, les comportements et en les transformant directement en décisions politiques.
Rob Horning voit dans cette expérimentation un moyen de limiter la conflictualité et de lisser les opinions divergentes. Comme on le constate déjà avec les réseaux sociaux, l’idée est de remplacer une sphère publique par une architecture logicielle, et la communication interpersonnelle par un traitement de l’information déguisé en langage naturel, explique-t-il avec acuité. « Libérer l’homme de l’ordre des hommes (la communication) afin de lui permettre de vivre sur la base de l’ordre des choses (la volonté générale) seule », comme le prophétise Azuma, correspond parfaitement à l’idéologie ultra rationaliste de nombre de projets d’IA qui voient la communication comme un inconvénient et les rencontres interpersonnelles comme autant de désagréments à éviter. « Le fantasme est d’éliminer l’ordre des humains et de le remplacer par un ordre des choses » permettant de produire la gouvernance directement depuis les données. Les intentions doivent être extraites et les LLM – qui n’auraient aucune intentionnalité (ce qui n’est pas si sûr) – serviraient de format ou de langage permettant d’éviter l’intersubjectivité, de transformer et consolider les volontés, plus que de recueillir la volonté de chacun. Pour Horning, le risque est grand de ne considérer la conscience de chacun que comme un épiphénomène au profit de celle de la machine qui à terme pourrait seule produire la conscience de tous. Dans cette vision du monde, les données ne visent qu’à produire le contrôle social, qu’à produire une illusion d’action collective pour des personnes de plus en plus isolées les unes des autres, dépossédées de la conflictualité et de l’action collective.
Mais les données ne parlent pas pour elles-mêmes, nous disait déjà Danah Boyd, qui dénonçait déjà le risque de leur politisation. La perspective que dessinent les ingénieurs de Google consiste à court-circuiter le processus démocratique lui-même. Leur proposition vise à réduire la politique en un simple processus d’optimisation et de résolution de problèmes. La médiation par la machine vise clairement à évacuer la conflictualité, au cœur de la politique. Elle permet d’améliorer le contrôle social, au détriment de l’action collective ou de l’engagement, puisque ceux-ci sont de fait évacués par le rejet du conflit. Une politique sans passion ni conviction, où les citoyens eux-mêmes sont finalement évacués. Seule la rétroaction attentionnelle vient forger les communautés politiques, consistant à soumettre ceux qui sont en désaccord aux opinions validées par les autres. La démocratie est réduite à une simple mécanique de décisions, sans plus aucune participation active. Pour les ingénieurs de Google, la délibération politique pourrait devenir une question où chacun prêche ses opinions dans une application et attend qu’un calculateur d’opinion décide de l’état de la sphère publique. Et le téléphone, à son tour, pourrait bombarder les utilisateurs de déclarations optimisées pour modérer et normaliser leurs opinions afin de lisser les dissensions à grande échelle. Bref, une sorte de délibération démocratique sous tutelle algorithmique. Un peu comme si notre avenir politique consistait à produire un Twitter sous LLM qui vous exposerait à ce que vous devez penser, sans même s’interroger sur toutes les défaillances et manipulations des amplifications qui y auraient cours. Une vision de la politique parfaitement glaçante et qui minimise toutes les manipulations possibles, comme nous ne cessons de les minimiser sur la façon dont les réseaux sociaux organisent le débat public.
Dans le New Yorker, l’historienne Jill Lepore dresse un constat similaire sur la manière dont nos communications sont déjà façonnées par des procédures qui nous échappent. Depuis les années 60, la confiance dans les autorités n’a cessé de s’effondrer, explique-t-elle en se demandant en quoi cette chute de la confiance a été accélérée par les recommandations automatisées qui ont produit à la fois un électorat aliéné, polarisé et méfiant et des élus paralysés. Les campagnes politiques sont désormais entièrement produites depuis des éléments de marketing politique numérique.
En septembre, le Stanford Digital Economy Lab a publié les Digitalist papers, une collection d’essais d’universitaires et surtout de dirigeants de la Tech qui avancent que l’IA pourrait sauver la démocratie américaine, rien de moins ! Heureusement, d’autres auteurs soutiennent l’exact inverse. Dans son livre Algorithms and the End of Politics (Bristol University Press, 2021), l’économiste Scott Timcke explique que la datafication favorise le néolibéralisme et renforce les inégalités. Dans Théorie politique de l’ère numérique (Cambridge University Press, 2023), le philosophe Mathias Risse explique que la démocratie nécessitera de faire des choix difficiles en matière de technologie. Or, pour l’instant, ces choix sont uniquement ceux d’entreprises. Pour Lepore, nous vivons désormais dans un « État artificiel », c’est-à-dire « une infrastructure de communication numérique utilisée par les stratèges politiques et les entreprises privées pour organiser et automatiser le discours politique ».
La politique se réduit à la manipulation numérique d’algorithmes d’exploration de l’attention, la confiance dans le gouvernement à une architecture numérique appartenant aux entreprises et la citoyenneté à des engagements en ligne soigneusement testés et ciblés. « Au sein de l’État artificiel, presque tous les éléments de la vie démocratique américaine – la société civile, le gouvernement représentatif, la presse libre, la liberté d’expression et la foi dans les élections – sont vulnérables à la subversion », prévient Lepore. Au lieu de prendre des décisions par délibération démocratique, l’État artificiel propose des prédictions par le calcul, la capture de la sphère publique par le commerce basé sur les données et le remplacement des décisions des humains par celles des machines. Le problème, c’est qu’alors que les États démocratiques créent des citoyens, l’État artificiel crée des trolls, formule, cinglante, l’historienne en décrivant la lente montée des techniques de marketing numérique dans la politique comme dans le journalisme.
À chaque étape de l’émergence de l’État artificiel, les leaders technologiques ont promis que les derniers outils seraient bons pour la démocratie… mais ce n’est pas ce qui s’est passé, notamment parce qu’aucun de ces outils n’est démocratique. Au contraire, le principal pouvoir de ces outils, de Facebook à X, est d’abord d’offrir aux entreprises un contrôle sans précédent de la parole, leur permettant de moduler tout ce à quoi l’usager accède. Dans l’État artificiel, l’essentiel des discours politiques sont le fait de bots. Et X semble notamment en avoir plus que jamais, malgré la promesse de Musk d’en débarrasser la plateforme. « L’État artificiel est l’élevage industriel de la vie publique, le tri et la segmentation, l’isolement et l’aliénation, la destruction de la communauté humaine. » Dans sa Théorie politique de l’ère numérique, Risse décrit et dénonce une démocratie qui fonctionnerait à l’échelle de la machine : les juges seraient remplacés par des algorithmes sophistiqués, les législateurs par des « systèmes de choix collectifs pilotés par l’IA ». Autant de perspectives qui répandent une forme de grande utopie démocratique de l’IA portée par des technoprophètes, complètement déconnectée des réalités démocratiques. Les Digitalist Papers reproduisent la même utopie, en prônant une démocratie des machines plutôt que le financement de l’éducation publique ou des instances de représentations. Dans les Digitalists Papers, seul le juriste Lawrence Lessig semble émettre une mise en garde, en annonçant que l’IA risque surtout d’aggraver un système politique déjà défaillant.
La grande difficulté devant nous va consister à démanteler ces croyances conclut Lepore. D’autant que, comme le montre plusieurs années de problèmes politiques liés au numérique, le risque n’est pas que nous soyons submergés par le faux et la désinformation, mais que nous soyons rendus toujours plus impuissants. « L’objectif principal de la désinformation n’est pas de nous persuader que des choses fausses sont vraies. Elle vise à nous faire nous sentir impuissants », disait déjà Ethan Zuckerman. Dans une vie civique artificielle, la politique devient la seule affaire de ceux qui produisent l’artifice.
21.04.2025 à 07:42
Khrys
Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.
Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)
Le rapport sur l’état du climat européen en 2024, publié conjointement par le Service Copernicus et l’Organisation météorologique mondiale (OMM) ce mardi 15 avril, décrit un Vieux Continent scindé par les extrêmes climatiques.
« Comme il y a 80 ans, Moscou et Washington sont unis dans la lutte contre un ennemi commun : ‘l’eurofascisme’ ».
l’assistance américaine à l’Ukraine n’a représenté que 480 millions d’euros depuis le début de l’année, contre 6,92 milliards pour les pays européens. Depuis le début de la guerre, l’Europe a ainsi alloué 137 milliards d’euros pour son assistance à l’Ukraine depuis 2022, contre 115 milliards pour les États-Unis.
Amendment also enshrines recognition of only two sexes, providing basis for denying gender identities
Pour la somme de 200 millions d’euros, le Danemark, un des pays les plus riches d’Europe, a conclu un accord avec le Kosovo – un des Etats les plus pauvres du continent.
Selon la Commission européenne, la loi Omnibus vise à réduire de 25 % les obligations des entreprises en matière de rapports et de 35 % celles des petites et moyennes entreprises […] Les huit ONG y voient plutôt un moyen « d’édulcorer de manière significative les lois européennes clés sur le développement durable qui ont été récemment adoptées ».
Lors de la visite de la cheffe de gouvernement d’extrême droite Giorgia Meloni, jeudi 17 avril, à Washington, le président des États-Unis a célébré leurs convergences idéologiques
Jerome Powell, le patron de la puissante Fed, a dit ce mercredi 16 avril craindre des perspectives d’inflation durable aux Etats-Unis à cause de l’offensive douanière de Donald Trump. De quoi faire repartir les marchés dans le rouge.
Cette décision, justifiée par la nécessité de « défendre la liberté d’expression des Américain·es », survient au moment où des expert·es alertent sur les risques de désinformation venus de Chine et de Russie.
If you don’t see all of this as one of the darkest days in American history, in which the President is openly embracing disappearing people without due process in the name of “liberty,” you are a part of the problem. Fascism has risen in America, and it is being aided by a foreign dictator whom Trump admires.
The self-described “coolest dictator” has big secrets to hide, according to one journalist who spoke to Al Letson.
Des influenceurs MAGA ont fait la pub de l’appli ICERAID qui veut transformer les citoyens en délateurs. Mais tout semble indiquer que le projet est une vaste arnaque.
When Secretary of State Marco Rubio announced on March 27 that 300 student visas have been revoked as a result of students participating in campus protests, 300 was the discernable number. Now the number of foreign-born students who have had their visas revoked or changed has grown to around 1,200 people — and the number continues to grow.
Dr. Lisa Anderson, 58, was born in Pennsylvania and is a U.S. citizen.
Dans un courrier très ferme signé par deux avocats de l’université et adressé à l’administration républicaine, Harvard, classée régulièrement parmi les meilleurs établissements dans le monde, avait assuré qu’elle « n’abdiquera(it) pas son indépendance ni ses droits garantis par la Constitution ».
Currently, about 70 % of Americans approve of legally recognizing the marriages of same-sex couples, a 10-percentage-point bump from 2015.
Depuis New York ou Washington, à l’Est, jusqu’à San Francisco, à l’Ouest, en passant par le Texas, au Sud, les manifestant·es ont également dénoncé la politique anti-immigration du président américain.
Analysis finds Amazon, Meta, Alphabet, Netflix, Apple and Microsoft averaged 18.8 %, compared with 29.7 % US average
Près de 1,4 milliard de personnes dans le monde vivent dans des régions où les sols agricoles sont contaminés par des métaux toxiques, alertent sept scientifiques.
Quelle est l’origine des deux satellites de Mars ? Après qu’une sonde a livré en mars des images inédites de Deimos et observé de loin Phobos, une mission spatiale japonaise impliquant la France va tenter, en octobre 2026, de résoudre ce mystère. Objectif de MMX : être la première à ramener des échantillons du système martien.
What happens when you combine Palantir — the not-at-all evil AI company named after the spying orbs from “The Lord of the Rings” — with an immigration agency that’s disappearing US residents to a South American internment camp ? The makings of one hell of a surveillance state, that’s what.
The company says it will notify users and give them a chance to opt out.
Voir aussi Meta va de nouveau entrainer ses IA sur les données des utilisateurices européen·nes (next.ink)
We need the energy in all forms, renewable, non-renewable, whatever.
Generative AI systems have a few unusual properties that make them very distinct from traditional digital services.
LG TVs will soon leverage an AI model built for showing advertisements that more closely align with viewers’ personal beliefs and emotions
There’s a somewhat concerning new trend going viral : People are using ChatGPT to figure out the location shown in pictures.
Selon Upguard, plusieurs plateformes, bricolées à partir d’un outil open-source appelé llama.cpp, ont commencé à fuir. Littéralement. Leurs serveurs ont laissé échapper près de 1 000 conversations intimes en l’espace de 24 heures, dont certaines d’une rare violence. Cinq d’entre elles décrivaient des scénarios pédocriminels détaillés
What is happening is, quite simply, annihilation. Yet our politicians keep funding it and media outlets normalize it
Les Palestinien·ne·s subissent une violence coloniale qui détruit non seulement leurs corps et leurs maisons, mais aussi leur psychisme. Génocide, déplacements forcés, blocus, humiliations quotidiennes constituent autant de traumatismes individuels et collectifs. Il est urgent de repolitiser la santé mentale pour en faire un enjeu de justice.
Depuis 70 ans, le concours annuel de photographies reconnaît les plus grandes œuvres produites l’année précédente. Cette année le cliché lauréat a été capturé par la photographe palestinienne Samar Abu Elouf pour le « New York Times ».
Les bombardements israéliens sur la bande de Gaza ont tué plus de deux cents journalistes palestiniens en dix-huit mois. Un collectif d’organisations professionnelles françaises, dont Orient XXI fait partie, a dénoncé, dans une tribune, cette hécatombe et le black-out médiatique qu’Israël organise sciemment.
La photojournaliste palestinienne, héroïne d’un documentaire sélectionné à Cannes en mai prochain, a été tuée le mercredi 16 avril dans le bombardement de sa maison familiale à Gaza.
Couronnes de fleurs sur la tête, grain de beauté sur la joue, seins nus et poing levé : Oksana Chatchko avait fait de son corps son arme. La co-créatrice ukrainienne des Femen s’est donné la mort à 31 ans le 23 juillet 2018 en France, où elle était réfugiée politique. Sept ans plus tard, la réalisatrice Charlène Favier lui rend hommage dans Oxana, au cinéma depuis mercredi 16 avril.
L’icône de l’art contemporain a organisé sa vie et son œuvre pour favoriser son emprise sur ses victimes. Le témoignage de six hommes, aujourd’hui âgés de 35 à 60 ans, doit aider à libérer la parole dans ce milieu hermétique.
Trois membres du gouvernement sont mis en cause pour « homicides involontaires », révèlent France Inter et « le Monde » ce lundi 14 avril. L’objectif est de « briser l’omerta » face à une « épidémie de suicides à l’hôpital public ».
Plusieurs établissements pénitentiaires ont été visés par des attaques entre dimanche et mardi.
La ferme laitière de la famille Maris a été déclarée, à tort, contaminée à la tuberculose bovine et a dû cesser son activité. L’État se défausse de toute responsabilité. L’exploitation qui fait vivre 17 personnes se retrouve en grande difficulté.
Près de deux décennies durant lesquelles Christian Cervantes, décédé en 2012 des suites d’un double cancer du pharynx et du plancher buccal, puis ses proches ont patiemment attendu que l’injustice dont ils ont été victimes soit reconnue.
Atteint de deux cancers liés aux pesticides, Christian Jouault est décédé jeudi 10 avril, à 70 ans. Cet ancien agriculteur était un pilier du collectif de soutien aux victimes de ces produits.
« L’Abbé Pierre, la fabrique d’un saint », livre à paraître ce jeudi, démontre que le Saint Siège avait connaissance depuis des décennies de « la dangerosité » de l’homme d’Église français accusé d’agressions sexuelles.
Écarté en novembre 2023 de l’antenne de NRJ après les plaintes de plusieurs femmes, l’animateur fera son retour le 28 avril sur la station qui a récemment débarqué Benjamin Castaldi à cause de ses mauvaises audiences.
Sur son site internet, le quotidien national a interrogé l’agresseur sexuel d’un adolescent, qui s’est suicidé en apprenant sa libération et son installation à 3 kilomètres de son domicile.
« Die-in », multiples prises de parole de la part de syndicats, associations et journalistes… Rien de cette mobilisation de plus d’une heure et demie n’aura percé, en direct, les écrans des quatre principales chaînes d’information en continu. Seules TV5Monde et France 24 s’y sont intéressées
La France a renvoyé à son tour, ce mardi 15 avril, douze agents algériens et rappelé son ambassadeur, en réponse au renvoi de douze fonctionnaires français en poste à Alger. Une première mesure qui avait été prise en réponse à l’arrestation en France d’un agent consulaire algérien. Les perspectives d’une normalisation s’éloignent.
« Aucun ordre du jour détaillé ou document de travail n’a été fourni aux organismes convoqués »
La nouvelle organisation, voulue par Emmanuel Macron et concrétisée par François Bayrou, vise à répondre à la crise de vocation et aux difficultés de recrutement.
Alors que les besoins sont croissants et que les rapports accablants s’accumulent, le gouvernement annonce un plan de refondation de l’aide sociale à l’enfance, mais pas de crédits supplémentaires.
Supprimer des financements à des associations environnementales pour les punir de leur indépendance, c’est le choix du président LR du département du Rhône. […] Il reproche à ces trois associations d’avoir co-signé un courrier critiquant le projet de port fluvial du Bordelan, à Anse, situé en bord de Saône, au nord de Lyon.
Il devait prendre fin le 15 avril. Le seuil de revente à perte majoré a finalement été prolongé de trois ans. Or, il augmente les prix pour les consommateurices, et pas les revenus des agriculteurices.
Depuis l’insurrection qui a embrasé la Nouvelle-Calédonie en mai 2024, des dizaines de détenus à la prison de Nouméa ont été transférées vers des prisons de l’Hexagone. Qualifiés de « déportations » par plusieurs associations, qui y voient l’expression d’une justice post-coloniale, ces transferts ont eu lieu dans la plus grande opacité, sans que les personnes concernées aient été prévenues.
Depuis les émeutes survenues en Nouvelle-Calédonie, plus aucun rassemblement n’est autorisé dans Nouméa et son agglomération. Pourtant, au premier jour de la visite de Manuel Valls, des partisans de la France ont pu librement chahuter le ministre des Outre-mer et l’accueillir avec des pancartes outrageantes, au motif qu’il s’agissait de cérémonies patriotiques.
les coulisses d’une campagne publicitaire de l’Agence bio. Mis en images par l’entreprise de communication The Good Company, le spot télévisé — prévu pour être diffusé à partir du 22 mai — devait vanter une France diverse et métissée, rassemblée autour de produits gourmands et sans pesticides de synthèse.[…] Le 7 avril, veille du tournage, le cabinet de la ministre a exigé des modifications déroutantes via des courriels consultés par Libération. Parmi elles, figurait la demande de « choisir un casting caucasien » en remplacement de l’acteur métis initialement sélectionné. Quant à la séquence principale du repas de famille, le personnel d’Annie Genevard désirait « remplacer » le « couscous » par du « cassoulet avec canard »
Dans le Lot-et-Garonne (47), deux travailleurs marocains auraient porté plainte pour traite d’êtres humains chez un producteur de pommes, élu du syndicat agricole proche de l’extrême droite.
Dans le contexte de l’offensive fasciste générale menée partout dans le monde, nous devons riposter, et notre détermination se porte aujourd’hui sur un milliardaire qui incarne cette internationale d’extrême droite en France : Pierre-Édouard Stérin, et ses « Nuits du Bien Commun », contre lesquelles nous appelons à une mobilisation d’ampleur.
Voir aussi À Lyon, Les Nuits du Bien Commun n’auront pas lieu ! (rebellyon.info)
« Nous dépensons trop (…) Comme si chaque Français devait 50 000 euros à la banque », a déclaré ce 15 avril François Bayrou, lors d’une conférence de presse portant sur le budget 2026.[…] Le déficit public est avant tout un problème de recettes. […] On pense bien sûr à la suppression de l’ISF, du prélèvement forfaitaire unique, à la baisse de l’impôt sur les sociétés…
À La Hague, le collectif Piscine Nucléaire Stop a obtenu l’annulation de la vente de deux parcelles à Orano. L’industriel souhaite y installer un nouveau bâtiment pour son site de retraitement des déchets nucléaires.
Nouvelle victoire sur la carte des luttes. Le 14 avril, le géant de la gestion des déchets Veolia a déclaré renoncer à son projet de stockage de déchets dangereux à Hersin-Coupigny (Pas-de-Calais). Raison invoquée : le « mur de défiance local » infranchissable […] la mobilisation de 600 à 700 habitant·es opposé·es au projet a fini par faire plier la multinationale française.
Alors que les partis et syndicats de travailleurs ont déserté les campagnes et que la droite s’y engouffre, la Confédération paysanne persévère. Levier antifasciste ?
David Maenda Kihtoko est cofondateur et président de l’association Génération Lumière. Né en 1995 à la frontière entre le Burundi et le Congo, il est aujourd’hui réfugié en France. Créée en 2017, l’association agit à la fois en France et en République démocratique du Congo (RDC). Elle milite pour une réduction de la consommation des minerais, la fin des accords commerciaux néo-coloniaux et la justice environnementale.
Des associations ont adressé via leurs avocats un courrier de mise en demeure au musée parisien. Ils lui reprochent “d’effacer le nom Tibet de la nomenclature utilisée”, sur fond de pressions de la Chine.
Voir aussi Tribune collective » Le musée Guimet efface le mot Tibet » publiée dans Libération (ldh-france.org)
Usager·es et élu·es manifesteront mardi 15 avril leur mécontentement pour dénoncer le manque de moyens accordés aux lignes Paris-Orléans-Limoges-Toulouse et Paris-Clermont-Ferrand.
Civil society organisations Bits of Freedom, Convocation Design + Research, European Digital Rights (EDRi), and Gesellschaft für Freiheitsrechte (GFF) are filing a complaint against Meta for violating the Digital Services Act (DSA).
Un discours aujourd’hui dominant dans la Silicon Valley a servi d’inspiration à J. D. Vance pour son discours de Munich : l’Europe ne devrait pas « étouffer la parole des innovateurs les plus provocants — même s’ils paraissent fous ou dangereux. Le risque pour le continent serait de se faire humilier dans la guerre de l’IA. Son auteur le plus éminent est Alex Karp, PDG de Palantir. Son livre « The Technological Republic », encore trop peu connu en Europe, est une pièce essentielle dans l’idéologie des entrepreneurs de la tech qui ont posé leurs valises à Washington.
Avec sa politique erratique de droits de douanes jamais vue depuis des décennies, le président des États-Unis veut redéfinir la mondialisation à l’avantage de son pays.
The removal of the four dams on the Klamath, which were owned by the power utility PacifiCorp, represents the first real attempt at the kind of river restoration that Indigenous nations and environmentalists have long demanded. It is the result of an improbable campaign that spanned close to half a century, roped in thousands of people, and came within an inch of collapse several times.
Derrière le mythe d’une Afrique sauvage et fascinante se cache une histoire méconnue : celle de la mise sous cloche de la nature au mépris des populations, orchestrée par des experts occidentaux.
Voir aussi Colonialisme vert, une vérité qui dérange (theconversation.com)
“The only ancient culture to develop a word for blue was the Egyptians — and as it happens, they were also the only culture that had a way to produce a blue dye.” Color is not only cultural, it is also technological. But first, perhaps, it could be a linguistic phenomenon.
Depuis 8 ans, Noëlie, victime du porno hardcore, se bat pour faire retirer les vidéos de viols en réunion qu’elle a subis : 242 pénétrations en trois jours. Avec elle, Hélène Devynck et Alice Géraud, nous avons parlé de ce qu’il faut appeler la porno-criminalité. Conditions de « tournage », effets de dissociation, recrutement sur des mensonges, fric monstre pour les uns, humiliations totales pour les autres, mort sociale, droit à l’oubli, responsabilité des consommateurs
Au congrès de la SFIO en 1906, Madeleine Pelletier monte à la tribune, habillée en homme, les cheveux courts, et harangue les militants socialistes. Elle refuse l’idée que les femmes et les hommes soient assignés à des rôles. “La femme, dit-elle, doit devenir un individu avant d’être un sexe”.
Alors qu’en France le financement des retraites par capitalisation semble intéresser de plus en plus, le Chili, un des premiers pays à adopter ce modèle, essaye d’aller vers un système de sécurité sociale.
It’s a coup.[…] we can’t fight it if we can’t see it.And we can’t see it if we don’t name it.The Russian and American presidents are now speaking the same words.They are telling the same lies.We are watching the collapse of the international order in real time.And this is just the start.[…] Some people are calling this oligarchy,but it’s actually bigger than that.These are global platforms.It’s broligarchy.
Alors que l’Islande avait ré-autorisé la chasse à la baleine jusqu’en 2029, les géants de mer seront finalement tranquilles cette année. La raison : cette chasse n’est pas rentable pour le le seul baleinier actif d’Islande, Hvalur.Le gouvernement islandais avait donné l’autorisation aux baleiniers de tuer 209 rorquals communs et de 217 baleines de Minke et ce chaque année jusqu’en 2029. Cette décision va donc épargner plus de 400 baleines !51 % des Islandais étaient contre la chasse à la baleine en 2023, une hausse de neuf points sur quatre ans, selon une enquête.
En Bolivie, l’agronome Trijidia Jimenez milite depuis 25 ans pour réhabiliter la cañahua, un grain andin plus nutritif et résistant au changement climatique que son cousin le quinoa et dont la culture avait quasiment disparu.
Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.
Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).
20.04.2025 à 09:00
Framasoft
Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 03 décembre 2024 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.
Plus une caractéristique culturelle est inhabituelle, moins elle a de chances d’être mise en évidence dans la représentation de la culture par un grand modèle de langage. L’IA saura-t-elle nous aider à identifier ce qui est nouveau ?
Dans sa newsletter, Programmable Mutter, le politiste Henry Farrell – qui a publié l’année dernière avec Abraham Newman, Underground Empire (qui vient d’être traduit chez Odile Jacob sous le titre L’Empire souterrain) un livre sur le rôle géopolitique de l’infrastructure techno-économique mise en place par les Etats-Unis – estime que le risque de l’IA est qu’elle produise un monde de similitude, un monde unique et moyen.
Comme le disait la professeure de psychologie, Alison Gopnick, dans une tribune pour le Wall Street Journal, les LLM sont assez bons pour reproduire la culture, mais pas pour introduire des variations culturelles. Ces modèles sont « centripètes plutôt que centrifuges », explique Farrell : « ils créent des représentations qui tirent vers les masses denses du centre de la culture plutôt que vers la frange clairsemée de bizarreries et de surprises dispersées à la périphérie ».
Farrell se livre alors à une expérience en générant un podcast en utilisant NotebookLM de Google. Mais le bavardage généré n’arrive pas à saisir les arguments à discuter. Au final, le système génère des conversations creuses, en utilisant des arguments surprenants pour les tirer vers la banalité. Pour Farrell, cela montre que ces systèmes savent bien plus être efficaces pour évoquer ce qui est courant que ce qui est rare.
« Cela a des implications importantes, si l’on associe cela à la thèse de Gopnik selon laquelle les grands modèles de langues sont des moteurs de plus en plus importants de la reproduction culturelle. De tels modèles ne soumettront probablement pas la culture humaine à la « malédiction de la récursivité », dans laquelle le bruit se nourrit du bruit. Au contraire, ils analyseront la culture humaine avec une perte qui la biaise, de sorte que les aspects centraux de cette culture seront accentués et que les aspects plus épars disparaîtront lors de la traduction ». Une forme de moyennisation problématique, une stéréotypisation dont nous aurons du mal à nous extraire. « Le problème avec les grands modèles est qu’ils ont tendance à sélectionner les caractéristiques qui sont communes et à s’opposer à celles qui sont contraires, originales, épurées, étranges. Avec leur généralisation, le risque est qu’ils fassent disparaître certains aspects de notre culture plus rapidement que d’autres ».
C’est déjà l’idée qu’il défendait avec la sociologue Marion Fourcadedans une tribune pour The Economist. Les deux chercheurs y expliquaient que l’IA générative est une machine pour « accomplir nos rituels sociaux à notre place ». Ce qui n’est pas sans conséquence sur la sincérité que nous accordons à nos actions et sur les connaissances que ces rituels sociaux permettent de construire. A l’heure où l’IA rédige nos CV, nos devoirs et nos rapports à notre place, nous n’apprendrons plus à les accomplir. Mais cela va avoir bien d’autres impacts, explique encore Farrell, par exemple sur l’évaluation de la recherche. Des tests ont montré que l’évaluation par l’IA ne ferait pas pire que celle par les humains… Mais si l’IA peut aussi bien que les humains introduire des remarques génériques, est-elle capable d’identifier et d’évaluer ce qui est original ou nouveau ? Certainement bien moins que les humains. Pour Farrell, il y a là une caractéristique problématique de l’IA : « plus une caractéristique culturelle est inhabituelle, moins elle a de chances d’être mise en évidence dans la représentation de la culture par un grand modèle ». Pour Farrell, ce constat contredit les grands discours sur la capacité d’innovation distribuée de l’IA. Au contraire, l’IA nous conduit à un aplatissement, effaçant les particularités qui nous distinguent, comme si nous devenions tous un John Malkovitch parmi des John Malkovitch, comme dans le film Dans la peau de John Malkovitch de Spike Jonze. Les LLM encouragent la conformité. Plus nous allons nous reposer sur l’IA, plus la culture humaine et scientifique sera aplanie, moyennisée, centralisée.