Quotidien Hebdomadaire Mensuel

Quotidien Shaarli

March 9, 2021

GAFAM, intelligence artificielle et surveillance de masse

✍  Work-in-progress human-generated

« L’apparition de mĂ©tavers porte un coup fatal Ă  ce qu’il nous restait de libertĂ© imaginaire. Le capital y est parvenu Ă  nous vendre un ersatz de notre imaginaire, ou plus exactement un imaginaire qui n’en est pas un. Car il s’agit d’une duplication du monde par la fiction. »

Annie Lebrun autrice, essayiste et poétesse surréaliste

I. Un monde sans contacts régulé par des algorithmes


francis_addiction

Cinq des sept premiĂšres capitalisations boursiĂšres mondiales sont des entreprises de l’économie numĂ©rique cĂŽtĂ©es au Nasdaq (USA) : Alphabet (Google), Apple, Meta, (Facebook, WhatsApp, Threads, etc.), Amazon et Microsoft. Alphabet et Meta prospĂšrent sur des services en ligne "offerts". Apple et Microsoft dominent le marchĂ© des systĂšmes d'exploitation propriĂ©taires, smartphones, gadgets connectĂ©s, consoles de jeu. Amazon dĂ©tient pour sa part 46% du marchĂ© mondial des services d'infrastructures cloud (chiffres 2021).

Nvidia, Alphabet, Microsoft et Amazon : ces entreprises contrĂŽlent toutes une partie des infrastructures de l’Intelligence Artificielle (chap.IV et suivants), et elles peuvent d’ores et dĂ©jĂ  en facturer l’accĂšs.

Assises sur un trĂ©sor de guerre Ă©gal au PIB de la France et de l'Allemagne rĂ©unies, les cinq captent 25% du marchĂ© publicitaire mondial, en monĂ©tisant de gigantesques quantitĂ©s de donnĂ©es personnelles. En dernier ressort, elles n'ont de comptes Ă  rendre qu'Ă  leurs actionnaires, tout en travaillant en bonne intelligence avec la NSA (Google, Facebook), l'armĂ©e israĂ©lienne (Google) ou les services secrets britanniques (Amazon). Les victimes consentantes de la loi de Metcalfe (ou « effet de rĂ©seau » ) qui scrollent leurs notifications cent fois par jour n'en ont cure. La perception qu'ont d'eux-mĂȘmes et de la sociĂ©tĂ© les milliards d'individus connectĂ©s Ă  ces plateformes signe un changement civilisationnel dont la gĂ©nĂ©ration prĂ©cĂ©dente se formait une idĂ©e bien naĂŻve; si l'on se souvient de la rĂ©ception du Minitel en France...

Les « habits neufs de l’hĂ©gĂ©monie amĂ©ricaine » 1 font face au conglomĂ©rat chinois BATHX, hĂ©gĂ©monique en Asie. Depuis 2020 en effet, la Chine a Ă©levĂ© officiellement les donnĂ©es au rang de « cinquiĂšme facteur de production » aprĂšs la main-d’Ɠuvre, la terre, le capital et la technologie...

Pour prendre la mesure des mutations du capital à l'Úre numérique :
â–ș « Bifurquer avant l’impact : l’impasse du capitalisme de surveillance » Christophe Masutti , 29.08.22
â–ș L'essai de Shoshana Zuboff, « L'Ăąge du capitalisme de surveillance » 2 .

« L’insoutenable vĂ©ritĂ© sur la situation actuelle, c’est que les États-Unis et la plupart des autres dĂ©mocraties libĂ©rales ont abandonnĂ© la propriĂ©tĂ© et l’exploitation des donnĂ©es numĂ©riques aux acteurs du capitalisme de surveillance, qui, mus par des intĂ©rĂȘts politico-Ă©conomiques, concurrencent dĂ©sormais la dĂ©mocratie sur la question des droits et des principes fondamentaux qui dĂ©finiront l’ordre social de ce siĂšcle. »
Soshana Zuboff.

Pour chevaucher la croissance exponentielle des flux, les grandes plateformes (TikTok, Instagram, Youtube, etc...) ont adopté les moyens et méthodes du trading à haute fréquence, basé sur des algorithmes qui relÚvent du secret défense. Les algorithmes maintiennent le systÚme à flot en lui évitant la congestion et l'auto-destruction.

« Facebook a permis à la Russie d'interférer dans nos élections en 2016 et d'aider Trump. »
(Déclaration de la présidente lors d'une auditioparn de Marc Zuckerberg devant une commission du CongrÚs)

« La direction de Facebook a cĂ©dĂ© aux pressions d’Ankara lors de la campagne turque contre les forces kurdes syriennes en 2018. (...) C’est la directrice des opĂ©rations de Facebook elle-mĂȘme qui a scellĂ© le sort de la page officielle des forces kurdes syriennes (YPG), sur fond d’une campagne militaire turque sanglante sur le territoire syrien. » 3

En octobre 2020, les membres démocrates de la commission anti-trust à la Chambre des Représentants votaient un rapport au vitriol prÎnant le démantÚlement pur et simple des "Big Five"... AprÚs la victoire de Joe Biden, qui s'attirait nettement les faveurs et le soutien des GAFAM, l'idée a vite été enterrée.

"Compte tenu du modĂšle Ă©conomique de Facebook, fondĂ© sur la violation de la vie privĂ©e et l'exploitation des consommateurs, Facebook n'aurait jamais dĂ» ĂȘtre autorisĂ© Ă  acquĂ©rir WhatsApp. L'heure du dĂ©mantĂšlement de Facebook a sonnĂ©. Il est temps d'agir. " ("The time to break up Facebook has come. The time to act is now.") pouvait-on lire dans le Guardian du 14 mai 2021.

Il faut rĂ©guler les Big Tech continuent de rĂ©pĂ©ter en coeur les mieux-disants de tous bords. D'accord. Mais Ă  la cadence sidĂ©rante de 43 milliards de publications par jour sur Facebook (estimation), 1000 milliards d’heures de vues par jour sur YouTube (dont 700 milliards choisis par l’algorithme) de quoi parle-t-on, lĂ  ? La prĂ©tention Ă  "rĂ©guler" quelque chose sans toucher aux clĂ©s de ce business-model forcenĂ© a-t-elle encore un sens ? (non).

II. Modération privée et législation publique ne sont pas conciliables


Toutes plateformes confondues, plus de 150.000 philippins modĂ©rent des contenus pour des salaires variant entre 2 et 6 dollars de l’heure. [donnĂ©es Ă  rĂ©actualiser] Pas besoin d'ĂȘtre polyglotte pour trier essentiellement des images. Ces forçats du clavier sont chargĂ©s d'arbitrer le revenge porn ou le cannibalisme en dix secondes chrono. Les consignes du "guide interne FB des rĂšgles de modĂ©ration" de 300 pages ne sont que partiellement publiques, afin de ne pas tout dĂ©voiler aux malfaisants qui cherchent Ă  passer sous les radars. L' un des objectifs importants de ce document est de dĂ©gager la responsabilitĂ© juridique et morale de la firme dans le monde rĂ©el : les autorisations de diffusion des vidĂ©os de morts violentes sont accordĂ©es avec "pragmatisme", les photos d’agression physiques, de harcĂšlement, notamment des enfants, n’ont pas Ă  ĂȘtre supprimĂ©es, Ă  moins qu’elles ne rĂ©vĂšlent "un comportement sadique", les animaux peuvent ĂȘtre battus, attaquĂ©s et tuĂ©s en direct. La nuditĂ© sous toutes ses formes est gĂ©nĂ©ralement censurĂ©e, mais les « Ɠuvres d’art » artisanales rĂ©alisĂ©es Ă  la main montrant la nuditĂ© ou une activitĂ© sexuelle sont acceptĂ©es. A l'inverse, les contenus qui posent un problĂšme lĂ©gal ne disparaissent jamais et ne font jamais l’objet de sanction. Le harcĂšlement par exemple, passe totalement entre les mailles du filet.

[EDIT : Les normes de modération de Facebook sont désormais pratiquement inexistantes :
Modération sur Facebook : de nouvelles rÚgles tortueuses détaillées dans des documents internes, Le Monde - 10.01.2025 ]

« Le problĂšme, c’est que les rĂ©seaux sociaux veulent faire eux-mĂȘmes leur modĂ©ration. Mais ça se passe mal, pour des raisons politiques et managĂ©riales. Ils ont trop misĂ© sur l’IA. Facebook et YouTube rĂȘvent de supprimer la modĂ©ration faite par l’humain. Mais comme je vous le disais, l’IA est comme une boite noire. Par exemple, les Chinois ont créé des bots qui sur YouTube, suppriment tout commentaire critiquant le parti en place. Ils sont parvenus Ă  manipuler l’algorithme de YouTube pour lui faire faire ce qu’ils voulaient. C’est de la censure algorithmique. À la Silicon Valley (j’y ai dĂ©jĂ  travaillĂ© un an) les algorithmes de modĂ©ration automatisĂ©e font consensus : tout le monde veut revenir Ă  une modĂ©ration manuelle. Mais c’est un travail mal payĂ©, au SMIC (parfois moins) aux États-Unis, et on a rĂ©alisĂ© que la modĂ©ration manuelle Ă©tait trĂšs orientĂ©e pro-Trump
 »
Olivier, Ingénieur en Intelligence Artificielle.

III. Le temps d'attention, nouvel eldorado du capitalisme de surveillance


post_sponsor
L' exploitation des foules sentimentales tire parti d'une ressource humaine inĂ©puisable : le vortex Ă©motionnel. Radicalement Ă©trangĂšre aux notions de morale et de temps humain, la combinaison du deep learning (algorithmes d’apprentissage) et du big data (l'extraction des donnĂ©es) constitue la formule technique la plus performante pour s'acquiter de cette tache au meilleur coĂ»t. C'est donc bel et bien une guerre de l'attention qui est menĂ©e actuellement. On en mesure encore mal les consĂ©quences Ă  long terme, mais il semble Ă©vident que le langage, le sommeil, la capacitĂ© Ă  se concentrer et Ă  dialoguer, Ă  exercer une pensĂ©e critique, Ă  lire (vraiment) en font les frais, notamment chez les plus jeunes. 4.

Pour que les capitaux continuent d'affluer il y a un impératif : étendre toujours plus la possibilité de croiser les données des individus, des entreprises et des services publics. Les Big Five doivent donc en permanence capter de nouvelles générations d'utilisateurs et retenir ceux qui sont déjà dans la boßte (un bon gros tiers de l' humanité). Automatiser à fond la machine à cash, virtualiser la vie à outrance en entraßnant avec eux l'humanité dans la course à l'abßme, c'est leur dope. 5

La promotion massive de réseaux sociaux décentralisés s'appuyant sur l'interopérabilité et sur des standards de messagerie ouverts tel que XMPP ou ActivityPub constituerait un contre-poids au décervelage et à la privatisation-disciplinarisation-flicage de l'internet 6. Pour l'heure, aucune instance internationale, pas un seul gouvernement ni la moindre commission officielle n'en soutiennent l'idée.

En marge des réseaux mainstream, des initiés, des réfractaires, les groupes complotistes et les mafias, s'efforcent non sans succÚs de passer inaperçus au moyen du cryptage et de chaßnes de serveurs décentralisés 7 avec par définition, zéro impact sur les habitus grand public. Le darknet est un bac à sable. Et le populo gavé de Netflix peut continuer d'échanger des photos de chatons et s'endormir sur ses deux oreilles. Parfait.

Le refus individuel et les appels Ă  la dĂ©sertion pure et simple apparaĂźssent dĂšs lors comme la seule option pratique pour s'exfiltrer (partiellement) de l'emprise du capitalisme de surveillance. Mais pour la plupart des pionniers dĂ©sabusĂ©s du Net, "rien ne dit que ce sera efficace" (Laurent Chemla) 8 tant l'usage est massif, intergĂ©nĂ©rationnel, et addictif. À un journaliste qui s'entretenait avec lui et qui hĂ©sitait Ă  fermer son compte Twitter, Jaron Lanier rĂ©pondit : « Vous ne pouvez pas lutter face Ă  l’algorithme de Twitter qui est construit pour exciter vos Ă©motions nĂ©gatives et vous transformer en trou du cul. C’est le meilleur moyen de vous rendre dĂ©pendant, ce sont les mĂȘmes ressorts comportementaux que les machines Ă  sous dans les casinos » (Jaron Lanier, Wikipedia) La marginalisation des voix critiques, Ă©liminĂ©es - Aaron Swartz, E. Snowden, J. Assange...- ou noyĂ©es dans la masse, est assurĂ©e. RIP Aaron Swarz.

IV. Et l' IA dans tout çà ? 9

hallucination

Définitions

« L'enjeu anthropologique ne sera jamais de savoir si les machines pensent, mais si elles pensent à notre place. »
Marie-José Mondzain , "Peine Kapital", La Fabrique, 2026.

L' IA générative imite les raisonnements logiques et le comportement des humains incomparablement plus vite qu'eux et parfois mieux, dans de nombreuses tùches cognitives.

Le terme gĂ©nĂ©rique d' « Intelligence artificielle » est discutable. D'abord, parce que l’intelligence humaine elle-mĂȘme n’est toujours pas clairement dĂ©finie. Mais aussi parce que "IA" recouvre un ensemble de technologies et d'usages diffĂ©rents.
Le terme « intelligence numérique » fait sens surtout par opposition à l' intelligence biologique, il désigne un ordre de réalité différent de l'intelligence biologique.

Louis Derrac propose de s'en remettre Ă  une dĂ©finition minimale dĂ»e Ă  la Caisse des DĂ©pĂŽts ( Etude CollectivitĂ©s et IA – 2019) qui a le mĂ©rite de la sobriĂ©tĂ© : « un ensemble de mĂ©thodes visant Ă  faire effectuer par des ordinateurs - ou des machines - des tĂąches nĂ©cessitant normalement une intelligence humaine. »

Cette dĂ©finition Ă©carte l'idĂ©e un peu exagĂ©rĂ©e selon laquelle l’IA crĂ©erait et apprendrait entiĂšrement par elle-mĂȘme. Certes on est passĂ©s de l’IA symbolique Ă  l’IA par apprentissage automatique, c'est un bond Ă©norme, et aujourd'hui des machines apprennent toutes seules Ă  rĂ©soudre des problĂšmes que nous ne savons pas rĂ©soudre. L'IA interroge donc Ă  nouveau frais les trois lois de la robotique formulĂ©es en 1942 par les Ă©crivains de science-fiction Isaac Asimov et John W. Campbell. 10
Mais si la machine exploite ses propres rĂ©sultats (auto-Ă©valuation, apprentissage par renforcement, simulation), ses performances dĂ©pendent Ă©troitement de choix architecturaux particuliers privilĂ©giant la performance brute sur l’efficience. 11

 Contempteurs, démanteleurs, techniciens, prophÚtes et franc-tireurs

Les 800 millions d’utilisateurs actifs de ChatGPT lui adressent deux milliards cinq cent millions de messages par jour, soit 29.000 requĂȘtes par seconde. Gemini compte plus de 650 millions d'utilisateurs (estimations fin 2025).
Ce succĂšs fulgurant silencie un dĂ©bat de fond qu'alimentent quotidiennement des milliers de publications et de communications. Voici une typologie basique ⓐⓑⓒ des positionnement vis-Ă -vis de l' IA :

ⓐ Les lanceurs d'alerte et les contempteurs plaident a minima pour une rĂ©gulation drastique de l' IA gĂ©nĂ©rative : le philosophe spĂ©cialiste des technologies numĂ©riques et de l' IA Eric Sadin 12 , l'astrophysicien AurĂ©lien Barrau, l'Ă©crivain Abel Quentin. Pour l'informaticien chevronnĂ© Olivier Lefebvre l' IA gĂ©nĂ©rative est " le symbole de tout ce qui ne va pas dans notre informatique ". 13 Aux USA l' opinion est largement acquise (73%) Ă  l'idĂ©e d'une rĂ©glementation stricte de l'IA avancĂ©e. 14

ⓑ Un courant radical envisage son dĂ©mantĂšlement pur et simple : le chercheur en maths appliquĂ©es Ă  l' IA Romain Couillet, le journaliste spĂ©cialisĂ© Thibault PrĂ©vost, le chercheur Olivier C. Marchand. Dans les milieux universitaires, 1300 chercheuses et chercheurs ont publiĂ© un manifeste intitulĂ© « Face Ă  l’IAg, l’objection de conscience» qui appelle au boycot de l'IA.
Aux Etats-Unis une DĂ©claration sur la superintelligence rĂ©clame " l’interdiction du dĂ©veloppement de la superintelligence" tant que la recherche ne sera pas sĂ»re et contrĂŽlĂ©e, et tant qu'elle ne rencontrera pas une forte adhĂ©sion du public.

« L' IA c'est juste un outil »

ⓒ Le groupe central des tenant.e.s de la "rhĂ©torique de l'outil", a de l' IA « une vision instrumentale qui repose sur le postulat que les utilisateurs conservent en derniĂšre instance la maĂźtrise et le contrĂŽle sur les technologies, [cette vision] ne tient pas compte des contraintes sociales qui s’exercent sur les individus et orientent leurs usages  ». ( Olivier Lefebvre ). Demis Hassabis (DG de Google DeepMind etc.) illustre bien cet Ă©tat d'esprit : « On arrĂȘte les tchatbots ! Si on se concentrait sur la recherche mĂ©dicale, on arriverait peut-ĂȘtre Ă  dĂ©truire le cancer »

Contempteurs, régulateurs et techniciens ne postulent aucune équivalence entre l'homme et la machine.
D'autres avancent exactement le contraire. Paul Jorion par exemple annonce « la fin de l’intelligence comme propriĂ©tĂ© proprement humaine » 15 (❗)

Last but not the least, Geoffrey Hinton lui-mĂȘme (l'un des "pĂšres" de l' IA, prix Turing 2018, prix Nobel 2024 de physique, etc.) ne sait plus trop quoi en penser.

V. Un coût humain et environnemental inacceptable


Les prévisions de croissance de l' IA sont alarmantes en termes d' empreinte énergétique, d' impact socio-culturel, d'effondrement du sens du travail humain.

  • La part du numĂ©rique dans les Ă©missions de CO2 mondiales devrait passer de 3,5 % en 2019 Ă  prĂšs de 9 % en 2030. La demande de mĂ©taux pour l’ensemble des technologies numĂ©riques a explosĂ©, tout comme l’extractivisme minier extrĂȘmement polluant.
  • Dans les limites technologiques actuelles, l' amĂ©lioration des performances brutes de l' intelligence artificielle rĂ©sulte in-fine de la quantitĂ© d'Ă©nergie consommĂ©e. Google a annoncĂ© le redĂ©marrage de la centrale nuclĂ©aire Duane Arnold, dans l’Iowa, pour soutenir le dĂ©veloppement de ses infrastructures dĂ©diĂ©es Ă  l’IA. Le « Projet Stargate » Ă  500 Mds/$ de l'administration Trump 2.0 -trois fois plus cher que le programme Apollo - prĂ©voit de couvrir les Etats-Unis de centres de donnĂ©es de 5 gigawatts chacun, qui accroĂźtront drastiquement la demande en Ă©nergies fossiles, la consommation d'eau et de minerais rares, et les Ă©missions de gaz Ă  effet de serre. Sans parler des dĂ©chets !!! 16
    L' U.E et d'autres pays lui emboĂźtent le pas, tandis que Macron rĂȘve de relancer la filiĂšre nuclĂ©aire. 17
  • Les systĂšmes dĂ©cisionnels automatisĂ©s imposent « le travail sous contrainte algorithmique » (ibid.) qui se traduit par une introjection profonde de la charge mentale.
  • La course Ă  la puissance alimente une bulle financiĂšre gĂ©ante, les grands investisseurs rĂȘvent d’aboutir Ă  une IA super intelligente (IA GĂ©nĂ©rale) qui signerait la fin de l’emploi qualifiĂ©. De ce point de vue, l' IA sert parfaitement la logique fondamentale de l'accumulation capitaliste : faire tourner h24 des serveurs surpuissants permet d'intensifier au maximum le travail vivant "rĂ©siduel" crĂ©ateur de valeur, et par suite de profit, en rĂ©duisant et dĂ©qualifiant les postes de travail. 18
  • La plupart des modĂšles d’IA reposent sur l’utilisation massive d’une main-d’Ɠuvre sous-payĂ©e, prĂ©carisĂ©e, employĂ©e Ă  des tĂąches d’étiquetage des donnĂ©es, qui servent ensuite Ă  l’entraĂźnement des modĂšles. 19
  • La main d'oeuvre ubĂ©risĂ©e asservie aux plateformes numĂ©riques s' Ă©lĂšve dĂ©jĂ  Ă  plus de 200 millions de travailleur·ses dans le monde, tandis que les gĂ©ants de la tech multiplient les plans de licenciements : 30 000 postes supprimĂ©s chez Amazon, 11 000 chez Accenture, 12 000 chez Tata Consultancy Services, 15 000 chez Microsoft (qui mise tout sur l' IA) entre mai et juillet 2025, alors que l’entreprise se porte parfaitement bien.
    Burger King utilise l’IA pour envoyer des ordres aux employĂ©s (comme d’aller nettoyer les toilettes) et surveiller en permanence s’ils sont suffisamment polis avec les clients (en comptant le nombre de “bonjour”, “merci”, “je vous en prie”, “bonne journĂ©e”, etc.). " Burger King veut faire moderne avec l’IA, mais lĂ , ils transforment le salariat (prĂ©caire) en esclavage numĂ©rique. " ( Tristan Nitot )
  • CAF, France-Travail, CNAM, Assurance-Vieillesse... dans ces administrations, la gestion algorithmique des populations marginalise les personnes prĂ©caires, les personnes ĂągĂ©es, Ă©trangĂšres ou en situation de handicap. La Quadrature du Net documente cette politique depuis 2021.
  • Les nouveaux modĂšles de langage violent le droit d’auteur Ă  l’échelle mondiale - CĂ©dric Dubucq
  • Aux Etats-Unis, la prise de contrĂŽle de l’enseignement supĂ©rieur par les opĂ©rateurs de l’IA s'est faite pratiquement sans rĂ©sistance. Les IA prĂ©dictives se substituent Ă  la justice et Ă  la police, amplifiant le racisme systĂ©mique.
  • Les observateurs critiques ont introduit le concept de slop pour dĂ©crire l’impact dĂ©lĂ©tĂšre de l’IA gĂ©nĂ©rative sur nos sociĂ©tĂ©s. Le slop, c'est cette marĂ©e de contenus artificiels (images, vidĂ©os, sons, deep-fakes mĂ©langeant les trois) qui pollue l’espace informationnel mondial. L'Ăšre Trump en fait un usage intensif pour distraire l’opinion, affaiblir la vĂ©ritĂ© et instaurer un chaos Ă©pistĂ©mique. À travers cette confusion permanente, l’IA gĂ©nĂ©rative devient un outil de pouvoir et de domination substituant le vide symbolique Ă  l'action dĂ©mocratique. 20

VI. L' IA pourrait-elle favoriser l'apparition de sociétés post-capitalistes ? 21


« (...) La question d’une informatique Ă©mancipatrice ne peut aujourd’hui se rĂ©duire Ă  un dĂ©bat binaire « pour ou contre l’IA ». Il faut reconnaĂźtre la diversitĂ© des IA – gĂ©nĂ©ratives, prescriptives, symboliques, dĂ©cisionnelles, etc. – et la pluralitĂ© de leurs usages. L’enjeu est de comprendre leur place dans les systĂšmes techniques, reflets des rapports socio-Ă©conomiques, et des visions du monde. » 22
Christophe Masutti, Docilités numériques

S'il est vrai qu' aucune question complexe ne peut se réduire à un débat binaire il convient d' éviter de tirer des conclusions trop définitives du développement de l' IA.

L'Ă©conomiste CĂ©dric Durand, le chercheur en informatique thĂ©orique et militant rĂ©volutionnaire LĂ©onard Brice soutiennent donc que sous certaines conditions, un "cyber-Ă©cosocialisme" peut mettre l' IA rĂ©ellement au service de l'humanitĂ©. Pour Evgueny Morozov , « La question qui reste en suspens n’est pas de savoir si le socialisme peut socialiser l’IA tout en laissant intacte sa machinerie. Elle est de savoir si le socialisme peut devenir un projet de fabrication de mondes – qui ne se prĂ©occupe pas seulement de savoir qui sont les propriĂ©taires des machines, mais de ce que les machines permettent aux individus de faire et de devenir. »

Sur ce que pourrait ĂȘtre une IA de gauche voir aussi :
« QuitGPT » , dossier prĂ©parĂ© par Hubert Guillaud (danslesalgorithmes.net), et en particulier : « QuitGPT (3/4) : le socialisme aprĂšs l’IA ? » .
« Que faire de l'IA ? Entre risque et opportunitĂ© pour la transformation sociale et Ă©cologique » Collectif, Collection Les Partis Pris de la Fondation Copernic, 2025, 180p, 7,50€.

Selon le sociologue Juan Sebastián Carbonell au contraire, il ne peut y avoir d’IA socialiste.

Pour l'heure, en l'absence de toutes velleitĂ©s de rĂ©gulation concertĂ©e Ă  l'Ă©chelle internationale, l’alliance entre l’administration Trump et les milliardaires du secteur, entre libertarianisme, ultracapitalisme et technofascisme, annonce clairement le pire. 23
La plus totale vigileance est de mise tant que l'essentiel des investissements proviendra d'oligopoles obsĂ©dĂ©s par la quĂȘte de l' Intelligence Artificielle GĂ©nĂ©rale (IAG) capable de surpasser les humains. L'accĂ©lĂ©ration spĂ©culative engendre des chiffres astronomiques : 6 300 milliards de dollars pour les centres de donnĂ©es entre 2024 et 2029, une valeur globale des infrastructures liĂ©es estimĂ©e Ă  9 000 milliards de dollars d'ici Ă  2030.

« Les relations internationales se brutalisent, le systĂšme multilatĂ©ral est mis Ă  mal par des gens qui pensent qu’il vaudrait mieux avoir une confrontation de grands blocs et, avec l’IA, ça a rendu tout le monde dingue ! Les gens se disent que c’est une course Ă  la puissance et le premier qui atteint un seuil qui, d’aprĂšs moi est un mythe, c’est une fake news, l’IA gĂ©nĂ©rale, domine tous les autres pour toujours. Donc tous les coups sont permis, toutes les sĂ©curitĂ©s sautent. (...) Aux États-Unis, l’armĂ©e amĂ©ricaine a dĂ©cidĂ© la semaine derniĂšre qu’elle ne ferait plus de tests de sĂ©curitĂ© parce qu’elle veut dĂ©ployer les nouvelles IA en moins de six semaines aprĂšs leur invention. C’est un monde de fous ! »
Henri VERDIER, ex-ambassadeur français pour le numérique.

La notion d’ algocratie fait rĂ©fĂ©rence Ă  un systĂšme politique constituĂ© d’algorithmes capables de peser dans le processus dĂ©cisionnel d’une multitude d’organisations dans diffĂ©rents domaines, au point de pouvoir s'y substituer et de prĂ©empter des pouvoirs historiquement dĂ©volus aux humains.

Aux Etats-Unis, selon Woodrow Hartzog et Jessica Silbey, la destruction des institutions au profit d'une forme naissante d'algocratie aurait dĂ©jĂ  commencĂ©, notamment avec le dĂ©partement de l'efficacitĂ© gouvernementale (DOGE) et le dĂ©veloppement de systĂšmes d’IA dans les administrations amĂ©ricaines. Des dĂ©ploiement, « sans cadre lĂ©gal clair, oĂč l’expertise humaine a Ă©tĂ© marginalisĂ©e et les rĂŽles institutionnels de rĂ©sistance, supprimĂ©s ». Hartzog et Silbey laissent entrevoir le scĂ©nario d’une oligarchie hi-tech se substituant progressivement Ă  la reprĂ©sentation dĂ©mocratique.

VII. Conclusion provisoire


« L' IA aidera l’humain intellectuellement (...) tant qu'elle restera proche de l’intelligence humaine (...). Mais Ă  un stade supĂ©rieur (l’ASI – artificial super intelligence – qui surpasserait l’intelligence humaine dans tous les domaines, y compris la crĂ©ativitĂ© et les compĂ©tences sociales), l’ĂȘtre humain devra trouver quelque chose d’autre Ă  faire que rĂ©soudre les problĂšmes matĂ©riels. MĂȘme les ingĂ©nieurs travaillant sur IA ne seront plus au niveau pour continuer Ă  la programmer. »
P. Jorion

« Imaginer que les humains peuvent contrÎler une IA superintelligente, c'est un peu comme imaginer qu'une fourmi peut contrÎler le résultat d'un match de football américain qui se joue autour d'elle »
Roman Yampolskiy

Si l'on considĂšre sĂ©rieusement l'hypothĂšse de la singularitĂ© technologique, autrement dit, le moment oĂč plus rien n' Ă©chappera aux machines « superintelligentes », notre espĂšce pourrait franchir un cap anthropologique de son Ă©volution. A condition bien sĂ»r d'avoir rĂ©chappĂ© aux menaces immĂ©diates qui pĂšsent sur sa survie : destruction de la biosphĂšre, menace nuclĂ©aire, guerres impĂ©ralistes, creusement extrĂȘme des inĂ©galitĂ©s sociales, etc.

Les rapports capitalistes de production de la fin (?) du capitalocÚne sont clairement écocidaires . 24
Cette tendance autodestructrice n'est pas spécialement liée du reste à l' apparition de l' IA, pas plus que l'apparition de la guerre n'est liée à l'invention de la massue.
Y mettre un coup d'arrĂȘt afin d' ouvrir Ă  l'humanitĂ© la perspective d'un avenir soutenable relĂšve au minimum d'un mouvement international d'abolition du rĂ©gime despotique du capital. «C’est Ă  cette condition » Ă©crit Nikos Smyrnaios « que la critique de l’impĂ©rialisme numĂ©rique peut dĂ©boucher sur autre chose qu’un pessimisme bien informĂ© » 25 đŸŸ„


  • Articles gĂ©nĂ©raux

Le web pourrissant et l’IA florissante. Si nous sommes le bruit, qui sera la fureur ? Olivier Ertzscheid, 2 novembre 2025.
GAFAM Nation. La toile d’influence des gĂ©ants du web en France Observatoire des multinationales - 13.12.2022
Réseaux sociaux, les temps modÚrent Fr.Culture 18.05.2022
La Quadrature du Net : « En France, la surveillance de la population est extrĂȘmement dĂ©veloppĂ©e » Ballast, 02 Mars 2022.
Les médias sous la domination de Google et Facebook - Laurent Mauduit, Mediapart,5 jan.2022
Qui contrĂŽle Facebook ? par Romain BADOUARD, AOC, 08 juin 2021
Facebook m'a banni par P.O.L - Blog Mediapart, 01.01.2021
Libre à Lire > GAMAM > Articles liés - notamment : « GAFAM, Faut-il en finir ? » JérÎme Keinborg, 22.12.2020
Facebook-sans-boussole-morale par Tristan NITOT. mĂ j 19.02.2018
Stop aux réseaux sociaux - 10 bonnes raisons de s'en méfier et de s'en libérer Jaron LANIER, 2018
Critique de facebook Wikipedia
Comment se protéger des GAFAM ? le Wiki d'Herminien
Contre le business des réseaux sociaux et leurs nuisances par LePartisan, 2 sept.2017. => Blog Google supprimé sans préavis, cet article sera prochainement remis en ligne ici . LP, le 03.08.25

  • Intelligence Artificielle - LLM

✔ ChatGPT, c’est juste un outil ! : les impensĂ©s de la vision instrumentale de la technique Olivier Lefebvre, Terrestres, 28 juin 2025.
✔ ChatGPT partout, dĂ©mocratie nulle part - prĂ©sentation partagĂ©e en CC BY SA de Louis DERRAC
Auto-dĂ©fense contre l’IA gĂ©nĂ©rative Pigeon Gratuit archive et rĂ©pertorie les « fiches argumentatives contre l’ia » dont la publication ne convient pas forcement Ă  un format « rĂ©seaux sociaux ».
DĂ©construire les dĂ©nis de l’I.A Hubert GUILLAUD, internetactu.net, 15 Avril 2021.
Une IA écosocialiste est-elle possible ? Léonard BRICE, Inprecor, Déc. 2025
Il ne peut pas y avoir une IA socialiste Juan Sebastian CARBONELL, interwievé par Sophie Kloetzli, Usbek & Rica, 9 septembre 2025

  • Essais critiques

Les Prophùtes de l’IA - Pourquoi la Silicon Valley nous vend l’apocalypse. Thibaud Prevost, Lux Quebec, 2024, 216p.18€
Internet et libertĂ©s, 15 ans de combat de la Quadrature du Net de Mathieu Labonde, Lou Malhuret, BenoĂźt PiĂ©dallu et Axel Simon, Éditions Vuibert, 2022, 270 p. 19,90 €
La fin des choses. Bouleversements du monde de la vie , de Byung-Chul Han, traduit de l’allemand par Olivier Mannoni, Actes Sud, 2021, 144 p. 16 €
Affaires privĂ©es, Aux sources du capitalisme de surveillance de Christophe Masutti, C& F Ă©ditions, Collection SociĂ©tĂ© numĂ©rique, mars 2020, 475p. 29€

  • SynthĂšses

Économie des plateformes, de Maya Bacache-Beauvallet et Marc Bourreau, La DĂ©couverte, Coll. RepĂšres, 2022, 128p.
Questions internationales - N° 109, 14 sept. 2021. Les GAFAM : une histoire amĂ©ricaine (7 Ă  9 €)
La puissance des GAFAM : réalités, apports et dangers par Jacques Fontanel et Natalia Sushcheva, Annuaire français de relations internationales, Paris : La Documentation française, 2019, XX. hal-02196915. (gratuit)

  • Alternatives

L’interopĂ©rabilitĂ© contre la haine - La Quadrature du Net, 12 juin 2019
Mondes post-capitalistes - sous la direction de JérÎme BASCHET et Laurent JEANPIERRE, La Découverte, Cahiers Libres, 2026, 912p. Extraits en ligne de "Mondes post-capitalistes"

  • Index des noms citĂ©s

Julian Assange, Aurélien Barrau, Joe Biden, Léonard Brice, Juan Sebastiån Carbonell, Laurent Chemla, Romain Couillet, Louis Derrac, Cédric Dubucq, Cédric Durand, Hubert Guillaud, Woodrow Hartzog, Denis Hassabis, Geoffrey Hinton, Reid Hoffman, Paul Jorion, Jaron Lanier, Annie Lebrun, Olivier Lefebvre, Olivier Marchand, Marie-José Mondzain, Tristan Nitot, Thibault Prevost, Abel Quentin, Eric Sadin, Jessica Silbey, Nikos Smyrnaios, Edouard Snowden, Aaron Swarz, Shoshana Zuboff, Roman Yampolskiy, Marc Zuckerberg

▾ Annexes

Notes :


  1. Expression due Ă  Serge Sur, dans la revue Questions Internationales, dossier "GAFAM, une histoire amĂ©ricaine", cf bibliographie. 

  2. « L’ñge du capitalisme de surveillance » de Shoshana Zubof, Editions Zulma, 864 p, 26,50 €. On trouvera une minutieuse recension critique de cet ouvrage ici (=> lien) : L’ñge du capitalisme de surveillance : vers un capitalisme et une surveillance sans limites ? - Hubert Guillaud, internetactu.net, 20.01.2021. 

  3. « Facebook a censurĂ© les Kurdes syriens pour protĂ©ger son business en Turquie » Adrian Branco, 01.net 

  4. La Guerre de l’attention, comment ne pas la perdre, de Florent Souillot et Yves Marry, Ă©ditions l’ÉchappĂ©e, 2022, Collection « Pour en finir avec », 256 pages, 18 euros. 

  5. Les projections font Ă©tat d’une multiplication par 56 des revenus mondiaux gĂ©nĂ©rĂ©s par les produits et services d’intelligence artificielle, passant de 644 millions de dollars en 2016 Ă  36 milliards en 2025. L'Union europĂ©enne a rĂ©cemment estimĂ© la valeur des donnĂ©es des citoyens europĂ©ens jusqu'ici rĂ©coltĂ©es par Facebook Ă  7 000 milliards de dollars. 

  6. L'interopĂ©rabilitĂ© dans un rĂ©seau ouvert et dĂ©centralisĂ© est dĂ©fendue aussi par des avocats de la rĂ©gulation par la concurrence libre et non faussĂ©e, en effet quoiqu'elle ne modifie en rien ce modĂšle Ă©conomique, c'est " la seule solution rĂ©aliste pour limiter le pouvoir de nuisance de ces gĂ©ants, et pour rĂ©tablir un peu de concurrence et de dĂ©centralisation dans un rĂ©seau qui, sinon, n’a plus d’autre raison d’ĂȘtre autre chose qu’un simple moyen d’accĂ©der Ă  ces nouveaux silos (qu’ils devraient donc financer, eux, plutĂŽt que les factures de nos FAI)" (Laurent Chemla) 

  7. Tor, I2P, Freenet, ZeroNet... 

  8. Laurent Chemla est un pionnier de l'internet, fondateur de Gandi, et premier français inculpĂ© pour piratage en 1986 Ă  partir d'un... minitel ! 

  9. Une sĂ©lection de ressources critiques autour de l'IA, surtout gĂ©nĂ©rative. Avec des rĂ©sumĂ©s. 

    1. Un robot ne peut porter atteinte Ă  un ĂȘtre humain ni, restant passif, laisser cet ĂȘtre humain exposĂ© au danger. 2. Un robot doit obĂ©ir aux ordres donnĂ©s par les ĂȘtres humains, sauf si de tels ordres entrent en contradiction avec la premiĂšre loi. 3. Un robot doit protĂ©ger son existence dans la mesure oĂč cette protection n'entre pas en contradiction avec la premiĂšre ou la deuxiĂšme loi.

  10. C'est différent aussi de l' idée fondamentale -soutenue par exemple par le mathématicien Stéphane Mallat- selon laquelle «Les IA et les humains apprennent de façon assez similaire». Pour une analyse rigoureuse des raisons pour lesquelles les modÚles statistiques d'IA s'effondrent lorsqu'ils sont entraßnés en continu sur leurs propres données, sans supervision ni contraintes externes : AI models collapse when trained on recursively generated data .
    Pour une intuition visuelle de ce Ă  quoi ressemble l'effondrement d'un modĂšle : VIDEO. Lorsque l'IA fixe son propre reflet trop longtemps et que son infĂ©rence repose uniquement sur des statistiques plutĂŽt que sur le raisonnement, l'effondrement devient statistiquement inĂ©vitable. Il faut garder celĂ  Ă  l'esprit Ă  chaque fois qu' on entend parler de « modĂšles d'IA apprenant Ă  partir de leurs propres rĂ©sultats » sans aborder la question de l'imitation statistique. 

  11. Eric Sadin revient sur une imposture Ă  l' IA nommĂ©e Jianwei Xun : Pouvoir total : l’IA et la fin de l’imagination  

  12. Olivier Lefebvre : « ChatGPT, c’est juste un outil ! » : les impensĂ©s de la vision instrumentale de la technique 

  13. Voir aussi : Pour une Convention citoyenne sur l'Intelligence Artificielle

  14. « L’AvĂšnement de la SingularitĂ© – L’Humain Ă©branlĂ© par l’intelligence artificielle », Paul Jorion, Textuel, 124 p. 14,90 € Fiche Wikipedia 

  15. En 2022, les humains ont produit 62 milliards de kilos de dĂ©chets Ă©lectroniques, d'aprĂšs les calculs de l’institut des Nations Unies pour la formation et la recherche (Unitar). Ce chiffre reprĂ©sentait une hausse de 82 % par rapport au total des dĂ©chets Ă©lectroniques produits en 2010. 

  16. Les Ă©missions indirectes de CO2 liĂ©es aux activitĂ©s de quatre des plus importantes entreprises du numĂ©rique qui ont investi massivement dans l'IA ont augmentĂ© en moyenne de + 50 % entre 2020 et 2023, indique un rapport publiĂ© par l'Union internationale des tĂ©lĂ©communications (UIT), l'agence de l'ONU spĂ©cialisĂ©e dans les questions de numĂ©rique. Selon l'AIE, d'ici 2035 la course Ă  la puissance de l' IA fera grimper de 67% les Ă©missions de CO2 liĂ©es Ă  la consommation Ă©lectrique au niveau mondial. En France, Mistral participe Ă  un joint venture avec BPI France et le fonds Ă©mirati MGX, qui doit installer un trĂšs gros site en Seine-et-Marne, d’une capacitĂ© d’1,4 gigawatt de puissance Ă©lectrique, soit presque autant que le rĂ©acteur nuclĂ©aire EPR de Flamanville. RĂ©fĂ©rences :
    Le coĂ»t environnemental de l’IA par Emma Bougerol, Basta, FĂ©vrier 2025.
    « Intelligence artificielle: la consommation d’énergie et d’eau des centres de donnĂ©es est jugĂ©e affolante» par Armelle Bohineust, Le Figaro, mardi 04 fĂ©vrier 2025.
    « L’intelligence artificielle accĂ©lĂšre le dĂ©sastre Ă©cologique, renforce les injustices et aggrave la concentration des pouvoirs » , tribune de la coalition Hiatus, Le Monde, Jeudi 06 fĂ©vrier 2025. 

  17. C'est diffĂ©rent de l'ambition de remplacer tous les emplois pour crĂ©er de la valeur sans verser de salaire, attribuĂ©e aux investisseurs par certains critiques (Cory Doctorrow entre autres) - Ă  tord Ă  notre avis. Seul en effet le travail vivant crĂ©e de la valeur. Lire ici une analyse "marxiste" de la crypto par Chat-GPT 4.0 . Selon une Ă©tude de The Upwork Research Institute citĂ©e par Forbes (2024), “77 % des employĂ©s interrogĂ©s aux États-Unis estiment que l’introduction de l’IA a en rĂ©alitĂ© augmentĂ© leur charge de travail, au lieu de la rĂ©duire”, “PrĂšs de la moitiĂ© (47 %) des rĂ©pondants utilisant des IA Gen affirment ne pas savoir comment atteindre les gains de productivitĂ© attendus et 40 % ont le sentiment que l’entreprise a des attentes excessives par rapport Ă  leur usage des IA gĂ©nĂ©ratives.” 

  18. Sur la dĂ©gradation de l'organisation du travail Ă  l'Ăšre de l' IA ,voir Juan Sebastian Carbonell, "Un taylorisme augmentĂ©", Ă©d. Amsterdam, 192 pages, 13 euros. 

  19. Slop : l'IA et l'Ăšre du grand n'importe quoi par Thibault PrĂ©vost, arretsurimages.net, 04.05.2025. 

  20. Entendu au sens de sociĂ©tĂ©s oĂč l'ensemble des activitĂ©s humaines n'est plus assujetti aux impĂ©ratifs de l'accumulation du capital et de la production de biens et de services. 

  21. Ă  l'heure actuelle on compte 7 types de LLM cf https://ai-explorer.io/7-types-llm-guide-complet-2026/ 

  22. Sur la concentration extrĂȘme de l'IA entre les mains de quelques magnats rĂ©actionnaires, lire « L’IA est un outil pensĂ© par des capitalistes pour les capitalistes » Entretien avec Nadja Hadjadj, spĂ©cialiste de l'Ă©conomie numĂ©rique . 

  23. Cf. Alain Bihr, "L'Ecocide capitaliste", Editions Page2 & Syllepse, 2026, 1250 p. 

  24. Au-delĂ  du techno-fĂ©odalisme : pour une critique de l’impĂ©rialisme numĂ©rique Nikos Smynaios, Contretemps.eu, 17 juin 2026