Et si l’intelligence artificielle n’avait d’intelligence que le nom ? C’est l’avertissement lancé par Anne Alombert, qui vient de publier De la bêtise artificielle (Allia, 2025). Le rapide essor de l’intelligence artificielle générative, explique-t-elle, doit nous inciter à une prise de conscience pour une meilleure appropriation collective.

[CTA2]

➤ Cet article est exceptionnellement proposé en accès libre. Pour lire tous les textes publiés chaque jour en exclusivité sur philomag.com, avoir accès au mensuel et aux archives en ligne, abonnez-vous à partir de 1€/mois.

Est-ce un abus de langage de parler d’“intelligence artificielle” ?

Anne Alombert : Sans doute. D’abord, parce que l’expression n’a rien de scientifique : quand elle a été inventée, en 1956 à la conférence de Dartmouth, c’était surtout à des fins promotionnelles, dans le but de capter des financements en faveur d’un domaine de recherche qui n’est, au fond, rien d’autre que celui du traitement informatique des données et de la programmation. Ensuite, parce que cette appellation est potentiellement dangereuse, dans la mesure où elle nous induit en erreur en nous incitant à anthropomorphiser des machines, c’est-à-dire en nous poussant à leur prêter toutes sortes de capacités, comme l’intelligence mais aussi l’apprentissage et l’inventivité, voire la compréhension, l’empathie, la parole, etc.

“La pernicieuse appellation d’intelligence artificielle nous incite à anthropomorphiser des machines et à leur prêter toutes sortes de capacités qu’elles n’ont pas” Anne Alombert

Comme ces compagnons virtuels censés remédier à la solitude de certaines personnes mais dont vous expliquez qu’ils risquent de les enfermer encore davantage dans leurs habitudes autocentrées, sans interaction avec une altérité véritable ?

Ces dispositifs technologiques très puissants génèrent du texte en vous apportant des réponses particulièrement bien adaptées à vos demandes et à vos réactions, et vous aurez tendance à projeter de manière totalement illusoire une altérité là-dedans alors que vous n’avez affaire qu’à un reflet algorithmique de vous-même, c’est-à-dire un calcul configuré à partir de vos propres données – un peu à la manière de Narcisse, qui prend son image pour quelqu’un d’autre que lui au lieu de la reconnaître pour ce qu’elle est et qui finit par mourir de désespoir de cette passion impossible. Ces machines, adaptées 24h/24 à nos demandes, renforcent donc le renfermement de chacun sur lui-même. C’est d’autant plus pernicieux et trompeur quand elles se mettent à parler à la première personne : quand ChatGPT déclare « je ne suis pas un être humain », c’est un leurre, puisque le simple fait de dire « je » est ordinairement le propre d’une personne capable de faire référence à elle-même. Il faut donc être particulièrement vigilant à l’égard de toutes ces projections anthropomorphiques imaginaires, car il n’y a évidemment aucune sorte d’intériorité dans l’IA, mais seulement un nouveau type d’automatisation qu’on peut qualifier de « numérique » ou « computationnelle ».

C’est-à-dire ?

C’est-à-dire que désormais, on ne se contente plus d’automatiser les savoir-faire, pratiques et manuels, mais on automatise aussi les savoir-penser, théoriques et intellectuels, à travers des machines qui ne sont plus seulement mécaniques mais aussi algorithmiques. Or anthropomorphiser ces machines nous empêche de voir tous les enjeux que recèle ce processus d’automatisation. Si j’ai écrit ce livre, c’est précisément parce que je voudrais qu’on change de perspective pour s’intéresser aux effets qu’il a sur nous. Au lieu de prêter aux machines des capacités mentales, psychiques ou intellectuelles, j’invite plutôt chacun d’entre nous à s’interroger sur ce que font ces nouveaux automates numériques à nos capacités mentales, psychiques et intellectuelles.

“Au lieu d’augmenter notre intelligence collective, à l’heure actuelle, les IA servent essentiellement à capter notre attention, uniformiser la culture ou automatiser notre expression” Anne Alombert

La bêtise artificielle que vous évoquez dans votre titre, c’est donc la nôtre ?

Oui : l’enjeu ne doit pas être d’arriver à une « super » intelligence artificielle mais plutôt de nous protéger de notre propre « bêtise artificielle ». Ce que j’essaie de penser sous ce terme est le risque bien réel que les technologies numériques nous rendent idiots. La formule est provocatrice mais cette bêtise n’est pas tant liée à une incapacité intellectuelle que la conséquence de l’automatisation de nos expressions ainsi que de l’uniformisation culturelle : le fonctionnement probabiliste de ces systèmes renforce les moyennes et les stéréotypes. On pourrait envisager de faire autrement et développer des technologies numériques qui augmentent réellement notre intelligence collective et la diversité des productions culturelles. Mais à l’heure actuelle, ces technologies servent essentiellement ou bien à capter notre attention, ou bien à automatiser notre expression. La bêtise viendra si nous ne parvenons plus à inventer du nouveau et si nous nous contentons de répéter des clichés en exploitant les savoirs morts.

Qu’appelez-vous un “savoir mort” ?

Prenons l’exemple de la philosophie. Elle se transmet de génération en génération et chaque individu ou groupe la transforme, la fait vivre à sa manière, la fait évoluer : c’est donc un savoir vivant, exercé à travers les pratiques singulières de différents êtres vivants. Si nous n’avions à notre disposition que les livres de philosophie du passé et que personne ne l’interprétait pour la singulariser et la diversifier, elle serait à l’état de savoir mort, déposé dans des supports techniques et potentiellement automatisable. Or c’est la menace pesant sur des processus créatifs qui sont de plus en plus extériorisés à travers une sorte d’industrialisation culturelle. Ce processus n’est, d’ailleurs, pas sans rapport avec l’industrialisation de la production manufacturière qui s’était mise en œuvre lors de la seconde révolution industrielle.

“Nous déléguons nos capacités expressives, linguistiques et symboliques. Les scientifiques rédigeant leurs articles avec ChatGPT s’expriment à l’oral comme ChatGPT, en employant les termes de la machine” Anne Alombert

Et c’est ce que vous nommez “prolétarisation”, en faisant l’analogie avec l’aliénation de l’ouvrier Charlot dans Les Temps modernes (1936) de Charlie Chaplin…

Il faut bien comprendre que ces technologies numériques nous transforment ! Elles transforment nos esprits comme les machines-outils transforment le corps des ouvriers qui travaillent à la chaîne dans des usines. De même que l’ouvrier du film intériorise des habitudes gestuelles suite à son travail sur la chaîne de montage, de même, nous risquons d’intérioriser des habitudes mentales en utilisant ces dispositifs. Par exemple, les scientifiques utilisant ChatGPT pour rédiger leurs articles finissent par mobiliser à l’oral les termes souvent générés par la machine. Autrement dit, ils se mettent à parler comme ChatGPT. Si nous nous reposons sur ces machines algorithmiques, alors non seulement nous déléguons un certain nombre de capacités que nous n’exerçons plus nous-mêmes, mais nous risquons de nous plier à leur rythme et à leurs injonctions. Marx a bien décrit ce qui se joue quand l’artisan devient ouvrier et délègue son savoir-faire aux machines, celui-ci étant discrétisé, divisé en petites tâches simples qui sont ensuite formalisées et implémentées dans des mécanismes. Il s’agit d’un processus de prolétarisation, à travers lequel l’individu perd ses savoirs.

Mais peut-on ainsi déléguer l’intelligence ?

J’évite de parler d’intelligence car je considère qu’on ne sait pas exactement de quoi il s’agit. En revanche nous déléguons nos capacités expressives, linguistiques et symboliques. Or celles-ci nous sont propres, elles sont singulières, car elles viennent de nos histoires et de nos vies personnelles. Au contraire, la machine ne s’exprime pas mais fait des calculs probabilistes et statistiques sur des quantités massives de données pour générer des expressions probables. Donc elle renforce les moyennes, les stéréotypes et les clichés : je mentionne dans le livre une étude récente de l’Unesco sur les grands modèles de langage de Meta et de OpenAI qui montre que dans près d’un tiers des textes générés, « la femme est présentée comme une prostituée, un mannequin ou une serveuse ». Voilà un biais statistique résultant des représentations en circulation.

“Il n’y a évidemment aucune sorte d’intériorité dans l’IA, seulement un nouveau type d’automatisation” Anne Alombert

Vous faites référence au mythe de Theuth qu’évoque Platon dans son Phèdre au sujet des craintes que l’invention de l’écriture avait pu faire naître...

On répète souvent que Platon craignait la perte de la mémoire en raison de son extériorisation sur les supports écrits, et que l’histoire lui aurait donné tort dans la mesure où l’écriture a apporté de nombreux bienfaits du point de vue du développement des savoirs, de la publication des lois, etc. Mais est-ce que tout cela s’est fait automatiquement ? Non ! Il a fallu, d’un point de vue civilisationnel, créer des institutions comme l’école et le débat civique pour adopter ces techniques liées à l’écriture. Or ce que craignait avant tout Platon, c’est que les sophistes s’approprient ces techniques d’écriture, qu’ils développent des rhétoriques très puissantes et manipulent les esprits des simples citoyens qui ne disposeraient pas de ces techniques-là. L’écriture, et c’est heureux, n’a pas été abandonnée à quelques-uns qui en auraient tiré un profit personnel… On le voit, la révolution technologique actuelle a des enjeux anthropologiques, culturels, civilisationnels et politiques considérables ; et le risque aujourd’hui est que le développement très rapide de l’intelligence artificielle prenne de vitesse nos savoirs et nos institutions.

“L’IA transforme nos esprits comme les machines transforment le corps des ouvriers. Et la bêtise viendra si nous ne savons plus inventer du nouveau mais répétons simplement les clichés émis par l’IA” Anne Alombert

Les entreprises de l’IA sont-elles les nouveaux sophistes ?

On peut faire la comparaison. Il existe une poignée d’entreprises, peu nombreuses et très concentrées, qui conçoivent et vendent les services numériques en dehors de toute délibération démocratique, avec parfois des biais idéologiques qui ont pour conséquence que les machines algorithmiques ne sont pas toutes entraînées de la même manière mais sont configurées en amont selon certains schèmes. Il est possible d’intervenir : quand j’évoquais tout à l’heure le fait que les machines se permettaient de dire « je », on pourrait envisager de réglementer cette pratique manipulatrice comme on en a réglementé d’autres au niveau européen, par exemple en ce qui concerne la collecte de données ou certaines fonctionnalités numériques comme les dark patterns [lire notre article]. À notre niveau, et d’une manière plus générale, il y a toute une nouvelle culture numérique à développer, où il ne s’agit pas seulement d’apprendre à utiliser les technologies mais plutôt comprendre leur fonctionnement et les enjeux qu’elles soulèvent, en articulant les sciences de l’ingénierie et les sciences humaines. L’enjeu étant, à terme, de soutenir et de développer des technologies alternatives, contributives et émancipatrices.

De la bêtise artificielle, d’Anne Alombert, vient de paraître aux Éditions Allia. 144 p., 8,50€, disponible ici.

Ce texte vous a plu ? Découvrez d’autres articles de Philosophie magazine en vous inscrivant à notre infolettre gratuite ou en choisissant l’offre d’abonnement qui vous convient. Vous participerez ainsi au soutien d’un magazine 100% indépendant, qui propose une analyse originale et approfondie de l’actualité !

Avec Couplets, son premier roman écrit en vers libres qui a défrayé la chronique aux États-Unis et qui sort en cette rentrée aux éditions Les Escales, Maggie Millner a trouvé une forme créative brillante pour raconter le vécu contemporain de l’amour. Dans notre nouveau numéro, elle répond à notre questionnaire de Socrate.

Le rapport de la commission d’enquête parlementaire est univoque : la plateforme TikTok est « un réseau hors de contrôle à l’assaut de la jeunesse ». Pour comprendre son pouvoir addictif, nous vous invitons à relire cette analyse.

Dans son nouvel essai La Déprise, la philosophe et psychanalyste Clotilde Leguil offre une vision lumineuse des rapports amoureux, qui n’occulte pas le risque inhérent à toute rencontre. Un livre qui a séduit Clara Degiovanni dans notre nouveau numéro.

Que faire au fond, sinon danser ? C’est la question que s’est posée Ariane Nicolas en regardant Sirāt, d’Oliver Laxe, en ce moment à l’affiche. Car à travers la quête éprouvante d’un père pour retrouver sa fille, ce road movie zigzaguant au milieu de raves techno dans le désert marocain nous offre peut-être la métaphore du mois au cinéma…

[CTA1]

Ce texte est extrait de notre newsletter hebdomadaire « Par ici la sortie » : trois recommandations culturelles, éclairées au prisme de la philosophie, chaque vendredi soir. Abonnez-vous, elle est gratuite !

« Luis, un père de famille taciturne et paumé (Sergi López), s’invite dans une rave party organisée au beau milieu du désert marocain dans les années 1990. Accompagné de son fils Esteban, il y cherche sa fille Marina qui a récemment pris la poudre d’escampette. Sur le terrain ocre balayé par les vents, les enceintes empilées comme les pierres d’un temple inca crachent une techno hypnotisante. Après une évacuation forcée de l’armée – une guerre semble se préparer dans cette zone disputée avec la Mauritanie – Luis s’engage dans un road trip dantesque. Il accompagne deux antiques camions de raveurs pour rejoindre une autre fête désertique où, pensent-il, Marina se situerait. Croisement entre Mad Max, Zabriskie Point et Le Salaire de la peur, Sirāt, du réalisateur espagnol Oliver Laxe, a envoûté le public au festival de Cannes, où il a reçu le prix du jury. Non sans raison. Âpre, aventureux, sans pitié, Sirāt est autant la quête dangereuse d’un être cher qu’une métaphore sous acide de la vacuité de l’existence. Que faire, au fond, sinon danser ? Le film s’oriente dans deux directions. D’un côté, il essaie de rendre visible, palpable, le phénomène magique par lequel des ondes traversent le corps humain et l’activent lorsqu’on danse. De l’autre, il déploie un joli motif, celui de l’effritement des corps et du monde, qui n’est pas sans rappeler un autre film de vraie-fausse apocalypse, Alpha, de Julia Ducournau (sorti le 20 août dernier). À l’image de cette roche grattée par les roues des véhicules, plusieurs personnages ont des corps amputés, comme raclés par la vie. Au IV^e siècle avant J.-C., Aristote a tenté de décrire le phénomène amenant tout ce qui naît à disparaître inéluctablement, et qui implique le processus d’“altération” de la matière : “Il faut nécessairement considérer la production et la destruction des choses comme une simple altération” (De la génération et de la corruption). Les personnages de Sirāt ne sont pas les seuls à être “altérés” par cette expérience éprouvante. La montagne ressort pareillement métamorphosée. On comprend alors qu’un corps inerte peut aussi être, à sa manière, bien vivant. »

Sirāt, film franco-espagnol d’Oliver Laxe (1h55). Avec Sergi López, Jade Oukid, Bruno Núñez Arjona... Sortie le 10 septembre. Voir les séances.