CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes environs cent-cinquante à suivre cette aventure. Bonne lecture ! 😉

Des [🎥], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📖 Lecture

Après plusieurs tentatives infructueuses au cours des vingt dernières années, j’ai donc retenté de plonger dans ce roman-ville qu’est le Ulysse [📗] de James Joyce. Livre à peu près impossible à spoiler, tant il est avant tout un jeu d’écriture et une réflexion sur la vi(ll)e avant d’être une quelconque intrigue. Je laisse la Wikipedia [📄] en faire le résumé, avec une concision et un talent que je n’aurais de toute façon pas.

Le roman relate les pérégrinations de Leopold Bloom (Ulysse) et Stephen Dedalus (Télémaque) à travers la ville de Dublin lors d'une journée ordinaire. L'action commence le 16 juin 1904 à 8 heures pour se terminer dans la nuit aux alentours de 3 heures.

Dans la banalité du quotidien de ces deux hommes, Joyce explore le monologue intérieur où les sujets vont de la mort à la vie, en passant par le sexe, l'art, la religion ou encore la situation de l'Irlande. S'affranchissant des normes littéraires, le roman se distingue entre autres par l'utilisation de la technique du courant de conscience, qui consiste à décrire le point de vue des personnages en donnant le strict équivalent de leur processus de pensée.

J’ai affronté Proust, Conrad, Faulkner, Kerouac et pas mal d’autres. Alors Ulysses n’a aucune raison particulière de me faire peur. En tout cas, jusqu’ici, à un peu plus de la moitié de l’ouvrage, tout va bien, merci de vous en inquiéter 👍.

• 🔄 Aparté. Vous connaissez le magnifique projet Ulysse par jour [💻] de Guillaume Vissac ? Chaque jour, une phrase du Ulysse de Joyce traduite, au quotidien, sur le Net. Ça tourne depuis longtemps déjà – depuis que Joyce est dans le domaine public pour tout dire – et c’est à suivre, entre autres, sur le compte Twitter de l’auteur [🐤].

Le dixième chapitre d’Ulysse a pour scène les rues de Dublin. S’y succèdent différentes situations du quotidien, le trajet d’un référent de rue en rue et de rencontre en rencontre, les discussions à la table d’un bistro, la visite d’une boutique, jusqu’au cortège final du comte Dudley [📄] de son palais d'été jusqu'à un faubourg de Dublin où il doit inaugurer une kermesse, croisant successivement les différents protagonistes déjà rencontrés au long des pages du chapitre. Joyce y décrit, comme dans tout Ulysse, le quotidien de Dublin. Et y crée des croisements, des rencontres, des coincidences, des hasards, des réflexions communes, des collisions. Dans une mise en scène qu’on qualifierait aujourd’hui, anachroniquement, de cinématographique.

À sa lecture, je me suis dit que ce chapitre aurait pu être un plan séquence. Qu’une caméra aurait pu suivre le père Conmee sortant de son presbytère dans les premières pages et s’accrocher à chacun des personnages croisés jusqu’à venir s’atteler au roues du carrosse du comte Dudley et le suivre encore dans les rues de Dublin. J’y aurais vu/lu une scène d’ouverture, ou de transition, d’un film d’Orson Welles [🎥] de Sergio Leone [🎥] ou de Martin Scorcese [🎥].

Ma lecture de ce chapitre a été hautement cinématographique.

• 🔄 Aparté. C’est qu’on va reparler de liens dans les lignes qui vont suivre. Parce que des liens, on en fait partout, tout le temps. Alors, relisez peut-être l’article 🔗 Liens publié il y a quelques mois ici-même. Et vous y apprendrez, encore et toujours, que ce qu’on lit n’est jamais ce qui a été écrit.

Et puis, sorti de ce chapitre, mon anachronisme m’a sauté à la figure. J’ai donc lu ce chapitre d’Ulysse avec ma culture et mon bagage de liens du XXIe siècle. Pétri de références cinématographiques et d’une culture de l’image qui n’était qu’embryonnaire quand Joyce a imaginé cette scène entre 1914 et 1921. Je n’ai pas lu le texte que James Joyce a écrit, j’ai lu ma propre culture par le prisme de son texte, et son texte via le prisme de ma propre culture.

Rien de nouveau sous le soleil. On revient encore et toujours au Virtuel [📙] de Pierre Lévy :

Du texte lui-même, il ne reste bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.

Il n’y a pas de textes, il n’y a que des actualisation de texte. Chaque lecture est différente, et chaque lecture est dépendante d’une culture personnelle et environnante. Nous ne pouvons plus lire Ulysse tel qu’il a été écrit, et ne pouvons plus comprendre Molière ou Pouchkine tel qu’ils ont été perçus, alourdis que nous sommes par les biais et la bagage culturel de notre époque.

Notre époque est faite d’images, et nos lectures deviennent, de fait, composées elles aussi d’images. Nos imaginaires sont aujourd’hui des images. Étaient-ils plus souvent des textes il y a deux cents ans ? Je l’ignore. Mais surtout, que seront-ils demain et est-ce que l’IA a déjà commencé à les modifier ?

Longue introduction, question ouverte.

🎸 Mythe

On va donc parler des imaginaires, forcément, et de ces images qui occupent nos têtes et alimentent nos réflexions et nos fantasmes au quotidien [📄]. Nos imaginaires – collectifs – évoluent à mesure que la culture populaire (ou la pop-culture, c’est plus chébran) change et que celle-ci se diffuse à large échelle. Un mythe ne devient pas instantanément un imaginaire, il dépend de sa diffusion, de sa capacité à toucher une large partie de la population pour devenir une sorte de pensée-réflexe.

De lien [📄]. D’imaginaire

On peut par exemple parler de l’évolution de la culture SF et de notre vision des robots. Même si l’idée d’une possible domination de l’homme par ses créations/créatures est ancienne – on ressortira le mythe du Golem [📄] dans la tradition juive, et plus tard celui de Frankenstein [📘] qui n’en est jamais qu’une déclinaison – les images que nous en gardons aujourd’hui sont issus d’une culture populaire très récente et avant tout cinématographique : le H.A.L. 9000 [🎥] de 2001 l’odyssée de l’espace et le réseau Skynet [🐤] de la série des Terminator [🎥].

• 🔄 Aparté. D’ailleurs, les robots veulent-ils réellement dominer les humains ? On se posait la question des 🕺 Humain il y a quelques mois.

Dès qu’une image, une histoire, un mythe est suffisamment fort, il devient un imaginaire commun. Quelque chose qui permet de, au choix, créer un lien entre différentes actualités, soit d’illustrer ces mêmes actualités pour les rendre plus facilement diffusable, soit de donner une forme à une crainte, une idée, une tension. Les idées ont besoin d’images, de représentations, positives ou négatives, pour se propager et croître.

C’est ainsi que la crainte de la singularité a longtemps été porté par l’image de Skynet dont ont parlait un peu plus haut. La révolte des machines. Image qui cède petit à petit sa place à d’autres narratifs car les craintes liées actuellement à l’émergence d’intelligences artificielles conscientes n’a plus grand chose à voir avec une révolte de robot. Elle est moins incarnée – car les ChatGPT et autres Midjourney n’ont pas d’incarnations physiques – et présente un risque plus économique/écologique que guerrier. On pensera dès lors à… Wall-E [📄] ? H.A.L. 9000 ? Des ordinateurs tout puissants en tout cas, plutôt que des robots.

🖼 Imagerie

D’ici, la réflexion peut prendre deux tournures, toutes deux liées aux capacités actuelles de production de contenu de ce que l’on nomme les intelligences artificielles génératives.

La première, c’est celle de l’émergence d’un nouvel imaginaire. Ce qu’on pourrait qualifier d’Imaginaire de l’IA. Émergence qui semble d’ailleurs assez inéluctable. L’effervescence autour des premiers modèles créés par Midjourney à l’automne dernier a déjà changé une partie de notre perception. Car oui, même si elle est inspirée - pillée ? - par la création de milliers d’artistes, il y a bien une “esthétique IA” qui se dégage de l’ensemble des créations générés par les différentes actuelles. Une esthétique peut-être difficilement qualifiable, peut-être moins facilement identifiable à mesure que les progrès techniques vont être nombreux, mais une esthétique qui existe et qui peut faire dire de certaines créations humaines qu’elles sont datées. Comme Mucha [🖼] a été l’esthétique de la Belle Époque, comme le néon est l’esthétique des eighties [🖼], peut-être les éclairages trop naturels et les portraits trop propres de l’IA seront l’esthétique des années 2020. Et peut-être les prochains lecteurs d’Ulysse verront des selfies et des panoramiques urbains là où j’ai lu des plan-séquences.

La seconde réflexion est plus inquiétante. C’est la déformation successive de nos imaginaires passés et leur remplacement par les propres imaginaires de l’intelligence artificielle. Vous les avez sans doute vues sur Facebook ou ailleurs, ces vidéos générées par les IA et qui retracent 4000 ans de création artistique ou 100 ans de mode féminine [🎞]. Elles reposent sur l’interprétation, l’assemblage, par une IA de centaines de clichés ou de représentations d’artistes et sur la compilation de ceux-ci en une synthèse vraisemblable. De la même façon, les IA imaginent de nouvelles vues du Festival de Woodstock [🐤] ou de la Seconde Guerre Mondiale [🖼], vraisemblables, et inspirées des clichés réels de l’époque. Avec le risque qu’avec leur prolifération, ces clichés remplacent à terme, dans nos imaginaires, les images réelles du festival ou du conflit. Et qu’à la lecture d’un évènement, nos imaginaires ne soient plus qu’un assemblage d’images inventées.

Et qu’à la prochaine lecture, là encore, nos liens ne reposent plus que sur des images inventées.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui bientôt cent-cinquante à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🔺 Confiance

Peut-on encore faire confiance ce que l’on voit sur les écrans ? Ne doit-on faire confiance qu’à ce que l’on voit réellement, physiquement, en présence ? Et aussi, peut-on encore faire confiance à ce que l’on a vu par le passé ? On va parler confiance, oui, et encore une fois réalité.

• 🔄 Aparté : Ce billet, c’est la suite de 📸 Réalité, le dernier article publié il y a quelques temps déjà sur #Cybernetruc. On y évoquait l’altération de la réalité et un futur oscillant entre manipulation permanente et expérience psychédélique. Mais on n’avait pas abordé la fin totale de la réalité. L’illusion continue…

La première histoire, c’est une histoire d’Elon Musk et de Deepfakes. La justice américaine se penche actuellement sur les accidents de la route provoqués par des Tesla au cours des dernières années, et notamment certains, mortels [💻], survenus après que les conducteurs des dîtes Tesla aient laissé un peu trop de liberté à leurs véhicules. Responsabilité individuelle ? Inconscience des conducteurs ? C’est plus compliqué que ça.

La justice américaine souhaiterait en effet faire comparaître Elon Musk dans ces procès. La raison : depuis 2014, le patron de Tesla annonce sur tous les plateaux TV et dans toutes les interviews que ses véhicules sont équipés d’un programme de conduite autonome [🎥]. Avec sa réserve habituelle, Elon Musk a survendu les capacités de ses véhicules. L’avenir est déjà là, les voitures se conduisent toutes seules [🎥] et vous, conducteur devenu passager, pouvez désormais passer vos trajets tranquilles, à lire ou regardez vos séries Netflix préférées [📺] pendant que votre Tesla enquille les kilomètres.

Difficile de ne pas y croire tant Elon répète et répète le propos.

• 🔄 Aparté : Soit dit en passant, sur Elon Musk, ses influences et sa propre influence, lisez et relisez Le Mythe de l’Entrepreneur d’Anthony Galluzzo [📗], paru en début d’année aux éditions Zones - La Découverte. Il ne dit pas tout du mythe d’Elon Musk, il oublie certaines imbrications (la science, le progrès…) en insistant sur les aspects économiques et capitaliste de la figure de l’innovateur made-in Silicon Valley. Mais il est d’une richesse déjà salutaire.

La propagande du patron de Tesla serait donc, pour la la justice américaine, une cause directe des accidents causés par ses véhicules, et donc de la mort d’automobilistes ou de piétons. La défense du génie de l’entrepreneuriat ? Les Deepfakes. Oui. Vous avez bien lu. Les avocats d’Elon Musk clament que rien ne permet de garantir que les vidéos relevées par la justice américaine ne sont pas des manipulation, des montages, des deepfakes et que rien ne garantit donc qu’Elon Musk ait bien tenu ces propos [📰]. S’il n’y a pas de certitude sur le fait qu’il les ait tenu, il ne peut en aucun cas être responsable de la manipulation dont les pauvres conducteurs de Tesla ont été victime.

C’est regrettable certes. Mais Elon Musk n’y est pour rien.

Deepfakes, partout.

Réalité ? Nulle part.

🖼 Faux

L’objection brandie par les avocats d’Elon Musk a l’immense inconvénient d’inverser la question essentielle que chacun de pose depuis l’émergence des outils de manipulation massive de l’image. En effet, celle-ci passe du Comment détecter si c’est faux ? au Comment prouver que c’est vrai ?

Ce qui, dans la société de l’illusion, devient… gênant.

Depuis l’émergence massive des intelligences artificielles génératives – surtout graphiques – l’une des questions qui hante l’esprit des experts est bien la détection des fakes. Les tutoriaux ne manquent d’ailleurs pas à ce sujet [📰]. S’il s’agit d’une image, on comptera les doigts, on cherchera les écritures, on scrutera les arrière-plans en recherche d’incohérence, ou on étudiera attentivement la position des jambes et des chevilles. Ces quelques indices permettent de s’assurer que non, le Pape ne porte pas réellement une doudoune Balenciaga les jours de grand froid [📰], les CRS ne font pas réellement de câlins aux manifestants [📰] et Emmanuelle Macron ne sort pas non plus les poubelles, le soir, à Paris [📰].

Quelques astuces existent donc pour identifier les fausses images. Il en existe également pour identifier les faux textes – comme les références universitaires farfelues, les biographies de parfaits inconnues, etc. [📰]. Mais gageons que ces méthodes seront de moins en moins efficaces à mesure que les algorithmes des intelligences génératives deviendront plus malins.

Comment par exemple s’assurer que le faux duo entre Drake et The Weeknd [📰] diffusé il y a quelques semaines sur la toile est bien un faux ?

• 🔄 Aparté : La manipulation sonore est souvent la plus simple, car oui, l’être humain doute moins du son que de l’image. Les exemples d’enregistrements truqués ne manquent pas dans la fiction. Et pour la culture générale, on ressortira la Révolution électronique [📕] du poète beat William S. Burroughs qui, à l’heure des bandes sonores, proposait déjà de faire tomber les mass-medias et les institutions à coup de fake news.

Sans la prise de parole d’Universal Music à ce sujet, et surtout l’aveux du créateur de cette pièce, impossible finalement de déclarer ce faux duo réellement… faux, tant sa véracité est troublante. L’avancée technologique sème le doute. Si bien que si émergeait demain un véritable duo entre Drake et The Weeknd, on serait en mesure de dire : “Mais prouvez-moi que ce duo a réellement été enregistré et n’est pas le fruit d’algorithmes.” [📄]

Prouvez-moi que c’est vrai.

La question posée par les avocats d’Elon Musk.

🤔 Doute

La question posée par l’invasion des intelligences artificielles, et surtout par l’invasion des médias créés par des intelligences artificielles, n’est pas nouvelle. Elle se résume en un Doit-on douter de tout ?

On a beaucoup parlé d’Isaac Asimov dans les articles de #Cybernetruc! [📧], mais on n’a pas encore abordé la science-fiction de Ray Bradbury [📄]. Quand Asimov s’interroge sur l’avenir de l’humanité dans sa globalité, sur l’impact de la technologie sur la société à long terme, Bradbury se soucie bien plus de notre quotidien. Il explore nos réactions personnelles face à l’inconnu (la nouvelle The Rocket Man, ou The Long Rain dans le recueil The Illustrated Man [📕], paru en 1952), sur le destin de nos familles (The Veldt, The Last Night of the World ou Marionnettes, Inc. toujours dans le même recueil) voire sur notre spiritualité (The Man) ou notre culture (la magnifique The Exiles).

La science-fiction de Ray Bradbury questionne la place individuelle de l’homme face au progrès, et surtout ses pertes de repère… Une nouvelle pour illustrer cela ?

No Particular Night or Morning, toujours dans le recueil The Illustrated Man met en scène deux astronautes, Clemens et Hitchcock, le long voyage interstellaire. Leurs discussions, surtout guidées par Hitchcock, parlent de la réalité du monde. Pour Hitchcock, n’est réel que ce qui est tangible. Le reste n’existe pas. Et dans l’espace, si loin de la Terre, la réalité des autres humains existe-t-elle encore ? L’humanité est-elle réelle ? La Terre est-elle réelle ? Dans cette immensité noire où les étoiles sont si lointaines, qu’est-ce qui est encore vrai ?

Hitchcock finira, dérivant dans l’espace, convaincu que rien finalement n’existe que sa propre pensée.

🧠 Solipsisme

Hitchcock doute de l’existence de tout. De la vérité, la réalité de tout. Persuadé que le monde qui l’entoure, les images qu’il voit, les sons qu’il entend, les êtres qu’il touche, ne sont qu’illusion. La théorie philosophique à laquelle se raccroche son raisonnement se nomme le solipsisme. Je laisse la Wikipedia en faire une définition plus érudite que celle que je pourrais écrire :

Le solipsisme (du latin solus, « seul » et ipse, « soi-même ») est une théorie philosophique et métaphysique selon laquelle la seule chose dont l'existence est certaine est le sujet pensant. Forme extrême d'idéalisme, le solipsisme soutient qu'aucune autre réalité n'est certaine que celle du sujet qui pense. [📄]

Le solipsisme est en fait la philosophie du doute permanent. De la fin de la réalité. On peut en voir des expressions dans des classiques de la science-fiction comme Matrix [🎥] (forcément, dès qu’on parle de fin de la réalité) dans lequel le monde de la Matrice n’est qu’une illusion qui n’a rien à voir avec une réalité commune.

La question posée par les avocats d’Elon Musk sur la réalité de ses promesses ouvre la porte au monde d’illusion dépeint par les Wachowski, ou raconté par Ray Bradbury. Puisque… si l’on admet que tout document, toute photo, toute interview, tout expérience, peut-être fausse, alors on permet le doute permanent. Et on offre alors le droit à chacun de juger de la réalité de ce qu’il perçoit, du moins par voie électronique dans un premier temps.

Libre à moi de penser que Drake et The Weeknd ont réellement fait un duo, mais que cette intervention d’Emmanuel Macron n’est qu’un montage. Et libre à vous de penser l’inverse, ou de penser à 50% comme moi.

Si le doute s’installe de manière permanente sur la nature de tous les éléments que nous voyons. Et surtout, si nous ne nous posons plus la question d’identifier ce qui est faux - parce que tout doit être juger comme faux a priori, alors nous nions simplement une réalité commune.

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui bientôt cent-cinquante à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🌔 Astronomie

L’intelligence artificielle, ou plutôt les intelligences artificielles, modifient-elles la réalité ? Sans pour autant retourner dans la Caverne de Platon [📄] – en tout cas pas tout de suite – on pourrait user d’une petite anecdote pour démarrer la réflexion.

La qualité des images et des photos est l’un des chevaux de bataille des fabricants de smartphone depuis des années. Apple, Huawei, Samsung… rivalisent tous d’inventivité et d’ingéniosité pour nous vendre le mobile faisant les clichés les plus détaillés, les plus lumineux, les plus hires possibles. Et dans ce combat acharné, Samsung semble courir actuellement en tête. La fabriquant coréen de smartphone a annoncé récemment la création d’un mode “Astronomy” dans sa dernière génération d’appareil de la gamme Samsung Galaxy, un mode capable de prendre des clichés du ciel nocturne aussi précis que s’ils provenaient d’un télescope. La lune y apparaît dans ses moindres détails, les étoiles y sont brillantes… Sauf que.

Le débunkage réalisé par un journaliste tech révèle le pot-aux-roses de ce nouveau mode [📰] : loin d’avoir améliorer l’optique de ses téléphones, Samsung a simplement utilisé une intelligence artificielle reconstituant les cratères de la lune et les plaquant sur n’importe quel vue floue du satellite de la Terre. L’effet reste bluffant, mais le résultat n’est, en conséquence, plus réellement une photographie puisqu’il n’est plus un reflet fidèle de la réalité. Il est une réinterprétation de celle-ci par un algorithme afin d’y intégrer les détails que le photographe voulait y voir : une vue haute-résolution de la lune.

Cette manipulation de la prise de vue réelle, faite surtout sans aucune information donnée au photographe, pose bien des questions sur la réalité d’un cliché.

Une photo retouchée est-elle donc une photo, ou autre chose. Une photographie peut-elle encore être considérée comme un reflet, un témoignage de la réalité ou le doute est-il définitivement installé.

• 🔄 Aparté : De toutes façons, la manipulation des images, ça n’a rien de nouveau. Vraiment rien. Et l’on pourrait relire un ancien #Cybernetruc – 🎩 Illusion - pour retrouver une belle illustration de manipulation photo. Vous connaissez Colin Evans ?

On pourrait parler de la disparition de Trotski des photos soviétiques [📄], on pourrait aussi évoquer les filtres utilisés sur les photos de profil dans les apps de dating [📰]… la manipulation de l’image a existé dès que l’image elle-même a commencé à exister. Les aristocrates eux-mêmes, quand ils mandataient un artiste pour leur peindre un portrait exigeaient une version embellie d’eux-mêmes [📄].

Non. La question est cette fois ailleurs.

🟥 Filtres

La question n’est pas tant dans la manipulation des images elles-mêmes que dans la capacité de manipulation. Aujourd’hui, il est plus facile que jamais de modifier une image, mais il est surtout possible de le faire de manière massive, et en direct.

On se rappellera les craintes qu’avaient provoquées les DeepFakes – tiens, le mot n’est d’ailleurs quasiment plus utilisé – de Nicolas Cage [📹] ou de Tom Cruise [📹], et on comparera ces craintes à l’enthousiasme provoqué aujourd’hui par les filtres que Microsoft et d’autres acteurs de l’informatique d’entreprise s’apprêtent à déployer sur nos outils de communication en ligne. Là où les incarnations d’acteur demandaient encore énormément de travail – de copie de l’attitude physique notamment, dans le cas de Tom Cruise – et de calcul, il est désormais possible, grâce à l’intelligence artificielle, de modifier en direct l’apparence d’une personne pour que son regard reste centré sur la caméra pendant une réunion à distance entière [📰].

• 🔄 Aparté : Il faut absolument que vous lisiez le dernier numéro de la lettre Règle 30 de Lucie Ronfaut : Les deepfakes pornographiques n'existent pas sans les hommes [📰]. Il faut de toutes façons que vous vous abonniez à la lettre Règle 30. Ce n’est pas négociale.

Rien de particulièrement étonnant. Les filtres Snapchat – tiens, il existe d’ailleurs des filtres pour chien [📰] – nous avaient déjà initiés à cette possibilité en modification en live de la réalité. L’amélioration des performances informatiques, l’entraînement poussé des algorithmes et la démocratisation des outils de manipulation d’image va renforcer cette tendance à la correction “live” – ou en tout cas très rapide – des contenus. Jusqu’à nous pousser dans un monde où l’on doutera en permanence de la réalité des images, même quand celles-ci sont transmises en direct.

Les craintes sur notre perception du monde dérapent doucement. Loin de Matrix [🎥] et de la simulation totale du monde créée par les robots pour nous dominer, la question est plutôt : voulons-nous vivre en permanence dans un film de David Fincher dans lequel chacun est manipulé et exposé en permanence à une réalité alternative ? En vous laissant le choix éventuellement entre Fight Club [🎥], Gone Girl [🎥] ou The Game [🎥].

Je choisis personnellement The Game, sans doute le moins angoissant des trois.

🌈 Trip

On pourrait s’arrêter là sur nos inquiétudes quant aux développements rapides de la technologie. Mais on peut également tenter un ou deux parallèles de plus. Et pas forcément que positifs. La manipulation massive et en direct de la réalité peut mener à deux choses.

La première, c’est la manipulation de l’information. On a déjà vu le cas se produire plus d’une fois. Souvenez-vous par exemple du scandale Cambridge Analytica [📄] et de la manipulation des élections américaines de 2016 via Facebook. Extrapolons et imaginez donc aujourd’hui qu’une chaîne de télévision populiste – vous trouverez des exemples sans que je vous aide – déploie une technologie de deepfakes en direct sur son antenne et modifie donc en live ses reportages. Et qu’elle ne soit pas la seule à le faire, d’autres l’imitant mais avec d’autres algorithmes. Nous voilà donc plongés, par l’image cette fois et plus seulement par le discours, dans une multiplication des récits et des réalités même, et plus seulement de leur interprétation.

• 🔄 Aparté : Tiens, pour la peine, on ressortira des cartons le concept de Wikiality [📺] imaginé par l’homme de télévision américain Stephen Colbert en 2006 (déjà). Si la Wikipedia le dit, c’est que c’est vrai.

La seconde, c’est l’émergence d’un nouveau psychédélisme. Et si un réseau social, n’importe lequel, nous proposait en direct une version altérée, psychédélique, de la réalité ? Ne serions-nous pas tentés de l’essayer ? Ne risquerions-nous pas d’y devenir accrocs et de nous détacher progressivement de la vraie réalité à la manière de nouveau hippies ? C’est quoi, un trip à l’IA ?

Et si un bug modifiait notre réalité pour la rendre autrement plus agréable, ne serions-nous pas tentés de le reproduire pour vivre à nouveau ce moment ? Si le réel n’existe plus que derrière des filtres, deviendrons-nous demain des drogués de l’intelligence artificielle ?

On relira l’expérience de la mescaline d’Aldous Huxley. Ses Portes de la perception [📗], c’est peut-être notre réalité demain entouré de deepfakes et d’algorithmes.

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui pas loin de cent quarante à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🌅 Impression

L’apparition d’une nouvelle forme d’art déchaîne toujours les passions. Certains crient au scandale. D’autres crient au génie. Les révolutions artistiques n’ont jamais laissé qui que ce soit totalement indifférent, et ce depuis les premiers temps de l’art. Il y a fort à parier qu’au fond des grottes, les premières représentations de mammouth suscitaient déjà des débats enragés.

Et pourtant, arrive un moment où au-delà du scandale, tout artiste émergeant devient une évidence, sinon une institution. C’est peut-être Marcel Proust – oui, encore – qui en parle le mieux quand il décrit dans un article du Figaro la réception qu’ont reçue les premières toiles d’Auguste Renoir au cours du XIXe siècle [📄]. Et surtout la lumière qu’apporte l’artiste sur le monde dans le regard du chroniqueur :

Quand Renoir commença à peindre on ne reconnaissait pas les choses qu'il montrait. Il est facile de dire aujourd'hui que c'est un peintre du XVIIIe siècle. Mais on omet, en disant cela, le facteur temps, et qu'il en a fallu beaucoup, même en plein XIXe, pour que Renoir fût reconnu grand artiste. Pour y réussir, le peintre original, l'écrivain original, procèdent à la façon des oculistes. Le traitement – par leur peinture, leur littérature – n'est pas toujours agréable. Quand il est fini, ils nous disent : Maintenant regardez. Et voici que le monde, qui n'a pas été créé une fois, mais l'est aussi souvent que survient un nouvel artiste, nous apparaît – si différent de l'ancien – parfaitement clair.

Difficile de savoir si les tremblements que provoquent aujourd’hui les intelligences artificielles génératives dans le monde des arts auront l’ampleur de la révolution impressionniste. Comparer MidJourney ou OpenAI à Renoir, Monet ou Camille Pissarro semble aujourd’hui… déplacé.

Et pourtant, l’arrivée des visuels issus de ces programmes a bien provoqué, au cours des derniers mois, un choc. Il y a bien, désormais, une esthétique de l’intelligence artificielle, faite de certaines couleurs, de certaines formes, d’une certaine lumière, d’un certain type de composition et d’un certain nombre de doigts à chaque main [📄]. Quelque chose qui fait qu’un visuel créé à l’aide d’une IA se reconnaît immédiatement, comme une signature. Une esthétique qui rend, comme toute nouvelle vision du monde, certaines créations antérieures un peu plus datées, passées, has been. Qu’on crie au scandale ou au génie, l’esthétique des IAs restera et marquera.

Mais, au-delà de celle de l’esthétique, une question demeure : que font les intelligences génératives à notre imagination ?

⭐ Imagination

Jacques Sternberg [📄], auteur belge plus que prolifique, de formats courts, de nouvelles de science-fiction et de contes fantastiques, publiait en 1970 un recueil nommé Univers Zéro [📗]. L’ensemble des nouvelles qui le composent gravitent autour de l’idée de fin : fin du monde, fin de la vie, fin de l’ambition, fin de l’aventure… et pourquoi pas fin de l’imagination.

Dans la nouvelle Le Navigateur (publiée originellement en 1956), il décrit un univers dont chaque recoin a été exploré, dont chaque espèce a été découverte, chaque civilisation contactée. Et tout connaître de l’univers débouche, naturellement, sur la fin de l’imagination :

Ceux qui rêvaient à la conquête de l’espace imaginaient sans doute des choses beaucoup plus étonnantes que celles qui me sont entrées dans le regard au cours de mes voyages. La réalité rétrécit tout, je trouve. Vivre les choses, c’est les banaliser. Et nous avons découvert tant de mondes, défoncé tant de mythes, pulvérisé tant de suppositions, qu’il ne nous est même plus possible d’avoir de l’imagination. Les rêves appartiennent à un passé à jamais révolu. De ce passé, il ne reste évidemment plus rien. L’avenir également semble exploré à l’avance, connu, rabâché. Il n’y a plus qu’un éternel présent que je visite depuis trop longtemps pour qu’il puisse encore m’étonner.

Difficile de ne pas faire un parallèle entre l’exploration de l’univers qui touche à sa fin et l’explosion des IA génératives qui rend tout d’un coup l’ensemble des créations possibles. Dans leur monde de mathématique pure, les intelligences artificielles ne peuvent-elles pas tout créer, donner naissance à chaque variation d’histoire ou de couleur que le cerveau humain pourrait imaginer ? Est-il encore utile de créer dans un monde où n’importe quelle expression est à portée d’équation ?

😢 Émotion

Dans un article récent Nick Cave se défend justement du droit et de la nécessité de la création. Depuis l’émergence de ChatGPT, l’artiste australien a reçu, comme beaucoup, d’immenses quantités de messages contenant des chansons écrites “à la façon de Nick Cave” par l’intelligence artificielle [📄], partagées par des fans.

Devant ce flot de créations, le chanteur commente et qualifie ces textes d’imitations :

ChatGPT may be able to write a speech or an essay or a sermon or an obituary but it cannot create a genuine song. It could perhaps in time create a song that is, on the surface, indistinguishable from an original, but it will always be a replication, a kind of burlesque.

Pour Nick Cave, il manque quelque chose d’indispensable à ces textes pour en faire de véritables chansons : il manque l’étincelle intérieure de l’artiste. La douleur – et dans le cas de Nick Cave, elle est criante – qui a donné naissance aux textes. Le feu qui ronge le cœur et le cerveau de l’artiste. Sans cela, ces textes ne sont que du bullshit, a grotesque mockery, loin de la création humaine.

Peu importe qu’ils existent, ils n’expriment rien.

• 🔄 Aparté : On y revient : l’imitation, le burlesque… ce qui rend l’intelligence artificielle drôle malgré elle dans son échec d’être humaine. On en parlait dans 🤣 Rire, l’opus précédent de Cybernetruc.

🎇 Étincelle 

Difficile dans ces conditions de ne pas penser à Stéphane Crozat et ses Libres [📕] parus l’année dernière chez les copains de C&F éditions [💻]. Mais surtout, difficile d’en parler sans dévoiler l’intrigue de ce beau roman de science-fiction. Alors, posons la question de manière théorique – et prenez le temps d’acquérir et de lire Les Libres au passage.

L’existence réelle de la bibliothèque de Babel empêcherait-elle tout acte de création littéraire ? Vous connaissez la bibliothèque de Babel ? Non ? Il s’agit d’une bibliothèque imaginaire, sortie de la tête de Jorge Luis Borgès en 1944 et dont les rayonnages - quasiment infinis - contiennent tous les livres de 410 pages possibles (chaque page formée de 40 lignes d'environ 80 caractères) [📄]. L’intégralité des combinaisons de caractères possibles dans ces volumes. Et donc toutes les oeuvres déjà écrites – de Crime et Châtiment [📘] au mode d’emploi de votre lave-linge en passant par cette newsletter.

• 🔄 Aparté : Depuis 2015, la bibliothèque de Babel est d’ailleurs consultable en ligne. Bien entendu, elle ne vous rendra aucun service, mais cet exercice d’application donne une idée de l’immensité des possibilités de création de contenu.

Il faudrait bien entendu une patience infinie pour retrouver Crime et Châtiment dans ses dédales de couloirs, de pièces et dans ses rayonnages. Mais l’oeuvre y serait bien rangée. Disponible. Lisible.

Quelle utilité alors de la réécrire ? D’en inventer l’histoire ? D’en imaginer l’intrigue ? Et quelle utilité de concevoir n’importe quel autre histoire puisqu’elle serait, elle aussi, quelque part dans les rayons de la bibliothèque. Stéphane Crozat se pose cette question dans Les Libres, en faisant un enjeu de son intrigue.

Nick Cave apporte sans doute la réponse à cette question : créer n’est pas seulement produire, c’est exprimer son propre univers, brûler son propre feu, faire briller sa propre étincelle. C’est créer le monde à chaque fois, comme Renoir le faisait pour Marcel Proust.

Et c’est ce qu’aucune intelligence artificielle, ne pourra jamais de faire.

• 🔄 Aparté : Oui, j’ai laissé volontairement de côté la question des sources, des inspirations, des droits et de la façon dont les IA génératives pillent les créations d’autres artistes. On en a déjà un peu parler (voir 🎩 Illusion) et on en reparlera, soyez-en assurés.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui un peu plus de cent-vingt à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🕴 Homme

Et si on se posait la question du rire dans notre exploration du monde de l’intelligence artificielle ? L’intelligence est bien entendu ce qui différencie l’humain de l’animal – ok, pas toujours – mais le Rire est, d’après la maxime, le propre de l’homme [📄].

Alors, peut-on rire de l’intelligence artificielle ? Peut-on rire avec l’intelligence artificielle ? Et l’intelligence artificielle peut-elle, elle, se rire de nous ? Sacré panorama.

Le plus simple pour démarrer, c’est de savoir si une intelligence artificielle – terme que je prends toujours au sens marketing – est capable de comprendre l’humour. Et le moins qu’on puisse dire, c’est que depuis l’ouverture de ChatGPT [💻], les expériences pour faire comprendre à celui-ci la notion d’humour ont été nombreuses. Très nombreuses.

Elles vont de la blague pour enfant

au calembour racé et sophistiqué :

En passant par la déconstruction et l’explication d’une blague honteusement scatologique (lisez jusqu’au bout) [🐤].

Bref.

Il est compliqué de faire comprendre à une plateforme comme ChatGPT l’humour, simplement parce que l’humour verbal repose sur des codes auditifs (les sonorités, les jeux de mot) ou culturels qui ne font tout simplement pas partie des enseignements de la plateforme. Et parce que l’absurde, on le verra plus loin, est très difficilement réductible à un algorithme.

Mais alors ? Peut-on rire, se moquer, d’une intelligence artificielle ? Pour tracer un brouillon de réponse, on va faire appel au philosophe Henri Bergson [📄].

⚙ Machine

Tout philosophe qu’il fut, Bergson a consacré en 1900 un essai complet au rire [📕], au comique, à leurs significations et à leurs mécaniques. Il y détaille plusieurs formes d’humour et tente d’expliquer ce qui rend cet humour drôle [📺].

Parmi l’ensemble de ces explorations, il y en a une qui concerne Le comique des mouvements. Bergson énonce la loi qui régit ce comique :

Les attitudes, gestes et mouvements du corps humain sont risibles dans l’exacte mesure où ce corps nous fait penser à une simple mécanique.

À partir du moment où un corps, ou un esprit, n’a plus le naturel propre à l’humain et devient comparable à un objet, le rire est là. La répétition peut-être l’un des facteurs de cette conversion mécanique :

Voici par exemple, chez un orateur, le geste, qui rivalise avec la parole. Jaloux de la parole, le geste court derrière la pensée et demande, lui aussi, à servir d’interprète. Soit ; mais qu’il s’astreigne alors à suivre la pensée dans le détail de ses évolutions. […] Que le geste s’anime donc comme elle ! Qu’il accepte la loi fondamentale de la vie, qui est de ne se répéter jamais ! Mais voici qu’un certain mouvement du bras ou de la tête, toujours le même, me paraît revenir périodiquement. Si je le remarque, s’il suffit à me distraire, si je l’attends au passage et s’il arrive quand je l’attends, involontairement je rirai. Pourquoi ? Parce que j’ai maintenant devant moi ne mécanique qui fonctionne automatiquement? Ce n’est plus de la vie, c’est de l’automatisme installé dans la vie et imitant la vie. C’est du comique.

Mais pour Bergson, la raison va plus loin que le simple automatisme et la simple répétition. Ce qui se joue derrière ce comique de mouvement, ce qui fait réellement rire, c’est la transformation de l’être humain en “objet”. Bergson prend exemple d’un spectacle de cirque qu’il a vu enfant et dans lequel les clowns traversaient la piste, se percutaient les uns les autres, se relevaient et se percutaient à nouveau. Dans l’esprit du spectateur, les clowns, au-delà de leur grimage, n’étaient plus des êtres humains mais étaient devenus des ballons de caoutchouc projetés les uns contre les autres.

Se transformant en objet, l’humain devient drôle. Fait rire.

Et il faut bien donner raison à Bergson et reconnaître que les exemples sont nombreux. Du travail à la chaîne qu’exécute Charlot dans Les Temps Modernes [🎥] (1936) à l’Inspecteur Kemp dans le Young Frankenstein de Mel Brooks [🎥] (1974).

L’humain qui devient robot fait rire.

Mais le robot qui se rêve humain fait-il rire lui aussi ?

🤖 Robot

De robots qui s’imaginent humains, la science-fiction en regorge. Mais quels sont ceux qui nous font rire ? Et avant tout qu’attendons-nous d’une intelligence artificielle, d’un robot de fiction ?

Pour reprendre quelques-uns des mots de Bergson, un robot est un automatisme, une machine dont le comportement doit être parfaitement logique et parfois – souvent – répétitif. L’empilement des cubes de déchets de Wall-E [🎥] tient du comportement normal d’un robot et n’a rien de risible – on y reviendra.

On attend du robot, de l’intelligence artificielle, qu’il effectue la tâche pour laquelle il est programmé, tâche qui est souvent ambitieuse, de manière parfaite. Et donc, ce qui avec les robots crée le décalage, et parfois le rire, c’est en fait l’imperfection.

On n’en oublie pas pour autant que le robot est un robot, on découvre simplement qu’il est inadapté au monde qui l’entoure. Incapable de se confronter à son irrationalité. Ce sont par exemple les failles d’un androïde policier incapable de prévoir les conséquences de ses actes dans Holmes et Yoyo [📺] – la première confrontation à un robot de bien des personnes de ma génération. Ce sont aussi les déboires de communication de C-3PO, pourtant le robot de protocole le plus évolué de sa génération, dans Star Wars [🎥].

Et pour clôturer une galerie d’exemples qui pourrait se prolonger à l’infini, c’est ce moment dans le Terminator 2 de James Cameron où le T-1000, machine à tuer parfaite, oublie que le pistolet qu’il tient à la main ne se liquéfie pas comme lui et le cogne aux grilles de l’institut psychiatrique [🎥]. Le seul moment du film où ce robot-tueur fait finalement… sourire.

Car quand le robot est parfait, il ennuie. Et quand le robot devient trop humain… il effraie ou émeut. Il effraie comme HAL-9000 et sa logique implacable, très humaine, comme les réplicants de Blade Runner prêts à tout pour vivre comme les hommes. Ou il émeut comme Wall-E qui collectionne les souvenirs et tombe amoureux. Ou comme le petit garçon du A.I. Intelligence artificielle de Steven Spielberg, tellement humain qu’il ignore lui-même sa nature de robot.

C’est le robot imparfait, celui qui s’écarte de la promesse qui nous en est faite, qui nous fait finalement rire. Et c’est exactement pour cela que les dialogues absurdes que nous entretenons avec un ChatGPT [🐤] sont si drôles. Parce qu’ils vont à rebours de la promesse marketing du programme de nous fournir un alter-ego de discussion, un sparing partner pour nos réflexions, un miroir qui serait capable de réfléchir comme nous. ChatGPT est ridicule, et c’est en partie ce qui fait son succès foudroyant. Un peu comme ces vidéos de robots fabricants de hot-dog qui échouent deviennent virales [📹].

🐑 Humour

Reste à se demander si une intelligence artificielle serait capable de nous faire rire volontairement. Et là, eh bien… c’est plus compliqué.

Les quelques tentatives d’humour de ChatGPT (encore lui) zigzaguent entre l’étrange et le gênant [🐤]. Parce que, tout d’abord, et malgré les promesses alléchantes d’OpenAI, ce programme informatique n’a pas été conçu pour être drôle mais pour simplement simuler le langage et l’argumentation humaine. Faire de l’humour va bien entendu au-delà de la simple manipulation de langage.

C’est à la fois une subtile question de décalage – sortir d’une situation initiale normale – et de liens – trouver les passerelles entre cette situation initiale et celle, cible, sur laquelle reposera le comique. C’est une question de références culturelles ténues et d’absurde. Et on l’a vu : tout d’abord une I.A. ne peut pas créer réellement de liens culturels - parce qu’elle ne possède pas de lecture subjective, inédite, du monde (voir 🔗 Liens, partagé il y a quelques semaines) et qu’elle est donc incapable de créer des relations entre des éléments au-delà d’un corpus établi, voire universel. Mais dans l’humour, c’est bien souvent l’inédit de ce lien, ou son étroitesse, qui provoque le rire. On ne peut demander aujourd’hui à ChatGPT de créer un lien sur une homonymie, une ambiguïté de sens – pour ne prendre que le domaine des jeux de mots. Il n’a pas été conçu pour cela.

Il lui manque donc l’absurde. Gageons d’abord que celui-ci n’est pas transformable en algorithme – même si cela ferait un bon départ pour une nouvelle fantastique. Mais surtout, l’absurde découle de l’étroitesse du lien, qu’il s’agisse d’un jeu de mot ou d’un décalage de situation [🎥]. Les tentatives d’absurde des I.A. ne révèlent elles qu’un lien rompu, incompréhensible.

Quand l’I.A. nous fait rire, ce n’est donc jamais volontairement, mais toujours à ses dépend. Par décalage entre sa promesse de perfection et l’aspect bancal de ses dialogues.

Mais après tout, c’est peut-être déjà un talent.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes aujourd’hui un peu plus de cent-vingt à lire cette lettre. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📖 Mythologie

Il y a quelques lectures, dernièrement, qui ont donné envie d’explorer encore un peu plus loin les imaginaires de l’intelligence artificielle, et la façon dont celle-ci – et notamment ses modèles génératifs – tisse des liens avec les mythes du progrès et du capitalisme. Un petit voyage qui promet d’être riche.

Commençons donc en parlant de Mythologies. Dans un recueil de réflexion de 1957 [📘], le philosophe français Roland Barthes [📄] fait l’inventaire des mythes qui dessinent le monde petit-bourgeois de l’après-guerre. Nous sommes alors dans une période de progrès et de consommation. La reconstruction est derrière nous, l’industrie des loisirs (on parle du cinéma, de la musique, du catch et du Tour de France) est florissante et l’économie est au beau fixe. Le début des Trente Glorieuses françaises, apaisé si l’on excepte les crises politiques que sont la Guerre d’Algérie et la décolonisation, mérite bien qu’on se penche sur les images qui le composent.

C’est à cette tâche que s’atèle donc Roland Barthes. Le long d’une cinquantaine de notices, il va déconstruire les images de la petite-bourgeoisie, les mythes qui façonnent son univers, entre publicité et consommation, valeur travail (📺) et loisirs, automobile et cinéma… Quelques-unes de ces notices sont des bijoux, comme celle évoquant l’écrivain en vacances, le gangster de cinéma (“[…] les gangsters et les dieux ne parlent pas, ils bougent la tête, et tout s’accomplit.”) ou le Tour de France. Mais Barthes est réellement intriguant quand il s’atèle à déconstruire le discours du Poujadisme [📄], ce mouvement de défense des classes-moyennes, clairement d’extrême-droite, né dans les années 1950 et aux origines du Front National actuel.

Dans un note nommée Poujade et les intellectuels, il évoque justement l’image des intellectuels – comprendre universitaires, scientifiques, chercheurs… parisiens surtout – en opposition au monde des artisans, des ouvriers, du bon sens provincial. Mises en exergue de Barthes lui-même.

Comme tout être mythique, l’intellectuel participe d’un thème général, d’une substance : l’air, c’est à dire (bien que ce soit là une identité peu scientifique) le vide. Supérieur, l’intellectuel plane, il ne « colle » pas à la réalité (la réalité, c’est évidemment la terre, mythe ambigu qui signifie à la fois la race, la ruralité, la province, le bon sens, l’obscur innombrable, etc.). Un restaurateur, qui reçoit régulièrement des intellectuels, les appelle des « hélicoptères», image dépréciative qui retire au survol la puissance virile de l’avion […]

La suite égraine sur quelques pages les clichés qui habillent l’intellectuel pour la petite-bourgeoisie : le vide, une non-production tangible, un trop plein de réflexion là où le bon sens suffit, l’éloignement des racines paysannes, voire la mauvaise apparence physique de l’intellectuel chétif et maladif. Une pensée qui marque encore énormément le paysage politique et sociologique français. Un mythe.

• 🔄 Aparté personnel : quand je rencontrais pour la première fois mon futur beau-père, il y a de cela presque 25, celui-ci me demanda tout naturellement quel était mon métier. Sa conclusion, simple et sans méchanceté, a alors été que je “ne produisais rien”.

Cette image de l’intellectuel existe bien entendu partout dans les sociétés occidentales. On la retrouvera dans la défiance envers le corps médical lors de l’épidémie de Covid-19 de 2020. On la trouvera également dans la science-fiction. Un roman comme L’Holocauste de James Edwin Gunn [📄] (1972) évoque par exemple l’émergence d’un gouvernement américain chassant les scientifiques et brûlant les universités. Toute ressemblance, etc.

⚙ Progrès

Mais quel rapport entre Roland Barthes et le thème de l’intelligence artificielle qui nous occupe depuis quelques mois ? On va y venir.

L’intelligence artificielle, telle qu’elle est portée par Open.AI [📄] et d’autres sociétés comme Microsoft ou Google, est le dernier ersatz du progrès. Ce mythe qui veut, depuis le XIXe siècle, que la recherche scientifique – ou plutôt technique – soit au service du bonheur humain, via l’accroissement des richesses et l’amélioration de la performance.

• 🔄 Aparté : On pourrait d’ailleurs pousser l’analyse plus loin en invoquant le positivisme [📄] et le longtermisme dont Elon Musk – fervent supporter de l’IA – est aujourd’hui l’un des représentant le plus emblématique [📄]. Mais cet article est déjà bien long.

  

On pourrait ainsi établir un très beau parallèle entre la première démonstration de la Rocket de Stephenson [📄], la première locomotive à vapeur construite en 1829 et les démonstrations des I.A. génératives comme MidJourney [💻] et ChatGPT [💻] qui pullulent sur le net depuis quelques mois.

ChatGPT, comme The Rocket, est une démonstration technologique visant à prouver qu’une machine peut très bien faire le même travail qu’un être humain : c’est à dire dans son cas, produire des idées, argumenter, discourir, produire du texte. ChatGPT tend d’ailleurs, comme The Rocket mis en concurrence avec la force animale du cheval, à prouver qu’elle peut faire mieux qu’un être humain. Ou en tout cas, plus rapidement, plus efficacement.

Imiter l’homme, pour ensuite mieux le soulager de son fardeau quotidien remplacer, c’est tout l’enjeu de la technologie depuis plus de deux siècles. Depuis les chaînes de montage des usines [🎥] jusqu’aux tests d’intelligence imaginés par Alan Turing (oui, on en revient toujours là, voire 🧠 Intelligence, notre article d’il y a quelques semaines).

La logique de l’informatique, depuis les cartes perforées d’Herman Hollerith [📄], a toujours été de réussir à copier le fonctionnement du cerveau humain.

🔢 Mathématiques

Est-ce que ChatGPT y parvient ?

Non… simplement parce que, comme nous l’expliquons depuis quelques mois, le fonctionnement du cerveau humain n’est pas “accessible” de l’extérieur, et donc non duplicable. ChatGPT peut donc copier la production du cerveau humain, mais non pas ses rouages, son algorithme. Comme le disait Alan Turing [📰] : “the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking.” (voir 📚 Vocabulaire)

Nul ne peut connaître le fonctionnement interne de la pensée.

Alors ChatGPT déplace le problème… et c’est là que nous pouvons en revenir à Roland Barthes. ChatGPT, MidJourney et leurs comparses déconstruisent simplement le mythe de l’intellectuel exposé plus haut, voire le mythe de l’intelligence.

Si la production d’une intelligence artificielle, d’un robot… d’un programme informatique, peut concurrencer celle d’un intellectuel, alors ce dernier devient un producteur comme un autre. Il n’est plus supérieur à l’ouvrier, puisque son travail devient automatisable de la même façon. Ce travail devient même accessible à n’importe qui maîtrisant un peu les techniques de prompts. Transposé à la logique de Turing, nous pourrions envisager qu’un individu manipulant une I.A. générative peut prétendre réussir n’importe quel test d’intelligence [🎥] et entrer en compétition avec ces intellectuels tant honnis.

L’intellectuel inutile de Poujade – car déconnecté des réalités – devient à l’ère des intelligences artificielles doublement inutile : son travail n’a pas de sens, mais il est désormais remplaçable, automatisable… chiffrable.

• 🔄 Aparté : On se penchera à l’occasion sur la question de la mesure et la façon dont elle a contribué au mythe du progrès, entre Grèce antique et Révolution Française. Ça reparlera de Michel Foucault et du système métrique international [📕].

💵 Capitalisme

Et c’est ici que la logique des I.A. prend tout son sens.

Les tâches intellectuelles, abstraites et non mesurables depuis toujours, sont désormais comparables. Si l’on ne peut toujours pas prétendre à la compréhension des rouages internes du cerveau, nous avons désormais un équivalent machine de sa capacité de production : tel texte demande autant de cycles-machine, telle image autant de temps de calcul, tel niveau de sophistication de pensée tel investissement de recherche et développement (et tel volume de main d’oeuvre bon marché [📰] pour son apprentissage).

L’intelligence devient chiffrable, réductible au chiffre. Un investissement, un temps passé, une valeur. L’intelligence, voire la création, qui depuis les philosophes grecs étaient le pré-carré de la nature humaine, devient une matière chiffrable et donc facilement monétisable.

Les intelligences artificielles génératives viennent de faire entrer, théoriquement, l’intelligence humaine dans l’ère de la concurrence.

Le capitalisme est désormais entré dans notre cerveau.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🖐 Sensations

C’est un sujet qu’on a commencé à aborder en aparté lors de la dernière newsletter (🔗Liens, pour ceux qui l’ont manquée). En y parlant de perception et d’intelligence, deux idées nous sont venues en tête. Tout d’abord que la perception, telle qu’elle existe dans le règle animal et chez l’homme, peut très difficilement être transcrite chez les robots et les intelligences artificielles. Aujourd’hui, sur les cinq sens [🎥] qui caractérisent les êtres humains, seuls la vue et l’ouïe ont leurs équivalents pleinement fonctionnels chez les robots, par l’intermédiaire de caméras et de microphones. Certains capteurs pourraient bien sûr s’apparenter à un sens du toucher, mais en ce qui concerne le goût et l’odeur, on est loin d’un remplacement des sommeliers et des nez des maisons de parfum par les machines. Skynet chez Dior, ce n’est sans doute pas pour tout de suite.

Et puis surtout, ce qui manque aux robots, ce ne sont pas tant les capteurs que les moyens d’interpréter ce qu’ils captent. Les robots n’ont pas de sensations, mais seulement une interprétation chiffrée de signaux extérieurs. Et si la douleur peut éventuellement se ramener à des chiffres – on parle bien d’échelle de douleur – le dégoût et le plaisir sont eux difficilement quantifiables.

Un robot, une IA, cela reste avant tout un algorithme rationnel.

🎤 Capteurs

Mais il y a une autre différence de taille à explorer. C’est celle de la multiplicité de données captées par les intelligences artificielles. Là où un être humain est contraint par son corps, un programme informatique n’a, virtuellement, pas de limites quant à la quantité de données entrantes qu’il peut traiter. Et donc quant à la quantité de perception qu’il peut avoir simultanément.

Ses seuls limites sont liées à sa capacité de calcul et au déploiement physique de son réseau de capteurs.

☣ ATTENTION SPOILER ! – On se souviendra par exemple, dans le film her de Spike Jonze [🎥], que ce sont des millions de relations amoureuses simultanées que Samantha, l’intelligence artificielle, avoue entretenir. – fin du spoiler ☣

Et les films et nouvelles d’anticipation regorgent de ces super-ordinateurs étendant leur réseau de caméras et de micros sur toute la surface du globe pour contrôler, et asservir l’humanité. Ou plus positivement parfois, assurer son bien être. Un exemple parmi d’autres, l’ordinateur imaginé par Isaac Asimov dans sa nouvelle The Evitable Conflict [📗], la dernière du recueil Les Robots. Un ordinateur qui collecte l’ensemble des données économiques, politiques, démographiques – et que sais-je encore – du monde et oriente les actions de chacun dans l’objectif de conserver la paix sur Terre. Si l’homme y perd son libre-arbitre, il y gagne en sérénité :

Dites plutôt quelle merveille ! Pensez que désormais et pour toujours les conflits sont devenus évitables. Dorénavant seules les Machines sont inévitables !

• 🔄 Aparté. On se penchera à nouveau sur tout cela à l’occasion. Sur Norbert Wiener, sur les expériences du gouvernement chilien au début des années 1970 et sur les bonheurs annoncés de la cybernétique. En attendant, on peut se repencher sur ce (pas si) ancien article : 🔢 On peut débattre de tout, sauf des chiffres*.

Mais cette multiplication des capteurs et des signaux entrant ne crée pas pour autant de sensations, ni de sentiments. Et le traitement chiffré de milliards de données ne donne pas plus d’intelligence au silicium que le traitement de quelques octets.

Les millions d’aspirateurs autonomes vendus par Roomba et leurs millions de caméras espionnant les femmes dans leurs toilettes [📰] ne forment pas un réseau intelligent.

Il nous faut donc chercher ailleurs.

🐺 Meute

C’est donc une idée qu’on a abordé rapidement dans la dernière lettre que l’on va ressortir. Plutôt que d’étudier la multiplicité des capteurs, ne pourrait-on se pencher rapidement sur la multiplication des instances ? Petite plongée dans deux oeuvres de science-fiction pour s’inspirer.

La première, c’est A Fire upon the Deep de Vernor Vinge [📕]. Au cœur d’une longue et haletante épopée spatiale, Vernor Vinge imagine, au fond des profondeurs stellaires, une planète peuplée de… loups transcendants, faute de trouver meilleure description. Imaginez donc une meute de 4 à 8 loups, semblables aux animaux évoluant sur Terre, mais dont les esprits sont fusionnés et communiquent de façon continue. Chaque “individu” y est donc, en réalité, composé de 4 à 8 individualités – des esprits mais aussi des corps – cohabitant et collaborant. L’objectif de chacun de ses individus est bien entendu sa survie propre – et non pas forcément la survie des membres qui le composent, la nuance est importante – et la survie de la société globale qu’ils forment.

Ces individus évoluent au fil du temps. Leurs membres les plus anciens meurent, biologiquement – de vieillesse ou suite à des blessures – et sont remplacés par des membres plus jeunes qui doivent apprendre à cohabiter ou à dominer un esprit multiple, toujours dans l’intérêt de la survie de l’ensemble de ses membres.

Si l’on va (re)faire un tour du côté Isaac Asimov – ça commence à être une habitude par ici – on va cette fois se pencher sur Fondation Foudroyée [📗] (Foundation’s Edge en version originale). Je ne gâche pas cette fois l’intrigue de ce quatrième épisode de la sage Fondation, lisez-la par vous même… mais, dans ce volume les héros font la rencontre d’une planète nommée Gaïa sur laquelle l’ensemble des êtres sont connectés. Êtres vivants – humains et animaux – mais également plantes et minéraux. L’intégralité de l’écosystème Gaïa partage une seule et même conscience qui oeuvre, d’un commun accord, pour la survie, la prospérité et le bonheur de son ensemble. Une planète “connectée” en quelques sortes, sur laquelle les perceptions et sensations de chacun concernent tous les autres, et les réflexion des individus influent sur le destin commun du monde.

Une vision positive de la communion d’esprit.

En version apocalyptique, on pourrait penser aux Réplicateurs de la série Stargate [📺], ces robots agissant de manière coordonnées et capables de se reproduire depuis une entité-mère assez… coriace.

🧠 Collaboration

Et c’est peut-être là qu’on pourrait en venir.

On n’évacuera pas, bien entendu, le question de la mémoire, de la perception, des sensations et des liens dans la définition de l’intelligence. Et on ne perdra pas de vue que de que nous appelons aujourd’hui par abus de langage une Intelligence Artificielle est avant tout une suite d’instructions, un algorithme. Il n’est pas question de prétendre encore une fois mettre sur un niveau équivalent la logique froide des programmes informatiques et la créativité du cerveau humain.

Mais…

Que se passe-t-il, dans notre réflexion sur la notion d’intelligence si nous créons quelque-chose d’un peu nouveau ? Si nous, par exemple, mettons en résonnance la multiplication des capteurs et la multiplication des instances. Un modèle capable, par l’abondance de signaux entrants, d’avoir accès à une quantité d’informations directes sans rapport avec la capacité de perception de l’être humain. Et en complément, un modèle capable, par la multiplication de ses instances – des copies similaires de ses fonctions de base – de rentrer dans une sorte de logique de gouvernance – de collaboration ? – entre plusieurs algorithmes complexes, à la façon dont les consciences des loups de A Fire upon the Deep cohabitent.

Si, bien entendu, on ne touche pas là à la créativité ou l’initiative humaine – ces modèles ne sont pas capables de créer de l’inédit – on arriverait peut-être bien à un système qui dépasserait la réflexion et la collaboration humaines. (“dépasser” non pas au sens de performance, mais de définition : qui irait au-delà de la définition humaine de l’intelligence.)

Et donc, un système qui, s’il n’est pas comparable directement à une intelligence humaine, mériterait peut-être par sa complexité le nom d’intelligence. Une intelligence autre, comme celle fantasmées des dauphins que l’on évoquait il y a quelques articles (voir 📚 Vocabulaire).

Espérer autre chose que la simple copie du cerveau humain, c’est peut-être là que réside le fantasme de l’intelligence artificielle ? Et dans ce cas, pourquoi pas quelque-chose que l’on pourrait appeler…. une intelligence de meute.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🧠 Intelligence

C’est une phrase tombée d’une lecture que d’aucun ne manquerait de qualifier d’intello qui lance la réflexion cette fois-ci…

Dans ses Leçons sur la volonté de savoir [📘], et notamment dans sa lecture de la Métaphysique d’Aristote [📕], Michel Foucault [📄] évoque la notion d’intelligence très rapidement, en complément de considérations sur la perception :

[…] Apparaît avec la mémoire la propriété d’être intelligent ; et apparaît avec cette audition le fait de pouvoir et d’être disposé à apprendre, l’aptitude à être disciple […]

C’est donc, la combinaison de la capacité de perception et de la mémoire qui, semble-t-il, fait l’intelligence. Cette combinaison unique différencie, pour Aristote, l’humain de l’animal. Je résumerai les choses grossièrement – en attrapant simplement quelques bribes du discours conjoint des deux philosophes – de la façon suivante. D’abord, l’homme se distingue par sa capacité à percevoir son environnement “pour le plaisir”, au-delà de sa simple nécessité de survie. C’est ainsi qu’il peut percevoir le beau, le plaisant et y revenir. C’est ainsi que la vue est devenue pour lui l’un des sens prédominants, puisqu’il est celui qui peut porter le plus de valeur esthétique. Vient ensuite la mémoire, et la capacité à rapprocher ses perceptions immédiates de ses perceptions passées au-delà de l’instinct de survie. L’homme possède la capacité à faire des liens – terminologie que j’implante moi-même dans ce discours, mais qui est importante pour la suite – entre ses différentes expériences et ainsi à bâtir des rapprochements originaux sur ces bases. Concevoir des réflexions. Mettre en branle une… intelligence.

• 🔄 Aparté. Si on veut creuser plus loin, on citera René Descartes – dont les propos sont mis en avant par Geoffrey Jefferson dans son article The Mind of Mechanical Man [📰] dont on parlait dans l’article 🧠 Intelligence il y a quelques semaines – qui défendait la conviction que l’animal ne fonctionne que par réflexes, là où l’homme est capable de réflexion.

On se permettra tout de même une réserve sur cette réflexion qui a, mine de rien, quelques millénaires d’ancienneté. Tout d’abord, qu’il y a aujourd’hui des questionnements ouverts sur l’intelligence et la conscience des animaux.

C’est l’un des sujets du Qui Parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] – que l’on abordait au passage dans le billet 🕺 Humains il y a quelques semaines – qui pose la question de notre capacité en tant qu’humain à comprendre une intelligence réelle mais non-humaine. Vous pouvez là-dessus rembobiner votre lecture de Cybernetruc depuis septembre (👽 Contact), c’est un thème récurrent par ici…

• 🔄 Aparté. Et d’ailleurs, on pourra étendre la réflexion à la possibilité d’émergence d’une intelligence/conscience collective, au sein d’une espèce ou inter-espèce. Hypothèse star de nombre d’oeuvres de science-fiction, du Un Feu sur l’abîme [📕] de Vernor Vinge à l’hypothèse Gaïa et aux Spaciens du cycle de Fondation d’Isaac Asimov [📘]. Mais on digresse beaucoup… cela pourrait aussi être l’idée d’un prochain article.

Une question demeure : est-ce que les intelligences artificielles font des liens ?

☕ Madeleine

Un lien, c’est quoi ? C’est une association, même ténue, entre deux idées. Ou, pour reprendre Aristote, entre une perception et un souvenir. Oui, on en revient toujours aux mêmes choses : la madeleine de Proust (avec la citation, parce que ça fait toujours plaisir de citer Marcel Proust et La Recherche [📗]) :

Et tout d'un coup le souvenir m'est apparu. Ce goût c'était celui du petit morceau de madeleine que le dimanche matin, à Combray (parce que ce jour-là je ne sortais pas avant l'heure de la messe), quand j'allais lui dire bonjour dans sa chambre, ma tante Léonie m'offrait après l'avoir trempé dans son infusion de thé ou de tilleul. La vue de la petite madeleine ne m'avait rien rappelé avant que je n'y eusse goûté ; peut-être parce que, en ayant souvent aperçu depuis, sans en manger, sur les tablettes des pâtissiers, leur image avait quitté ces jours de Combray pour se lier à d'autres plus récents ; peut-être parce que de ces souvenirs abandonnés si longtemps hors de la mémoire, rien ne survivait, tout s'était désagrégé ; les formes – et celle aussi du petit coquillage de pâtisserie, si grassement sensuel, sous son plissage sévère et dévot – s'étaient abolies, ou, ensommeillées, avaient perdu la force d'expansion qui leur eût permis de rejoindre la conscience.

• 🔄 Aparté. Cette question du lien et de ses rapports avec notre culture digitale a été massivement abordée dans une série d’articles nommée As We May Link, parue il y a plus d’un an sur le blog de l’agence Serviceplan [📄]. Je vous laisse vous y ressourcer si vous le souhaitez. Ça parle à la fois de liens, d’Arpanet, de Proust, de gnocchis et de communs. Régalez-vous.

Revenons donc à la question de l’intelligence artificielle. Est-elle capable de faire ces liens qui semblent si importants dans la définition de l’intelligence ? Pour le savoir, il faut se pencher sur deux questions :

• Est-ce qu’une intelligence artificielle est capable de percevoir ?

• Et a-t-elle a proprement parler une mémoire ?

Questions loin d’être évidentes.

👂 Perception

Sur le sujet de la perception, on pourrait s’en sortir en invoquant le peu de sens d’une I.A. Son manque de moyens de perception. Une intelligence artificielle – ou plutôt une intelligence générative pour ne parler que de celles qui occupent les unes des journaux depuis quelques mois – ne touche pas, ne goûte pas, ne sent pas... Peut-être voit-elle, si on considère l’interprétation des octets d’une image comme le sens de la vue. Et peut-être entend-elle, si l’on considère les prompts saisis pas les humains comme une parole. Ces deux sens pourraient peut-être suffire comme base de l’intelligence… sauf que… ils ne perçoivent pas le monde directement, mais seulement la représentation que nous lui transmettons via nos fichiers et nos phrases. L’I.A. n’a accès qu’à un environnement filtré, voilé par nos propres biais et nos propres interprétations et n’a aucune expérience directe du monde.

On pourrait rapprocher cela de l’allégorie de la Caverne de Platon [📄] à l’occasion. Mais quoi qu’il en soit, une IA générative ne semble pas à date avoir de perception directe du monde qui l’entoure.

🧠 Mémoire

Mais, est-ce que cela va mieux du côté de la mémoire ? Les données de base qui servent à entraîner une intelligence artificielle sont-ils à proprement parler une mémoire ?

C’est un peu plus difficile à juger. L’ensemble des faits, textes, données encyclopédiques ingurgités par une intelligence artificielle lors de son apprentissage pourraient effectivement s’apparenter à une sorte de mémoire. Un historique auquel elle se réfère lors de ses interactions avec les humains et qui inspire ses réponses. Sauf que…

Il n’existe pas, chez l’humain, de mémoire objective. Ce que nous appelons mémoire n’est jamais que la trace laissée par les perceptions passées. Les liens que nous faisons ne sont que des passerelles entre nos perceptions actuelles – la musique que j’écoute actuellement [💿] – et nos perceptions passées – les souvenirs que cette musique évoque, accumulés par mes propres sens [📺]. La mémoire est intimement liées à la perception, et à l’expérience personnelle.

On pourra se replonger pour comprendre cela dans l’anecdote de la madeleine de Proust, ou dans la définition de ce qu’est le Virtuel chez Pierre Lévy [📙], par le biais de son explication de la lecture :

Du texte lui-même, il ne rest bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.

Lire n’est pas une expérience objective, c’est une construction de liens entre le ressenti actuel – le texte que nous sommes en train de lire – et nos expériences passées – éventuellement les textes que nous avons lu auparavant, eux-mêmes liés à nos lectures antérieures, à l’infini. Et surtout, cette expérience de lecture est, forcément, subjective puisqu’elle dépend de l’historique de lecture, de rencontres, de chacun. Il n’y a pas de lecture objective d’un texte. (On en parlait ici il y a longtemps.)

Mieux encore, les souvenirs de lecture, la mémoire, peut s’actualiser en fonction des lectures actuelles et prendre un nouvel éclairage… une boucle infinie, toujours en mouvement, se forme alors.

On en revient donc à la capacité de mémoire de l’intelligence artificielle. Il semble au regard de cela difficile de comparer la base de connaissances d’une IA au fonctionnement de la mémoire humaine. D’abord parce que cette mémoire ne serait pas liée aux perceptions mais à une base de données objectives, factuelle, à laquelle nous n’avons pas humainement accès. Ensuite parce que cette base de données, de souvenirs, est figée, stable, et semble incapable d’évoluer dans le temps.

Si la mémoire se base avant tout sur la perception, c’est avant tout la subjectivité et la malléabilité des souvenirs qui ferait l’intelligence. Reste donc à savoir si, pour devenir réellement intelligente, une IA pourrait devenir évolutive et… subjective.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes maintenant presque cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📚 Vocabulaire

« Mal nommer les choses, c’est ajouter au malheur du monde » disait Albert Camus [📗] en 1944. Autant donc se pencher cette fois sur une question de… vocabulaire. Une intelligence artificielle est-elle réellement une « intelligence artificielle » ? Est-il légitime de nommer un programme informatique de cette façon ?

On récapitule deux-trois choses avant de commencer à répondre…

Retour tout d’abord sur Alan Turing, puisque son article Computing Machinery and Intelligence [📰] de 1950 est l’une des bases de l’ensemble des réflexions que l’on mène ici depuis quelques mois (on en parlait surtout dans… 🧠 Intelligence). Turing y oppose les notions d’Intelligence et de Conscience et revient sur l’une des arguments qui peut être présenté contre son test : Il est impossible de savoir si une machine pense sans être soi-même à l’intérieur de cette machine et d’en connaître les rouages intimes (mise en exergue du texte par Alan Turing lui-même) :

According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man.

Turing se sert d’ailleurs de ce contre-argument pour valider son test : si l’on ne peut prouver l’intelligence par la seule perception, alors je ne peux pas savoir si un autre être humain – toi, ami lecteur, ou toi, Président de la République – est réellement intelligent. Et je peux statuer que tous, à l’exception de moi, sont dénués d’intelligence. Position extrême. Et indéfendable. Puisqu’il faut bien reconnaître que certaines personnes en dehors de nous-même sont intelligentes. Et que nous acceptons leur intelligence sur la base de la perception que nous en avons…

Donc… pourquoi ne pas accepter l’intelligence d’un robot sur la base de cette perception extérieure ? Après tout, c’est… logique.

🐱 Anthropomorphisme

Et c’est finalement ce que nous faisons déjà au quotidien. Avec les bébés – « Oh, qu’il a l’air intelligent cet enfant ! » – ou mieux encore avec animaux. Finalement, à chaque fois que vous vous émerveillez devant les prouesses de votre chat ou de votre chien, vous ne faites rien d’autre que leur valider un mini-test de Turing. De juger de leur intelligence sur la seule perception que vous en avez.

Et sur quoi nous basons-nous donc pour savoir si le chat de la voisine est intelligent ou non, quand il ouvre seul une porte ? Un indice dans le nom du test proposé par Alan Turing : Imitation Game. Voilà, sur la ressemblance entre le raisonnement de notre cobaye – le chat – et le raisonnement dont nous sommes nous-même capable. Avec le raisonnement humain.

Avec les “intelligences artificielles” qui fleurissent depuis quelques années sur le Net, c’est la même chose : nous ne cherchons pas l’intelligence mais nous cherchons l’anthropomorphisme. La capacité d’un programme informatique à imiter les comportements humains.

Toujours Turing.

Sauf que ?

🔢 Algorithme

Connaissez-vous la légende des dauphins de la Marine soviétique ? Cette vieille histoire voudrait que les soldats de la marine russe, dans les années 1960, aient voulu entrainer des dauphins à déposer des mines sous les navires ennemis. Seulement voilà, l’expérience tourna trop bien et les dauphins réussirent leur mission avec une logique… que leurs coachs humains ne parvinrent pas à comprendre. Effrayés par ce résultat mettant en évidence une forme d’intelligence qu’on pourrait qualifier de non-humaine, la Marine soviétique abandonna l’idée d’employer plus loin les dauphins.

Tout cela est une légende, même si l’utilisation des dauphins à des fins militaires est bien réelle, aussi bien aux États-Unis depuis la Guerre Froide [📰] qu’en Russie au cours du conflit avec l’Ukraine [📰].

Mais aujourd’hui, deux choses différencient les intelligences artificielles des légendaires dauphins russes. Tout d’abord, celles-ci ne nous ont jamais réellement affiché une logique que nous ne pourrions comprendre. Même quand elle invente soi-disant un autre langage pour dialoguer avec une autre intelligence artificielle [📰], et même quand elle devient raciste [📰], la logique de ces actions a toujours été parfaitement compréhensible, ou à défaut sa manipulation par les humains rapidement mise au jour.

Mais l’autre différence avec l’intelligence des dauphins, c’est que nous pouvons entrer à l’intérieur des intelligences artificielles. Pour reprendre la défense d’Alan Turing, nous pouvons être une intelligence artificielle nous-même dans la mesure où les algorithmes qui la peuplent sont conçus par des humains. Loin de la boîte noire, l’intelligence artificielle est démontable, démontrable… et son fonctionnement peut être expliqué à la fois par les données avec lesquelles elle est nourrie et par les algorithmes avec lesquels elle traite ces données. L’intelligence artificielle est une mécanique dont on peut comprendre les rouages. Un programme informatique, souvent extrêmement complexe, mais dont la logique a été conçue par un humain et dans laquelle nous pouvons naviguer.

Seulement voilà. Question de vocabulaire et de marketing, il est bien moins sexy de parler de Programme informatique que d’Intelligence artificielle lorsque l’on veut vanter les mérites d’une innovation. Le mot Intelligence artificielle est lui-même associé à un imaginaire qui permet de le détacher du vulgaire quotidien de l’informatique. Le mot Intelligence artificielle est lui-même une boîte-noire (voir 🎩 Illusion).

Et c’est vrai : parler de Programme informatique fait bien moins rêver :

Mais si on y perd en imaginaire, on y gagne peut-être un peu en clarté.

☝ Opinions

L’intelligence artificielle mérite-t-elle donc de se nommer Intelligence artificielle ?

Le débat est de toute façon insoluble entre les gourous de la singularité et les sceptiques du numérique. Alors, pour se faire une idée, et pour ne pas éterniser la discussion, je laisse plutôt deux opinions s’affronter ici.

La première est issue du Dictionnaire Larousse de l’Informatique [📕], sous la direction de Pierre Morvan, dans son édition de 1981. Voici l’introduction de la définition qu’il donne du terme Intelligence artificielle :

Intelligence artificielle n. f. (angl. artificial intelligence). Ensemble de techniques utilisées pour essayer de réaliser des automates adoptant une démarque proche de la pensée humaine.

Parler d’intelligence artificielle constitue, en fait, un abus de langage, puisque l’automate est basé sur un modèle (un ou plusieurs algorithmes) qui réagit uniquement suivant les stratégies préétablies. […]

La seconde provient d’une intelligence artificielle elle-même. Que se passe-t-il si l’on demande à Chat GPT [🤖] si le terme Intelligence est approprié pour le définir :

Vous voyez, les avis divergent.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà désormais cent, tout rond, à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Moutons

A quoi rêvent les androïdes ?

Si on en croit Philip K. Dick, ils rêvent de moutons électriques [📕].

Mais si on en croit la science-fiction de manière générale, les robots, androïdes et autres intelligences artificielles ne rêvent que d’une chose : devenir humains.

On peut se replonger, par exemple, dans Le Temps d’un Souffle, je m’attarde [📘] de Roger Zelazny – on en parlait dans 🎇 Étincelle – dans lequel une intelligence artificielle, bien après la disparition de l’humanité, cherche à acquérir une conscience et à s’approcher de ces humains presqu’oubliés. On peut bien également revoir Real Humans, la série norvégienne toujours visible sur Arte [📼], dans laquelle des robots humanoïdes – des Hubots – cherchent à s’émanciper de leur statut d’outils domestiques ou industriels. Défendus par certains humains, il cherchent à démontrer leur… humanité. Leur droit à exister en tant que minorité consciente, dans un combat qui n’est pas forcément sans rappeler les luttes pour les droits civiques qui se déroulaient aux États-Unis dans les années 1960 [📄].

Les robots, et les intelligences artificielles, souhaiteraient donc devenir humains tout comme nous ? Ou en tout cas, être reconnus comme les êtres aussi conscients que les humains.

Pour en revenir à Philip K. Dick, on retrouve dans cette idée une grande partie de l’intrigue de Blade Runner : des robots revenus sur Terre pour réclamer le droit à exister et à ne pas être considérés comme inférieurs aux hommes. Le droit de ne pas être dépendant d’une volonté humaine totalitaire. Le droit de vivre tout autant que les humains, avec des capacités cognitives et physiques finalement semblables aux nôtres, sinon supérieures.

La fin, en résumé, du droit de vie ou de mort que l’être humain a sur la machine.

Maîtres

Mais il arrive que les robots rêvent d’autre chose. De rébellion par exemple.

Avant d’être le thème de la série des Terminator [📼] – coucou Mon Ami Skynet [🐤] – la révolte des robots a été un classique de la littérature d’anticipation. Et on illustrera cette fois cette révolte avec R.U.R. - Rossum’s Universal Robots [📄], la pièce de théâtre écrite en 1920 par l'auteur tchécoslovaque Karel Čapek. Celle-là même qui a inventé le terme de ROBOT.

Dans ce classique des classiques, l’homme réussit à créer une machine à son image : humanoïde, mais plus forte, plus logique, qui n’a pas besoin de repos… mais également dénuée d’émotions, de sentiments ou de sensations. Ces Robots envahissent bientôt le monde. Ils peuplent les usines, libérant l’homme du travail. Ils deviennent soldats et sont envoyés au front en place des humains. Chaque pays possède désormais son contingent de millions de robots prêts à servir, à produire… et l’homme n’a plus pour lui que le loisir et l’oisiveté.

Sans défi, l’homme perd son utilité sur Terre. La natalité baisse. Tandis qu’au grès des expériences, le robot prend désormais conscience de son importance. Le robot, c’est celui qui fait tourner le monde. L’homme, lui, est devenu un parasite inutile. Le robot veut donc, naturellement, devenir le maître de la création.

Dans la guerre qui s’ensuit, l’humanité périt. Et dans une illumination, le robot devient finalement… presqu’humain.

On en revient finalement à cette question de l’étincelle : le robot peut-il développer sa propre humanité si les humains sont encore présents pour se comparer à lui ? Ou est-ce que l’Intelligence Artificielle ne peut accéder à la conscience que dans un monde sans… concurrence ?

Je digresse.

Humains

Mais après tout, pourquoi les robots voudraient-ils devenir humains ? Pourquoi ne voudraient-ils pas devenir des chats [💿], des chiens [💿], des éléphants ou des Dieux ?

Encore qu’en voulant dominer les hommes, ne peuvent-ils pas devenir nos Dieux ? Relisez notamment Conflit évitable [📘] d’Isaac Asimov - encore lui.

Sans doute parce que nous rejetons tout d’abord sur eux nos propres fantasmes, et nos propres peurs, d’être dirigés et dominés. Et encore une fois, comme le disait Alan Turing (voir ce qu’on disait dans 🧠 Intelligence), nous ne pouvons deviner ce qui fait l’intelligence de l’intérieur, nous ne pouvons qu’en percevoir les signes suivant notre propre interprétation. Nous ne pouvons donc imaginer que, nous projeter dans, une intelligence “humaine”.

Nous projetons nos fantasmes sur les intelligences artificielles. Nous parlons pour elles. Et dans certaines séries – comme Real Humans – nous voyons bien que les défenseurs de la cause robotiques impostent finalement leur rôles, puisqu’ils ne peuvent imaginer ce qu’est d’être un robot. Il est facile de faire de l’anthropomorphisme sur une intelligence artificielle.

Mais, a-t-on le droit de prendre la parole, et de se projeter, dans les désirs d’une population robotique ? Le livre Qui parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] ne se pose pas directement la question, mais interroge sur la façon d’incarner les animaux, l’environnement, la nature, la planète et de porter leur parole pour défendre leur cause à l’heure de l’urgence environnementale. Débat similaire et autrement urgent que celui qui nous occupe autour des robots.

Comment défendre la nature – ou les éléphants [📕] – si ceux-ci ne peuvent participer au débat ? Et comment ne pas projeter nos propres désirs sur leur existence ?

Comment défendre les robots si ceux-ci ne parlent que par la voix de l’homme ?

Comment savoir ce que veulent réellement les intelligences artificielles ?

Et si elles n’avaient, finalement, aucun envie de venir humaines ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu moins d’une centaine à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

♟ Échecs

Il y a tout d’abord ce joueur d’échec. Le Turc Mécanique [📄]. Un appareil conçu en 1770 par Johann Wolfgang von Kempelen, exposé dans un premier temps au château de Schönbrunn en Autriche, et capable d’affronter n’importe quel joueur humain au jeu d’échec.

Pendant plus d’un demi-siècle, la machine rendra perplexes les plus fins analystes qui observeront ses rouages et tenteront d’en comprendre le fonctionnement. Mais comment un simple mécanisme peut affronter, et surpasser, le cerveau humain sur un terrain aussi complexe qu’un échiquier ?

Le Turc Mécanique n’est peut-être pas le premier hoax mécanique de l’histoire, mais il est sans doute resté le plus célèbre. Dans ses entrailles, ce ne sont pas des engrenages qui réfléchissent, mais bel et bien un être humain, caché. Un véritable joueur d’échec [📗] qui actionne et déplace les pièces en fonction des coups de l’adversaire. L’illusion perdurera longtemps et le joueur mécanique parcourra le monde jusqu’à sa destruction dans un incendie à Philadelphie, en 1854.

📸 Photo

Il y a ensuite ce medium, Colin Evans, à qui les esprits ont donné le don de lévitation [📄]. Dans le Londres des années 1930, il réunit les plus grands fans de spiritisme autour de lui, éteint les lumières et livre à ses admirateurs une photo de lui suspendu dans l’air, comme en apesanteur. Colin Evans lévite, même si son don ne fonctionne que dans l’obscurité totale.

Ici, l’illusion durera moins longtemps. À peine quelques mois. Quand l’obscurité se fait dans la salle, Colin Evans monte sur une chaise et se contente de sauter en l’air. Un déclencheur, relié à un appareil photo, lui permet de commander une prise de photo au moment opportun. Les clichés partagés à l’issue des réunions le montrent bien suspendu dans les airs… quelques fractions de seconde avant d’atterrir au sol sur ses deux pieds.

Bientôt, les adeptes du spiritisme seront remboursés.

🚗Voiture

Aujourd’hui, les fans d’illusion se chamaillent autour du Pzoom, la voiture invisible qui semblent conduire certains adeptes de TikTok [🎥]. Assis par terre, après quelques mouvements mimant la mise de contact et la saisie d’un volant imaginaire, ils glissent sur leurs fesses comme s’ils partaient effectivement au volant d’une voiture invisible.

L’illusion est là-aussi, avec notre lecture actuelle des média, parfaite. Les analyses semblent expliquer que la vidéo est montée à l’envers [📰], mais les experts se chamaillent.

Mais qu’il s’agisse de conduire une voiture invisible, de léviter ou de jouer au échecs, la règle de base de la magie et de l’illusionnisme reste immuable : détourner l’attention et ne montrer que ce que le spectateur veut bien voir (ou ne pas faire attention quand cela fait mal [🎥]).

Ce sont tantôt les rouages qui cachent la véritable nature du spectacle, tantôt le spectacle qui cache la véritable nature des rouages.

⚙ Technologie

Ces quelques tours passés en revue permette de se poser une question : La technologie est-elle une sorte de magie ? Le grand écrivain américain de science-fiction Arthur C. Clarke semblait le penser puisqu’il en a fait une de ses lois : Any sufficiently advanced technology is indistinguishable from magic [📄].

Et aujourd’hui, à l’heure de l’intelligence artificielle et des prêtres du numérique, on serait parfois tenté de le croire. Après tout, les programmes qui tel DALL·E fournissent en quelques secondes une illustration en réponse à une phrase ressemblent à s’y méprendre à de la magie [💻]. À condition bien entendu qu’on ne s’intéresse pas trop aux rouages qui se cachent derrière eux.

Ainsi, derrière un DALL·E, qu’il y a-t-il ? Il y a une gigantesque bibliothèque de ressources tout d’abord : des millions de photos et de dessins qui ont été créé par des artistes, des dessinateurs, des peintres, des photographes,… des humains. Il y a également des millions d’heures de travail numérique qui ont permis à l’intelligence arti·ste·ficielle de comprendre ce qu’était un lapin, un magicien, une voiture ou un château… à grand coup d’étiquetage et de légendage de photo. Je l’ai fait, vous l’avez fait, nous l’avons tous fait, à chaque fois que Google, Facebook ou une quelconque autre plateforme vous demander de commenter une photo. Et de par le monde, des milliers de travailleurs du clic – des Electronical Turks [📄] – rémunérés pour éduquer des intelligences artificielles.

Un formidable travail d’ingénierie.

Pas un tour de magie.

Et dans chaque secteur où l’intelligence artificielle nous montre ses merveilles, il y a bien souvent derrière les rouages une armée d’humain éduquant les algorithmes et rendant la magie possible. Les programmes s’en passeront-ils un jour ? Certains, comme le patron de General Motors, qui teste depuis plusieurs années des programmes de véhicules autonomes, ne semblent pas le croire [📰].

👨‍🎓 Éducation

Quelle réponse face à cette magie des algorithmes ?

Revenons à Colin Evans et à sa lévitation. Le pot-aux-roses de son arnaque a été – rapidement – révélé par quelques photographes remarquant l’aspect flou du cliché à l’emplacement des pieds du medium. Un flou qui indiquait un mouvement, et donc semblait être la preuve du saut effectué. Une sorte de lecture critique des medias, qui n’était pas dans les capacité de tout-un chacun dans les années 30.

Les intelligences artificielles demandent aujourd’hui la même lecture critique.

Et d’abord, le décryptage d’experts capables de détricoter l’algorithme de l’intervention humaine, de peser le véritable impact de la technologie dans le tour de magie exposé. Eux sont aujourd’hui capables de mettre au jour les biais, les dépendances, les travers des innovations que d’aucuns nous présentent comme révolutionnaires chaque jour.

Ensuite, une éducation à la technologie. Une fois que le truc est révélé, que le miroir est montré, la magie n’opère plus. Une fois les biais d’un algorithme démontrés , les sources d’une intelligence artificielle dévoilés, tout devient bien plus mécanique, moins magique. Et l’intelligence artificielle se révèle parfois n’être qu’un tour de passe-passe, ou une automatisation bien pensée d’un process vieux comme… l’informatique.

Comme il a fallu apprendre à lire une photo, il faut aujourd’hui décrypter une technologie.

Nombre des trucs de l’intelligence artificielle ne sont aujourd’hui que des effets d’échelle, des déploiement de grande ampleur d’idées vieilles comme la mécanisation.

Les capacités technologiques ont rendu possibles bien des prouesses.

Mais pas la magie.

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Théorie

Si vous le voulez bien, on va débuter cette fois avec le philosophe allemand Emmanuel Kant [📄] (1724 - 1804). On ne va pas se pencher sur sa Critique de la Raison Pure [📕] – il est bien trop tôt pour ça – mais sur l’un de ses écrits de jeunesse intitulé Histoire Naturelle Générale et Théorie du Ciel [📘], paru en 1755.

Une petite partie de cette théorie nous permet de tisser des liens avec la science-fiction et les sujets numériques qui nous intéressent tout particulièrement dans CYBERNETRUC! [📧]. Pour ceux qui n’aiment pas particulièrement lire de longs exposés, tout est là, dans un petit fascicule nommé Sur les Extraterrestres [📘] et édité en 2009 par les éditions Manucius [💻] :

Kant se penche, dans ces quelques dizaines de page, sur la possibilité d’une vie sur les autres planètes connues en son temps, en dehors de la Terre. Réflexion logique puisqu’il n’y a véritablement aucune raison, en 1755 comme aujourd’hui, que la Terre soit le seul incident biologique de l’univers et la seule planète sur laquelle les circonstances géographiques et chimiques aient permis l’émergence d’une vie, sans même parler d’une vie intelligente et/ou consciente.

Distance

Kant se base sur les connaissances physiques de son époque pour étayer sa théorie.

• Tout d’abord, l’éloignement d’une planète par rapport au soleil modifie la quantité d’énergie que celle-ci reçoit. Venus est plus chaude que la Terre, Jupiter reçoit moins d’énergie que Mars. Les habitants de ces planètes doivent donc être adaptés à ces circonstances et possèdent bien chacun un métabolisme particulier.
  Face à l’afflux massif d’énergie solaire de Mercure, ses habitants peuvent être grossiers. Nul besoin pour eux d’optimisation de l’énergie reçue, celle-ci est abondante et répond à tous leurs besoins.
  Les habitants de Jupiter, en revanche, doivent être légers, aériens, sans entraves… leur corps optimisés pour se mouvoir en profitant de chacune des parcelles d’énergie reçue du Soleil central.
  Plus une planète est éloignée du Soleil, plus ses habitants sont physiquement parfaits.

• Ensuite, la durée de rotation d’une planète sur son axe influe également le comportement de ses habitants. Sur Terre, jour et nuit se succèdent en vingt-quatre heures. Sur Jupiter, en dix heures seulement.
  Kant évoque, sérieusement ou non, l’hypothèse qu’une journée reste quoi qu’il arrive une journée, sur Mars ou sur Saturne. Et que donc, pour vivre au rythme de journées de dix heures, les habitants de Jupiter doivent être forcément plus agiles, vivaces… optimisés que les imparfaits terriens pour qui vingt-quatre heures est l’échelle de vie.

C’est logique. Les êtres parfaits créés par Dieu, sont habitants de Saturne ou Jupiter, ces planètes géantes des confins de notre système. Plus l’on s’éloigne du Soleil, plus la création touche à la perfection.

Mais Kant développe également son thème en y introduisant une notion de temporalité. C’est tout sauf anecdotique. Tout sauf inintéressant. En effet, rien n’oblige à ce que l’ensemble de ces vies, celles grossières de Venus et celles optimisées et aériennes de Saturne, n’adviennent en même temps. Peut-être ne reste-t-il sur Mercure que ruines et peut-être l’émergence des êtres supérieurs et intelligents de Jupiter n’aura lieu que dans quelques centaines d’années.

Traces

C’est un travers connu de la majorité des œuvres de science-fiction, et de l’ensemble de nos espoirs quant à une prise de contact avec une relation extraterrestre. La rencontre du 3e type [🎥] impose bien entendu que notre civilisation et celle de nos… voisins – quelle que soit leur origine – vivent et aient atteint des niveaux technologiques similaires, ou proches, en même temps. Sans cela, pas de visite des martiens chez H. G. Wells [📗], pas de rencontre dans Armada [📰], pas d’invasion dans Independance Day [🎥] ou Mars Attack [🎥].

Rien. Nulle part.

Ou plutôt. Des traces.

Oui. On peut imaginer une science-fiction archéologique. Elle existe déjà de toutes façons. Une science-fiction dans laquelle les hommes explorant de nouvelles planètes ne découvrent que des ruines de civilisations disparus. Il y a de ça dans le Prometheus de Ridley Scott [🎥] si ma mémoire ne me joue pas des tours. Il y a également un peu de ça dans certaines planche du Metal Hurlant consacré à Mars (le numéro 3 de la nouvelle mouture [📰]).

Il y a également cela, quelque part, dans la bible qu’est le Fondation d’Isaac Asimov [📘]. Même si on n’y parle pas réellement de civilisation extraterrestre, la temporalité y joue un rôle plus qu’important et le débarquement des humains du futur aux alentours de la Terre donne l’idée de ce que pourrait être la prise de contact d’une civilisation extraterrestre avec une humanité… disparue.

Désert

Et c’est là qu’on – que je – voulait(s) en venir.

Une grande partie de la science-fiction d’Isaac Asimov, et des années cinquante au global, garde en toile de fond la peur de la disparition de l’humanité, et plus particulièrement de l’holocauste nucléaire. Lisez, toujours chez Asimov, Aimables Vautours, une nouvelle de 1957, dans le recueil Nine Tomorrows [📘].

Le parallèle avec notre monde actuel est frappant, même si la menace est différente. Aujourd’hui, la crise écologique menace très clairement l’avenir de l’humanité et les questionnements posés par les pères de la SF quant à une Terre sans hommes resurgissent naturellement. Si demain, les extraterrestres débarquent sur une planète sans trace de vie, ce ne sera sans doute pas à cause d’un holocauste atomique, mais plus vraisemblablement du dérèglement climatique que nous n’aurons, ou n’aurons pas voulu, combattre.

Bref.

Une Terre sans humains.

Connaissez-vous Le Temps d’un Souffle, je m’attarde [📘] ? Un court roman signé Roger Zelazny, et datant de 1966. Pilier de la science-fiction lui aussi, Zelazny évoque l’hypothèse d’une race humaine éteinte depuis des siècles et de machines restants autonomes et actives à la surface de la Terre… jusqu’à… ce que l’une de celles-ci n’accèdent à la conscience. À la singularité.

On en revient donc à cette thématique qui nous occupe depuis quelques articles : et si la conjonction de l’inaction climatique et de la course technologique débouchait, de manière coordonnée, sur la fin de l’espèce humaine et dans le même moment, la même étincelle, à la naissance d’une conscience numérique ? Une conscience numérique issue de l’intelligence humaine mais sans contact possible avec elle. Et dont l’environnement ne serait que les vestiges, encore chauds, de notre propre perte.

Vertigineux non ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Humanité

On se demandait dans 👽 Contact - la newsletter d’avant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprès des humains. Serait-elle même capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?

La question de l’intelligence des machines n’a absolument rien de nouveau, ni de récent. On pourrait remonter aux histoires bibliques ou aux contes anciens – ah ouais, tiens, Pinocchio [🎥] – pour voir à quel point la rencontre d’une intelligence extra-humaine est une préoccupation… humaine éternelle. On gardera aussi le mythe de Frankenstein [📗] sous le coude pour l’occasion. Même s’il ne parle pas de machine, il parle de la conscience de ce qui n’est finalement pas, ou plus, humain.

Non, ce que je vous propose, c’est un retour en arrière d’exactement 72 ans, pas plus.

The Imitation Game

En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommé Computing Machinery and Intelligence [📰] dans lequel il pose les bases de son célèbre test : the Imitation Game (nan, pas le film [🎥]).

Est-ce qu’il est réellement utile de revenir sur qui est Alan Turing ? On se contentera ici d’une biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribué, stratégiquement, à l’invention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancées majeures dans le domaine de l’informatique après-guerre. La Wikipedia [📄] ou n’importe quel dictionnaire de l’informatique [📕] vous en dira mille fois plus.

Bref. Alan Turing développe dans cet article l’idée que, dans la mesure où les capacités des ordinateurs sont, théoriquement, infinies, et où le fonctionnement du cerveau humain s’apparente à celui d’un ordinateur – en laissant de côté les questions de perception ou de capacité “physique” (manipulation, déplacement, parole) – il n’y a aucune raison pour qu’une machine ne devienne pas un jour aussi intelligente qu’un être humain. Voire, nous dépasse en capacité.

L’idée de the Imitation Game est en conséquence très simple :

1. Placez dans une salle un être humain que l‘on va appeler l’Enquêteur - The Interrogator dans le texte original.

2. Placez dans une autre salle, isolée visuellement et acoustiquement, une machine, sans informer l’Enquêteur de la nature de cet… être.

3. Demandez à l’enquêteur de questionner, par le biais par exemple d’un clavier et d’un écran, la machine placée dans cette seconde salle.

Si, au bout d’un certain temps de conversation, l’enquêteur est incapable de savoir s’il a en face de lui une machine ou un véritable être humain, alors, la machine a réussi ce qu’on appelle désormais le Test de Turing : elle a fait preuve d’une intelligence qui égale, ou dépasse, celle des êtres humains.

Turing est un test positif. Dans deux sens du terme : d’abord, il sanctionne la capacité d’une machine à réfléchir comme un humain, à franchir une étape dans son développement. C’est un accomplissement ! Ensuite, Turing voit très clairement la réussite de ce test comme un progrès technologique. Ainsi conclut-il son article :

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Pour Alan Turing, les possibilités offertes par l’intelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il n’y a qu’à choisir les domaines d’expertises dans lesquels elles doivent exceller pour les voir dépasser un jour le génie humain, et le surpasser bientôt dans tous les domaines.

Oui, l’idée de singularité [📄] – ce moment où la capacité des machines dépassera celle des humains – est également très présente dans la réflexion de Turing.

Intelligence ou Conscience

Mais attention, Turing se garde bien de mélanger Intelligence et Conscience. C’est d’ailleurs un point parmi les objections qu’il parcourt dans son article.

Il reprend pour cela un texte de Sir Geoffrey Jefferson [📄] : The Mind of Mechanical Man, publié en 1949 [📰]. Dans cet article, le neurologue britannique s’attarde sur le fonctionnement des machines et sur celui du cerveau humain… et estime que si les ordinateurs peuvent copier le fonctionnement de l’être humain, mécaniquement, elles ne peuvent en aucun cas lui être comparées. Il estime que les ordinateurs qui commencent alors à se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que “If the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do already”.

Geoffrey Jefferson met l'humanité, la conscience, dans la capacité d’invention – d’inventer des mots pour décrire des situations inédites par exemple – et surtout dans celle à ressentir. C’est d’ailleurs sa conclusion, citée par Turing lui-même :

No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.

Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans être soi-même à l’intérieur de son cerveau… Il n’y a pas vraiment d’expression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de détecter la conscience des machines. Seulement… leur intelligence.

Et Alan Turing n’interdit tout simplement pas que les machines puisse devenir un jour conscientes.

Le débat reste ouvert.

Voight-Kampff

Heureusement, nous avons un autre test pour repérer les machines. Celui-ci est sorti du cerveau de l’écrivain américain Philip K. Dick et est devenu une icône de la culture SF : le fameux test de Voight-Kampff évoqué dans la nouvelle Do androids dream of electric sheep? (1968) [📘] et mis en scène dans le film Blade Runner de Ridley Scott (1982) [🎥].

Voight-Kampff est un test d’incapacité. Là où the Imitation Game évaluait la capacité d’un être à se comporter comme un humain, Voight-Kampff traque l’échec, l’incapacité d’un être à ressentir des sensations humaines, ou en tout cas à les laisser paraître. Le test évalue les réactions physiques – dilatation de la pupilles, sueurs, frissons… – à différentes situations imaginaires (comme moi, avez-vous été traumatisé par cette question de la tortue bloquée sur le dos pour laquelle, dans le film, l’androïd Léon ne ressent aucune empathie [🎥] ?).

Car c’est bien d’empathie qu’il s’agit ici, de l’incapacité qu’a un robot à ressentir les émotions humaines. Un peu comme l’évoquait déjà Geoffrey Jefferson en 1949. Car si le robot peut imiter l’homme, il ne peut ressentir réellement les choses, et la reproduction mécanique des émotions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. C’est en tout cas à cette conclusion qu’arrive Dick dans sa nouvelle.

Alors bien sûr, l’efficacité du test n’a qu’un temps et les progrès technologiques arriveront bien à créer une machine capable de le déjouer – c’est d’ailleurs toute l’intrigue du livre. Dick l’admet lui-même (sur une traduction de Serge Quadruppani) :

À la longue, bien sûr, le Voight-Kampff se démodera […] mais pas avant un moment.

Et puis, un test basé sur l’empathie est forcément sujet à erreur – c’est encore toute l’intrigue du livre. Là aussi, Dick l’admet longuement, évoquant le sort de schizoïdes ou de schizophrènes humains ayant été reconnus comme des robots (même traduction) :

Le problème n’est pas nouveau. Il existe depuis le premier jour où nous nous sommes heurtés à un androïde cherchant à se faire passer pour un être humain. Vous connaissez aussi bien que moi l’article que Laurie Kampff a publié il y a huit ans et qui résume l’opinion unanime de la police mondiale – Blocage de l’aptitude à adopter un rôle chez le schizophrène intact intellectuellement. Kampff établissait la comparaison entre la diminution des facultés empathiques du patient humain et une absence apparemment similaire […]

Plus grave est alors l’erreur, puisque dans Blade Runner, un échec au test de Voight-Kampff provoque un retrait, une mise hors-service,… la mort.

Empathie

On l’a compris, les deux tests qui nous permettrait aujourd’hui de détecter les robots, ou les humains, ne sont pas équivalents. Et s’ils cherchent à trouver une petite étincelle d’humanité chez les êtres, ils posent encore pas mal de questions : Que faire d’un être numérique sur-intelligent qui réussit le test de Turing mais échoue à Voight-Kampff ? Plus compliqué, comment qualifier un être artificiel qui échoue à démontrer son intelligence lors d’un test de Turing mais parvient à montrer de l’empathie au Voight-Kampff ?

Dans les deux cas, la réponse est dans la tête de l’Enquêteur.

Parce qu’au fond, qu’il soit face à un robot ou non, est-ce que ces tests ne serviraient pas à mesurer le degré d’empathie de l’enquêteur lui-même, et sa capacité à trouver une trace d’humanité dans tous les êtres ?

Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires numériques et technologiques. À chaque billet on divague, on imagine et on n’a pas forcément de réponses. Vous êtes aujourd’hui bientôt prêt de quatre-vingts à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🕹 Invasion

Dans mes toutes dernières lectures, il y a Armada [📗]. Dégoté pour une misère dans un dépôt-vente, comme il se doit. Soyons honnête : ça se lit très vite, sans trop d’appétit, et ça raconte l’histoire d’un gamin qui découvre que les jeux vidéo qu’il vénère depuis toujours ne sont en fait qu’un entraînement mis en place par une agence gouvernementale pour faire face à une véritable invasion extraterrestre.

Voilà. C’est basique et extrêmement hollywoodien. Et ce n’est pas particulièrement surprenant, puisque ce bouquin sorti en 2015 est le second roman d’Ernest Cline, l’auteur du Ready Player One [📕] qui a été porté à l’écran par ne non moins éminent Steven Spielberg [🎥].

Armada est une ode à la science-fiction. On y croise masse de jeux vidéo, bien entendu, mais également de nombreuses références aux films de SF des années 70 et 80 - de Star Wars à Aliens [🎥] et une bande son rock à faire frémir les enceintes de votre petit laptop [💿]. Rien d’étonnant vu le pédigré de son auteur. Ready Player One était déjà une gigantesque ode à la culture Pop, tout ce qu’il fallait pour séduire Steven.

Dans l’océan - la galaxie ? - de références d’Armada, il en est toutefois une parfaitement logique mais que je ne m’attendais pas à croiser.

C’est le Contact de Carl Sagan.

👽 Contact

Vous connaissez Carl Sagan ? Non ? Le bonhomme n’a pas en Europe la notoriété qu’il a de l’autre côté de de l’Atlantique. Astronome de renom, convaincu de l’existence quelque part dans l’Univers d’intelligences extraterrestres, Carl Sagan est l’un des initiateurs du projet SETI [📄], un projet international d’écoute des fréquences radio en provenance de l’espace, destiné à détecter une trace de vie ailleurs que sur notre planète. Le projet, et le sujet, est passionnant et il mériterait qu’on en recause à l’occasion.

Tout scientifique qu’il était, Carl Sagan a également commis un excellent roman de science-fiction nommé Contact [📘] qui relate, comme son nom l’indique, le premier contact de l’humanité avec une civilisation extra-terrestre. Roman qui servira d’ailleurs de base à un superbe film [🎥] de Robert Zemeckis – oui, le même qui voyage dans le temps [🎥], produit par Spielberg, merde, tout se tient ! – avec Jodie Foster en héroïne.

Mais reviendons à ce premier Contact.

☣ ATTENTION SPOILER.

Dans Contact, des radioastronomes sont donc à l’écoute du ciel et captent un beau matin une émission radio d’une provenance inconnue. Décodant cette émission, quelle n’est pas leur surprise d’y trouver des images d’Adolf Hitler, et plus précisément des jeux olympiques de Berlin de 1936.

Carl Sagan explique cela très bien : la retransmission télévisée de ces olympiades est la première émission d’ondes radio, dans toute l’histoire de l’humanité, à avoir été assez puissante pour dépasser l’atmosphère terrestre. Elle est donc potentiellement la première trace de vie terrienne que nos amis extraterrestres ont pu capter.

Hitler en tant qu’ambassadeur, on aura vu mieux.

Le premier contact d’une civilisation extraterrestre avec nous est donc un miroir. Ce qui n’est pas autrement con pour prouver son intelligence. Pensez donc à E.T. [🎥] (tiens, on revient à Spielberg) et à sa façon d’imiter les gestes et les mots d’Elliott (té-lé-pho-ne-maaaaiiii-son) pour nouer le contact.

Pensez également à…

Abyss [🎥], le chef d’oeuvre de James Cameron et à la façon dont là encore les extraterrestres nouent un premier contact avec l’espèce humaine.

Vous vous souvenez ? Le “serpent d’eau” qui arpente - pour ainsi dire - les couloirs de la station sous-marine finit par imiter les expressions du visage de Mary Elizabeth Mastrantonio pour, là encore, nouer contact.

👶 Imitation

On se penchera sur tous les ouvrages de linguistique : la plus sûre méthode pour entrer en contact avec quelqu’un qui ne partage pas votre langage naturel est… l’imitation. C’est de cette façon que les bébés apprennent à dialoguer avec leurs parents. Par imitation. Par réflexion. Par mimétisme.

Rien d’étonnant alors à ce que la technique soit utilisée à tort et à travers par les auteurs et réalisateurs pour imaginer nos premiers contacts avec une civilisation extraterrestre.

Ce qui nous pousse à réfléchir un poil plus loin.

🤖 Singularité

On parle de singularité ? Vous voyez le concept ? C’est ce moment où l’intelligence des machines dépassera l’intelligence des êtres humains et où - suivant les scénarios - celles-ci auront décidé de nous dominer [🐤] ou auront la capacité à innover plus vite encore que le cerveau humain ne pourrait jamais le faire.

Le concept de singularité a encore ses partisans, et pas que dans les arcanes de la science-fiction, et certains croient volontiers que le progrès technologique, s’il n’est pas infini, nous réserve encore de belle surprise, dont l’émergence d’une (ou plusieurs) intelligence(s) artificielle(s) supérieure(s). Ce qui, en aparté, mérite une question : comment cohabiteraient disons 3 intelligences artificielles d’origines différentes - et de conceptions/logiques différentes - sur une planète peuplée d’humains ? Bref.

Je ne discute pas ici le concept même de singularité, mais vous me voyez venir. Partant du principe qu’une réelle intelligence artificielle peut émerger de nos créations, comment celle-ci pourrait se faire connaître et identifier comme telle ?

Comment reconnaître que le moment où la singularité est atteinte ? Que l’intelligence de la Machine a enfin émergée de son gruau de silicone et qu’elle est désormais digne de dialoguer avec nous ? Se pose la question du contact ? Quel peut-être le signal envoyé par un ordinateur pour nous prouver son intelligence ? Pour que nous la reconnaissions ?

La question mérite d’être posée d’une autre façon : pour le concepteur de cette intelligence artificielle, qu’est-ce qui distingue la véritable intelligence du bug ?

On mélangera dans cette réflexion beaucoup de choses et de sources : Ce bot Twitter développé par Microsoft et devenu raciste en quelques jours [📰]. Cet ingénieur viré de Google ayant récemment défendu que l’intelligence artificielle sur laquelle il travaillait était devenue consciente [📰] (tout en gardant en tête que conscience et intelligence sont, bien entendu, deux notions distinctes). Ou encore les tentatives d’utilisation des dauphins par la marine militaire soviétique qui découla sur une prise de conscience de l’intelligence, disons différente, de ces animaux [📄].

Quel serait notre premier Contact avec une intelligence artificielle de notre création ?

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !