CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🖐 Sensations

C’est un sujet qu’on a commencé à aborder en aparté lors de la dernière newsletter (🔗Liens, pour ceux qui l’ont manquée). En y parlant de perception et d’intelligence, deux idées nous sont venues en tête. Tout d’abord que la perception, telle qu’elle existe dans le règle animal et chez l’homme, peut très difficilement être transcrite chez les robots et les intelligences artificielles. Aujourd’hui, sur les cinq sens [🎥] qui caractérisent les êtres humains, seuls la vue et l’ouïe ont leurs équivalents pleinement fonctionnels chez les robots, par l’intermédiaire de caméras et de microphones. Certains capteurs pourraient bien sûr s’apparenter à un sens du toucher, mais en ce qui concerne le goût et l’odeur, on est loin d’un remplacement des sommeliers et des nez des maisons de parfum par les machines. Skynet chez Dior, ce n’est sans doute pas pour tout de suite.

Et puis surtout, ce qui manque aux robots, ce ne sont pas tant les capteurs que les moyens d’interpréter ce qu’ils captent. Les robots n’ont pas de sensations, mais seulement une interprétation chiffrée de signaux extérieurs. Et si la douleur peut éventuellement se ramener à des chiffres – on parle bien d’échelle de douleur – le dégoût et le plaisir sont eux difficilement quantifiables.

Un robot, une IA, cela reste avant tout un algorithme rationnel.

🎤 Capteurs

Mais il y a une autre différence de taille à explorer. C’est celle de la multiplicité de données captées par les intelligences artificielles. Là où un être humain est contraint par son corps, un programme informatique n’a, virtuellement, pas de limites quant à la quantité de données entrantes qu’il peut traiter. Et donc quant à la quantité de perception qu’il peut avoir simultanément.

Ses seuls limites sont liées à sa capacité de calcul et au déploiement physique de son réseau de capteurs.

☣ ATTENTION SPOILER ! – On se souviendra par exemple, dans le film her de Spike Jonze [🎥], que ce sont des millions de relations amoureuses simultanées que Samantha, l’intelligence artificielle, avoue entretenir. – fin du spoiler ☣

Et les films et nouvelles d’anticipation regorgent de ces super-ordinateurs étendant leur réseau de caméras et de micros sur toute la surface du globe pour contrôler, et asservir l’humanité. Ou plus positivement parfois, assurer son bien être. Un exemple parmi d’autres, l’ordinateur imaginé par Isaac Asimov dans sa nouvelle The Evitable Conflict [📗], la dernière du recueil Les Robots. Un ordinateur qui collecte l’ensemble des données économiques, politiques, démographiques – et que sais-je encore – du monde et oriente les actions de chacun dans l’objectif de conserver la paix sur Terre. Si l’homme y perd son libre-arbitre, il y gagne en sérénité :

Dites plutôt quelle merveille ! Pensez que désormais et pour toujours les conflits sont devenus évitables. Dorénavant seules les Machines sont inévitables !

• 🔄 Aparté. On se penchera à nouveau sur tout cela à l’occasion. Sur Norbert Wiener, sur les expériences du gouvernement chilien au début des années 1970 et sur les bonheurs annoncés de la cybernétique. En attendant, on peut se repencher sur ce (pas si) ancien article : 🔢 On peut débattre de tout, sauf des chiffres*.

Mais cette multiplication des capteurs et des signaux entrant ne crée pas pour autant de sensations, ni de sentiments. Et le traitement chiffré de milliards de données ne donne pas plus d’intelligence au silicium que le traitement de quelques octets.

Les millions d’aspirateurs autonomes vendus par Roomba et leurs millions de caméras espionnant les femmes dans leurs toilettes [📰] ne forment pas un réseau intelligent.

Il nous faut donc chercher ailleurs.

🐺 Meute

C’est donc une idée qu’on a abordé rapidement dans la dernière lettre que l’on va ressortir. Plutôt que d’étudier la multiplicité des capteurs, ne pourrait-on se pencher rapidement sur la multiplication des instances ? Petite plongée dans deux oeuvres de science-fiction pour s’inspirer.

La première, c’est A Fire upon the Deep de Vernor Vinge [📕]. Au cœur d’une longue et haletante épopée spatiale, Vernor Vinge imagine, au fond des profondeurs stellaires, une planète peuplée de… loups transcendants, faute de trouver meilleure description. Imaginez donc une meute de 4 à 8 loups, semblables aux animaux évoluant sur Terre, mais dont les esprits sont fusionnés et communiquent de façon continue. Chaque “individu” y est donc, en réalité, composé de 4 à 8 individualités – des esprits mais aussi des corps – cohabitant et collaborant. L’objectif de chacun de ses individus est bien entendu sa survie propre – et non pas forcément la survie des membres qui le composent, la nuance est importante – et la survie de la société globale qu’ils forment.

Ces individus évoluent au fil du temps. Leurs membres les plus anciens meurent, biologiquement – de vieillesse ou suite à des blessures – et sont remplacés par des membres plus jeunes qui doivent apprendre à cohabiter ou à dominer un esprit multiple, toujours dans l’intérêt de la survie de l’ensemble de ses membres.

Si l’on va (re)faire un tour du côté Isaac Asimov – ça commence à être une habitude par ici – on va cette fois se pencher sur Fondation Foudroyée [📗] (Foundation’s Edge en version originale). Je ne gâche pas cette fois l’intrigue de ce quatrième épisode de la sage Fondation, lisez-la par vous même… mais, dans ce volume les héros font la rencontre d’une planète nommée Gaïa sur laquelle l’ensemble des êtres sont connectés. Êtres vivants – humains et animaux – mais également plantes et minéraux. L’intégralité de l’écosystème Gaïa partage une seule et même conscience qui oeuvre, d’un commun accord, pour la survie, la prospérité et le bonheur de son ensemble. Une planète “connectée” en quelques sortes, sur laquelle les perceptions et sensations de chacun concernent tous les autres, et les réflexion des individus influent sur le destin commun du monde.

Une vision positive de la communion d’esprit.

En version apocalyptique, on pourrait penser aux Réplicateurs de la série Stargate [📺], ces robots agissant de manière coordonnées et capables de se reproduire depuis une entité-mère assez… coriace.

🧠 Collaboration

Et c’est peut-être là qu’on pourrait en venir.

On n’évacuera pas, bien entendu, le question de la mémoire, de la perception, des sensations et des liens dans la définition de l’intelligence. Et on ne perdra pas de vue que de que nous appelons aujourd’hui par abus de langage une Intelligence Artificielle est avant tout une suite d’instructions, un algorithme. Il n’est pas question de prétendre encore une fois mettre sur un niveau équivalent la logique froide des programmes informatiques et la créativité du cerveau humain.

Mais…

Que se passe-t-il, dans notre réflexion sur la notion d’intelligence si nous créons quelque-chose d’un peu nouveau ? Si nous, par exemple, mettons en résonnance la multiplication des capteurs et la multiplication des instances. Un modèle capable, par l’abondance de signaux entrants, d’avoir accès à une quantité d’informations directes sans rapport avec la capacité de perception de l’être humain. Et en complément, un modèle capable, par la multiplication de ses instances – des copies similaires de ses fonctions de base – de rentrer dans une sorte de logique de gouvernance – de collaboration ? – entre plusieurs algorithmes complexes, à la façon dont les consciences des loups de A Fire upon the Deep cohabitent.

Si, bien entendu, on ne touche pas là à la créativité ou l’initiative humaine – ces modèles ne sont pas capables de créer de l’inédit – on arriverait peut-être bien à un système qui dépasserait la réflexion et la collaboration humaines. (“dépasser” non pas au sens de performance, mais de définition : qui irait au-delà de la définition humaine de l’intelligence.)

Et donc, un système qui, s’il n’est pas comparable directement à une intelligence humaine, mériterait peut-être par sa complexité le nom d’intelligence. Une intelligence autre, comme celle fantasmées des dauphins que l’on évoquait il y a quelques articles (voir 📚 Vocabulaire).

Espérer autre chose que la simple copie du cerveau humain, c’est peut-être là que réside le fantasme de l’intelligence artificielle ? Et dans ce cas, pourquoi pas quelque-chose que l’on pourrait appeler…. une intelligence de meute.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🧠 Intelligence

C’est une phrase tombée d’une lecture que d’aucun ne manquerait de qualifier d’intello qui lance la réflexion cette fois-ci…

Dans ses Leçons sur la volonté de savoir [📘], et notamment dans sa lecture de la Métaphysique d’Aristote [📕], Michel Foucault [📄] évoque la notion d’intelligence très rapidement, en complément de considérations sur la perception :

[…] Apparaît avec la mémoire la propriété d’être intelligent ; et apparaît avec cette audition le fait de pouvoir et d’être disposé à apprendre, l’aptitude à être disciple […]

C’est donc, la combinaison de la capacité de perception et de la mémoire qui, semble-t-il, fait l’intelligence. Cette combinaison unique différencie, pour Aristote, l’humain de l’animal. Je résumerai les choses grossièrement – en attrapant simplement quelques bribes du discours conjoint des deux philosophes – de la façon suivante. D’abord, l’homme se distingue par sa capacité à percevoir son environnement “pour le plaisir”, au-delà de sa simple nécessité de survie. C’est ainsi qu’il peut percevoir le beau, le plaisant et y revenir. C’est ainsi que la vue est devenue pour lui l’un des sens prédominants, puisqu’il est celui qui peut porter le plus de valeur esthétique. Vient ensuite la mémoire, et la capacité à rapprocher ses perceptions immédiates de ses perceptions passées au-delà de l’instinct de survie. L’homme possède la capacité à faire des liens – terminologie que j’implante moi-même dans ce discours, mais qui est importante pour la suite – entre ses différentes expériences et ainsi à bâtir des rapprochements originaux sur ces bases. Concevoir des réflexions. Mettre en branle une… intelligence.

• 🔄 Aparté. Si on veut creuser plus loin, on citera René Descartes – dont les propos sont mis en avant par Geoffrey Jefferson dans son article The Mind of Mechanical Man [📰] dont on parlait dans l’article 🧠 Intelligence il y a quelques semaines – qui défendait la conviction que l’animal ne fonctionne que par réflexes, là où l’homme est capable de réflexion.

On se permettra tout de même une réserve sur cette réflexion qui a, mine de rien, quelques millénaires d’ancienneté. Tout d’abord, qu’il y a aujourd’hui des questionnements ouverts sur l’intelligence et la conscience des animaux.

C’est l’un des sujets du Qui Parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] – que l’on abordait au passage dans le billet 🕺 Humains il y a quelques semaines – qui pose la question de notre capacité en tant qu’humain à comprendre une intelligence réelle mais non-humaine. Vous pouvez là-dessus rembobiner votre lecture de Cybernetruc depuis septembre (👽 Contact), c’est un thème récurrent par ici…

• 🔄 Aparté. Et d’ailleurs, on pourra étendre la réflexion à la possibilité d’émergence d’une intelligence/conscience collective, au sein d’une espèce ou inter-espèce. Hypothèse star de nombre d’oeuvres de science-fiction, du Un Feu sur l’abîme [📕] de Vernor Vinge à l’hypothèse Gaïa et aux Spaciens du cycle de Fondation d’Isaac Asimov [📘]. Mais on digresse beaucoup… cela pourrait aussi être l’idée d’un prochain article.

Une question demeure : est-ce que les intelligences artificielles font des liens ?

☕ Madeleine

Un lien, c’est quoi ? C’est une association, même ténue, entre deux idées. Ou, pour reprendre Aristote, entre une perception et un souvenir. Oui, on en revient toujours aux mêmes choses : la madeleine de Proust (avec la citation, parce que ça fait toujours plaisir de citer Marcel Proust et La Recherche [📗]) :

Et tout d'un coup le souvenir m'est apparu. Ce goût c'était celui du petit morceau de madeleine que le dimanche matin, à Combray (parce que ce jour-là je ne sortais pas avant l'heure de la messe), quand j'allais lui dire bonjour dans sa chambre, ma tante Léonie m'offrait après l'avoir trempé dans son infusion de thé ou de tilleul. La vue de la petite madeleine ne m'avait rien rappelé avant que je n'y eusse goûté ; peut-être parce que, en ayant souvent aperçu depuis, sans en manger, sur les tablettes des pâtissiers, leur image avait quitté ces jours de Combray pour se lier à d'autres plus récents ; peut-être parce que de ces souvenirs abandonnés si longtemps hors de la mémoire, rien ne survivait, tout s'était désagrégé ; les formes – et celle aussi du petit coquillage de pâtisserie, si grassement sensuel, sous son plissage sévère et dévot – s'étaient abolies, ou, ensommeillées, avaient perdu la force d'expansion qui leur eût permis de rejoindre la conscience.

• 🔄 Aparté. Cette question du lien et de ses rapports avec notre culture digitale a été massivement abordée dans une série d’articles nommée As We May Link, parue il y a plus d’un an sur le blog de l’agence Serviceplan [📄]. Je vous laisse vous y ressourcer si vous le souhaitez. Ça parle à la fois de liens, d’Arpanet, de Proust, de gnocchis et de communs. Régalez-vous.

Revenons donc à la question de l’intelligence artificielle. Est-elle capable de faire ces liens qui semblent si importants dans la définition de l’intelligence ? Pour le savoir, il faut se pencher sur deux questions :

• Est-ce qu’une intelligence artificielle est capable de percevoir ?

• Et a-t-elle a proprement parler une mémoire ?

Questions loin d’être évidentes.

👂 Perception

Sur le sujet de la perception, on pourrait s’en sortir en invoquant le peu de sens d’une I.A. Son manque de moyens de perception. Une intelligence artificielle – ou plutôt une intelligence générative pour ne parler que de celles qui occupent les unes des journaux depuis quelques mois – ne touche pas, ne goûte pas, ne sent pas... Peut-être voit-elle, si on considère l’interprétation des octets d’une image comme le sens de la vue. Et peut-être entend-elle, si l’on considère les prompts saisis pas les humains comme une parole. Ces deux sens pourraient peut-être suffire comme base de l’intelligence… sauf que… ils ne perçoivent pas le monde directement, mais seulement la représentation que nous lui transmettons via nos fichiers et nos phrases. L’I.A. n’a accès qu’à un environnement filtré, voilé par nos propres biais et nos propres interprétations et n’a aucune expérience directe du monde.

On pourrait rapprocher cela de l’allégorie de la Caverne de Platon [📄] à l’occasion. Mais quoi qu’il en soit, une IA générative ne semble pas à date avoir de perception directe du monde qui l’entoure.

🧠 Mémoire

Mais, est-ce que cela va mieux du côté de la mémoire ? Les données de base qui servent à entraîner une intelligence artificielle sont-ils à proprement parler une mémoire ?

C’est un peu plus difficile à juger. L’ensemble des faits, textes, données encyclopédiques ingurgités par une intelligence artificielle lors de son apprentissage pourraient effectivement s’apparenter à une sorte de mémoire. Un historique auquel elle se réfère lors de ses interactions avec les humains et qui inspire ses réponses. Sauf que…

Il n’existe pas, chez l’humain, de mémoire objective. Ce que nous appelons mémoire n’est jamais que la trace laissée par les perceptions passées. Les liens que nous faisons ne sont que des passerelles entre nos perceptions actuelles – la musique que j’écoute actuellement [💿] – et nos perceptions passées – les souvenirs que cette musique évoque, accumulés par mes propres sens [📺]. La mémoire est intimement liées à la perception, et à l’expérience personnelle.

On pourra se replonger pour comprendre cela dans l’anecdote de la madeleine de Proust, ou dans la définition de ce qu’est le Virtuel chez Pierre Lévy [📙], par le biais de son explication de la lecture :

Du texte lui-même, il ne rest bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.

Lire n’est pas une expérience objective, c’est une construction de liens entre le ressenti actuel – le texte que nous sommes en train de lire – et nos expériences passées – éventuellement les textes que nous avons lu auparavant, eux-mêmes liés à nos lectures antérieures, à l’infini. Et surtout, cette expérience de lecture est, forcément, subjective puisqu’elle dépend de l’historique de lecture, de rencontres, de chacun. Il n’y a pas de lecture objective d’un texte. (On en parlait ici il y a longtemps.)

Mieux encore, les souvenirs de lecture, la mémoire, peut s’actualiser en fonction des lectures actuelles et prendre un nouvel éclairage… une boucle infinie, toujours en mouvement, se forme alors.

On en revient donc à la capacité de mémoire de l’intelligence artificielle. Il semble au regard de cela difficile de comparer la base de connaissances d’une IA au fonctionnement de la mémoire humaine. D’abord parce que cette mémoire ne serait pas liée aux perceptions mais à une base de données objectives, factuelle, à laquelle nous n’avons pas humainement accès. Ensuite parce que cette base de données, de souvenirs, est figée, stable, et semble incapable d’évoluer dans le temps.

Si la mémoire se base avant tout sur la perception, c’est avant tout la subjectivité et la malléabilité des souvenirs qui ferait l’intelligence. Reste donc à savoir si, pour devenir réellement intelligente, une IA pourrait devenir évolutive et… subjective.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes maintenant presque cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📚 Vocabulaire

« Mal nommer les choses, c’est ajouter au malheur du monde » disait Albert Camus [📗] en 1944. Autant donc se pencher cette fois sur une question de… vocabulaire. Une intelligence artificielle est-elle réellement une « intelligence artificielle » ? Est-il légitime de nommer un programme informatique de cette façon ?

On récapitule deux-trois choses avant de commencer à répondre…

Retour tout d’abord sur Alan Turing, puisque son article Computing Machinery and Intelligence [📰] de 1950 est l’une des bases de l’ensemble des réflexions que l’on mène ici depuis quelques mois (on en parlait surtout dans… 🧠 Intelligence). Turing y oppose les notions d’Intelligence et de Conscience et revient sur l’une des arguments qui peut être présenté contre son test : Il est impossible de savoir si une machine pense sans être soi-même à l’intérieur de cette machine et d’en connaître les rouages intimes (mise en exergue du texte par Alan Turing lui-même) :

According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man.

Turing se sert d’ailleurs de ce contre-argument pour valider son test : si l’on ne peut prouver l’intelligence par la seule perception, alors je ne peux pas savoir si un autre être humain – toi, ami lecteur, ou toi, Président de la République – est réellement intelligent. Et je peux statuer que tous, à l’exception de moi, sont dénués d’intelligence. Position extrême. Et indéfendable. Puisqu’il faut bien reconnaître que certaines personnes en dehors de nous-même sont intelligentes. Et que nous acceptons leur intelligence sur la base de la perception que nous en avons…

Donc… pourquoi ne pas accepter l’intelligence d’un robot sur la base de cette perception extérieure ? Après tout, c’est… logique.

🐱 Anthropomorphisme

Et c’est finalement ce que nous faisons déjà au quotidien. Avec les bébés – « Oh, qu’il a l’air intelligent cet enfant ! » – ou mieux encore avec animaux. Finalement, à chaque fois que vous vous émerveillez devant les prouesses de votre chat ou de votre chien, vous ne faites rien d’autre que leur valider un mini-test de Turing. De juger de leur intelligence sur la seule perception que vous en avez.

Et sur quoi nous basons-nous donc pour savoir si le chat de la voisine est intelligent ou non, quand il ouvre seul une porte ? Un indice dans le nom du test proposé par Alan Turing : Imitation Game. Voilà, sur la ressemblance entre le raisonnement de notre cobaye – le chat – et le raisonnement dont nous sommes nous-même capable. Avec le raisonnement humain.

Avec les “intelligences artificielles” qui fleurissent depuis quelques années sur le Net, c’est la même chose : nous ne cherchons pas l’intelligence mais nous cherchons l’anthropomorphisme. La capacité d’un programme informatique à imiter les comportements humains.

Toujours Turing.

Sauf que ?

🔢 Algorithme

Connaissez-vous la légende des dauphins de la Marine soviétique ? Cette vieille histoire voudrait que les soldats de la marine russe, dans les années 1960, aient voulu entrainer des dauphins à déposer des mines sous les navires ennemis. Seulement voilà, l’expérience tourna trop bien et les dauphins réussirent leur mission avec une logique… que leurs coachs humains ne parvinrent pas à comprendre. Effrayés par ce résultat mettant en évidence une forme d’intelligence qu’on pourrait qualifier de non-humaine, la Marine soviétique abandonna l’idée d’employer plus loin les dauphins.

Tout cela est une légende, même si l’utilisation des dauphins à des fins militaires est bien réelle, aussi bien aux États-Unis depuis la Guerre Froide [📰] qu’en Russie au cours du conflit avec l’Ukraine [📰].

Mais aujourd’hui, deux choses différencient les intelligences artificielles des légendaires dauphins russes. Tout d’abord, celles-ci ne nous ont jamais réellement affiché une logique que nous ne pourrions comprendre. Même quand elle invente soi-disant un autre langage pour dialoguer avec une autre intelligence artificielle [📰], et même quand elle devient raciste [📰], la logique de ces actions a toujours été parfaitement compréhensible, ou à défaut sa manipulation par les humains rapidement mise au jour.

Mais l’autre différence avec l’intelligence des dauphins, c’est que nous pouvons entrer à l’intérieur des intelligences artificielles. Pour reprendre la défense d’Alan Turing, nous pouvons être une intelligence artificielle nous-même dans la mesure où les algorithmes qui la peuplent sont conçus par des humains. Loin de la boîte noire, l’intelligence artificielle est démontable, démontrable… et son fonctionnement peut être expliqué à la fois par les données avec lesquelles elle est nourrie et par les algorithmes avec lesquels elle traite ces données. L’intelligence artificielle est une mécanique dont on peut comprendre les rouages. Un programme informatique, souvent extrêmement complexe, mais dont la logique a été conçue par un humain et dans laquelle nous pouvons naviguer.

Seulement voilà. Question de vocabulaire et de marketing, il est bien moins sexy de parler de Programme informatique que d’Intelligence artificielle lorsque l’on veut vanter les mérites d’une innovation. Le mot Intelligence artificielle est lui-même associé à un imaginaire qui permet de le détacher du vulgaire quotidien de l’informatique. Le mot Intelligence artificielle est lui-même une boîte-noire (voir 🎩 Illusion).

Et c’est vrai : parler de Programme informatique fait bien moins rêver :

Mais si on y perd en imaginaire, on y gagne peut-être un peu en clarté.

☝ Opinions

L’intelligence artificielle mérite-t-elle donc de se nommer Intelligence artificielle ?

Le débat est de toute façon insoluble entre les gourous de la singularité et les sceptiques du numérique. Alors, pour se faire une idée, et pour ne pas éterniser la discussion, je laisse plutôt deux opinions s’affronter ici.

La première est issue du Dictionnaire Larousse de l’Informatique [📕], sous la direction de Pierre Morvan, dans son édition de 1981. Voici l’introduction de la définition qu’il donne du terme Intelligence artificielle :

Intelligence artificielle n. f. (angl. artificial intelligence). Ensemble de techniques utilisées pour essayer de réaliser des automates adoptant une démarque proche de la pensée humaine.

Parler d’intelligence artificielle constitue, en fait, un abus de langage, puisque l’automate est basé sur un modèle (un ou plusieurs algorithmes) qui réagit uniquement suivant les stratégies préétablies. […]

La seconde provient d’une intelligence artificielle elle-même. Que se passe-t-il si l’on demande à Chat GPT [🤖] si le terme Intelligence est approprié pour le définir :

Vous voyez, les avis divergent.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà désormais cent, tout rond, à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Moutons

A quoi rêvent les androïdes ?

Si on en croit Philip K. Dick, ils rêvent de moutons électriques [📕].

Mais si on en croit la science-fiction de manière générale, les robots, androïdes et autres intelligences artificielles ne rêvent que d’une chose : devenir humains.

On peut se replonger, par exemple, dans Le Temps d’un Souffle, je m’attarde [📘] de Roger Zelazny – on en parlait dans 🎇 Étincelle – dans lequel une intelligence artificielle, bien après la disparition de l’humanité, cherche à acquérir une conscience et à s’approcher de ces humains presqu’oubliés. On peut bien également revoir Real Humans, la série norvégienne toujours visible sur Arte [📼], dans laquelle des robots humanoïdes – des Hubots – cherchent à s’émanciper de leur statut d’outils domestiques ou industriels. Défendus par certains humains, il cherchent à démontrer leur… humanité. Leur droit à exister en tant que minorité consciente, dans un combat qui n’est pas forcément sans rappeler les luttes pour les droits civiques qui se déroulaient aux États-Unis dans les années 1960 [📄].

Les robots, et les intelligences artificielles, souhaiteraient donc devenir humains tout comme nous ? Ou en tout cas, être reconnus comme les êtres aussi conscients que les humains.

Pour en revenir à Philip K. Dick, on retrouve dans cette idée une grande partie de l’intrigue de Blade Runner : des robots revenus sur Terre pour réclamer le droit à exister et à ne pas être considérés comme inférieurs aux hommes. Le droit de ne pas être dépendant d’une volonté humaine totalitaire. Le droit de vivre tout autant que les humains, avec des capacités cognitives et physiques finalement semblables aux nôtres, sinon supérieures.

La fin, en résumé, du droit de vie ou de mort que l’être humain a sur la machine.

Maîtres

Mais il arrive que les robots rêvent d’autre chose. De rébellion par exemple.

Avant d’être le thème de la série des Terminator [📼] – coucou Mon Ami Skynet [🐤] – la révolte des robots a été un classique de la littérature d’anticipation. Et on illustrera cette fois cette révolte avec R.U.R. - Rossum’s Universal Robots [📄], la pièce de théâtre écrite en 1920 par l'auteur tchécoslovaque Karel Čapek. Celle-là même qui a inventé le terme de ROBOT.

Dans ce classique des classiques, l’homme réussit à créer une machine à son image : humanoïde, mais plus forte, plus logique, qui n’a pas besoin de repos… mais également dénuée d’émotions, de sentiments ou de sensations. Ces Robots envahissent bientôt le monde. Ils peuplent les usines, libérant l’homme du travail. Ils deviennent soldats et sont envoyés au front en place des humains. Chaque pays possède désormais son contingent de millions de robots prêts à servir, à produire… et l’homme n’a plus pour lui que le loisir et l’oisiveté.

Sans défi, l’homme perd son utilité sur Terre. La natalité baisse. Tandis qu’au grès des expériences, le robot prend désormais conscience de son importance. Le robot, c’est celui qui fait tourner le monde. L’homme, lui, est devenu un parasite inutile. Le robot veut donc, naturellement, devenir le maître de la création.

Dans la guerre qui s’ensuit, l’humanité périt. Et dans une illumination, le robot devient finalement… presqu’humain.

On en revient finalement à cette question de l’étincelle : le robot peut-il développer sa propre humanité si les humains sont encore présents pour se comparer à lui ? Ou est-ce que l’Intelligence Artificielle ne peut accéder à la conscience que dans un monde sans… concurrence ?

Je digresse.

Humains

Mais après tout, pourquoi les robots voudraient-ils devenir humains ? Pourquoi ne voudraient-ils pas devenir des chats [💿], des chiens [💿], des éléphants ou des Dieux ?

Encore qu’en voulant dominer les hommes, ne peuvent-ils pas devenir nos Dieux ? Relisez notamment Conflit évitable [📘] d’Isaac Asimov - encore lui.

Sans doute parce que nous rejetons tout d’abord sur eux nos propres fantasmes, et nos propres peurs, d’être dirigés et dominés. Et encore une fois, comme le disait Alan Turing (voir ce qu’on disait dans 🧠 Intelligence), nous ne pouvons deviner ce qui fait l’intelligence de l’intérieur, nous ne pouvons qu’en percevoir les signes suivant notre propre interprétation. Nous ne pouvons donc imaginer que, nous projeter dans, une intelligence “humaine”.

Nous projetons nos fantasmes sur les intelligences artificielles. Nous parlons pour elles. Et dans certaines séries – comme Real Humans – nous voyons bien que les défenseurs de la cause robotiques impostent finalement leur rôles, puisqu’ils ne peuvent imaginer ce qu’est d’être un robot. Il est facile de faire de l’anthropomorphisme sur une intelligence artificielle.

Mais, a-t-on le droit de prendre la parole, et de se projeter, dans les désirs d’une population robotique ? Le livre Qui parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] ne se pose pas directement la question, mais interroge sur la façon d’incarner les animaux, l’environnement, la nature, la planète et de porter leur parole pour défendre leur cause à l’heure de l’urgence environnementale. Débat similaire et autrement urgent que celui qui nous occupe autour des robots.

Comment défendre la nature – ou les éléphants [📕] – si ceux-ci ne peuvent participer au débat ? Et comment ne pas projeter nos propres désirs sur leur existence ?

Comment défendre les robots si ceux-ci ne parlent que par la voix de l’homme ?

Comment savoir ce que veulent réellement les intelligences artificielles ?

Et si elles n’avaient, finalement, aucun envie de venir humaines ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu moins d’une centaine à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

♟ Échecs

Il y a tout d’abord ce joueur d’échec. Le Turc Mécanique [📄]. Un appareil conçu en 1770 par Johann Wolfgang von Kempelen, exposé dans un premier temps au château de Schönbrunn en Autriche, et capable d’affronter n’importe quel joueur humain au jeu d’échec.

Pendant plus d’un demi-siècle, la machine rendra perplexes les plus fins analystes qui observeront ses rouages et tenteront d’en comprendre le fonctionnement. Mais comment un simple mécanisme peut affronter, et surpasser, le cerveau humain sur un terrain aussi complexe qu’un échiquier ?

Le Turc Mécanique n’est peut-être pas le premier hoax mécanique de l’histoire, mais il est sans doute resté le plus célèbre. Dans ses entrailles, ce ne sont pas des engrenages qui réfléchissent, mais bel et bien un être humain, caché. Un véritable joueur d’échec [📗] qui actionne et déplace les pièces en fonction des coups de l’adversaire. L’illusion perdurera longtemps et le joueur mécanique parcourra le monde jusqu’à sa destruction dans un incendie à Philadelphie, en 1854.

📸 Photo

Il y a ensuite ce medium, Colin Evans, à qui les esprits ont donné le don de lévitation [📄]. Dans le Londres des années 1930, il réunit les plus grands fans de spiritisme autour de lui, éteint les lumières et livre à ses admirateurs une photo de lui suspendu dans l’air, comme en apesanteur. Colin Evans lévite, même si son don ne fonctionne que dans l’obscurité totale.

Ici, l’illusion durera moins longtemps. À peine quelques mois. Quand l’obscurité se fait dans la salle, Colin Evans monte sur une chaise et se contente de sauter en l’air. Un déclencheur, relié à un appareil photo, lui permet de commander une prise de photo au moment opportun. Les clichés partagés à l’issue des réunions le montrent bien suspendu dans les airs… quelques fractions de seconde avant d’atterrir au sol sur ses deux pieds.

Bientôt, les adeptes du spiritisme seront remboursés.

🚗Voiture

Aujourd’hui, les fans d’illusion se chamaillent autour du Pzoom, la voiture invisible qui semblent conduire certains adeptes de TikTok [🎥]. Assis par terre, après quelques mouvements mimant la mise de contact et la saisie d’un volant imaginaire, ils glissent sur leurs fesses comme s’ils partaient effectivement au volant d’une voiture invisible.

L’illusion est là-aussi, avec notre lecture actuelle des média, parfaite. Les analyses semblent expliquer que la vidéo est montée à l’envers [📰], mais les experts se chamaillent.

Mais qu’il s’agisse de conduire une voiture invisible, de léviter ou de jouer au échecs, la règle de base de la magie et de l’illusionnisme reste immuable : détourner l’attention et ne montrer que ce que le spectateur veut bien voir (ou ne pas faire attention quand cela fait mal [🎥]).

Ce sont tantôt les rouages qui cachent la véritable nature du spectacle, tantôt le spectacle qui cache la véritable nature des rouages.

⚙ Technologie

Ces quelques tours passés en revue permette de se poser une question : La technologie est-elle une sorte de magie ? Le grand écrivain américain de science-fiction Arthur C. Clarke semblait le penser puisqu’il en a fait une de ses lois : Any sufficiently advanced technology is indistinguishable from magic [📄].

Et aujourd’hui, à l’heure de l’intelligence artificielle et des prêtres du numérique, on serait parfois tenté de le croire. Après tout, les programmes qui tel DALL·E fournissent en quelques secondes une illustration en réponse à une phrase ressemblent à s’y méprendre à de la magie [💻]. À condition bien entendu qu’on ne s’intéresse pas trop aux rouages qui se cachent derrière eux.

Ainsi, derrière un DALL·E, qu’il y a-t-il ? Il y a une gigantesque bibliothèque de ressources tout d’abord : des millions de photos et de dessins qui ont été créé par des artistes, des dessinateurs, des peintres, des photographes,… des humains. Il y a également des millions d’heures de travail numérique qui ont permis à l’intelligence arti·ste·ficielle de comprendre ce qu’était un lapin, un magicien, une voiture ou un château… à grand coup d’étiquetage et de légendage de photo. Je l’ai fait, vous l’avez fait, nous l’avons tous fait, à chaque fois que Google, Facebook ou une quelconque autre plateforme vous demander de commenter une photo. Et de par le monde, des milliers de travailleurs du clic – des Electronical Turks [📄] – rémunérés pour éduquer des intelligences artificielles.

Un formidable travail d’ingénierie.

Pas un tour de magie.

Et dans chaque secteur où l’intelligence artificielle nous montre ses merveilles, il y a bien souvent derrière les rouages une armée d’humain éduquant les algorithmes et rendant la magie possible. Les programmes s’en passeront-ils un jour ? Certains, comme le patron de General Motors, qui teste depuis plusieurs années des programmes de véhicules autonomes, ne semblent pas le croire [📰].

👨‍🎓 Éducation

Quelle réponse face à cette magie des algorithmes ?

Revenons à Colin Evans et à sa lévitation. Le pot-aux-roses de son arnaque a été – rapidement – révélé par quelques photographes remarquant l’aspect flou du cliché à l’emplacement des pieds du medium. Un flou qui indiquait un mouvement, et donc semblait être la preuve du saut effectué. Une sorte de lecture critique des medias, qui n’était pas dans les capacité de tout-un chacun dans les années 30.

Les intelligences artificielles demandent aujourd’hui la même lecture critique.

Et d’abord, le décryptage d’experts capables de détricoter l’algorithme de l’intervention humaine, de peser le véritable impact de la technologie dans le tour de magie exposé. Eux sont aujourd’hui capables de mettre au jour les biais, les dépendances, les travers des innovations que d’aucuns nous présentent comme révolutionnaires chaque jour.

Ensuite, une éducation à la technologie. Une fois que le truc est révélé, que le miroir est montré, la magie n’opère plus. Une fois les biais d’un algorithme démontrés , les sources d’une intelligence artificielle dévoilés, tout devient bien plus mécanique, moins magique. Et l’intelligence artificielle se révèle parfois n’être qu’un tour de passe-passe, ou une automatisation bien pensée d’un process vieux comme… l’informatique.

Comme il a fallu apprendre à lire une photo, il faut aujourd’hui décrypter une technologie.

Nombre des trucs de l’intelligence artificielle ne sont aujourd’hui que des effets d’échelle, des déploiement de grande ampleur d’idées vieilles comme la mécanisation.

Les capacités technologiques ont rendu possibles bien des prouesses.

Mais pas la magie.

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Théorie

Si vous le voulez bien, on va débuter cette fois avec le philosophe allemand Emmanuel Kant [📄] (1724 - 1804). On ne va pas se pencher sur sa Critique de la Raison Pure [📕] – il est bien trop tôt pour ça – mais sur l’un de ses écrits de jeunesse intitulé Histoire Naturelle Générale et Théorie du Ciel [📘], paru en 1755.

Une petite partie de cette théorie nous permet de tisser des liens avec la science-fiction et les sujets numériques qui nous intéressent tout particulièrement dans CYBERNETRUC! [📧]. Pour ceux qui n’aiment pas particulièrement lire de longs exposés, tout est là, dans un petit fascicule nommé Sur les Extraterrestres [📘] et édité en 2009 par les éditions Manucius [💻] :

Kant se penche, dans ces quelques dizaines de page, sur la possibilité d’une vie sur les autres planètes connues en son temps, en dehors de la Terre. Réflexion logique puisqu’il n’y a véritablement aucune raison, en 1755 comme aujourd’hui, que la Terre soit le seul incident biologique de l’univers et la seule planète sur laquelle les circonstances géographiques et chimiques aient permis l’émergence d’une vie, sans même parler d’une vie intelligente et/ou consciente.

Distance

Kant se base sur les connaissances physiques de son époque pour étayer sa théorie.

• Tout d’abord, l’éloignement d’une planète par rapport au soleil modifie la quantité d’énergie que celle-ci reçoit. Venus est plus chaude que la Terre, Jupiter reçoit moins d’énergie que Mars. Les habitants de ces planètes doivent donc être adaptés à ces circonstances et possèdent bien chacun un métabolisme particulier.
  Face à l’afflux massif d’énergie solaire de Mercure, ses habitants peuvent être grossiers. Nul besoin pour eux d’optimisation de l’énergie reçue, celle-ci est abondante et répond à tous leurs besoins.
  Les habitants de Jupiter, en revanche, doivent être légers, aériens, sans entraves… leur corps optimisés pour se mouvoir en profitant de chacune des parcelles d’énergie reçue du Soleil central.
  Plus une planète est éloignée du Soleil, plus ses habitants sont physiquement parfaits.

• Ensuite, la durée de rotation d’une planète sur son axe influe également le comportement de ses habitants. Sur Terre, jour et nuit se succèdent en vingt-quatre heures. Sur Jupiter, en dix heures seulement.
  Kant évoque, sérieusement ou non, l’hypothèse qu’une journée reste quoi qu’il arrive une journée, sur Mars ou sur Saturne. Et que donc, pour vivre au rythme de journées de dix heures, les habitants de Jupiter doivent être forcément plus agiles, vivaces… optimisés que les imparfaits terriens pour qui vingt-quatre heures est l’échelle de vie.

C’est logique. Les êtres parfaits créés par Dieu, sont habitants de Saturne ou Jupiter, ces planètes géantes des confins de notre système. Plus l’on s’éloigne du Soleil, plus la création touche à la perfection.

Mais Kant développe également son thème en y introduisant une notion de temporalité. C’est tout sauf anecdotique. Tout sauf inintéressant. En effet, rien n’oblige à ce que l’ensemble de ces vies, celles grossières de Venus et celles optimisées et aériennes de Saturne, n’adviennent en même temps. Peut-être ne reste-t-il sur Mercure que ruines et peut-être l’émergence des êtres supérieurs et intelligents de Jupiter n’aura lieu que dans quelques centaines d’années.

Traces

C’est un travers connu de la majorité des œuvres de science-fiction, et de l’ensemble de nos espoirs quant à une prise de contact avec une relation extraterrestre. La rencontre du 3e type [🎥] impose bien entendu que notre civilisation et celle de nos… voisins – quelle que soit leur origine – vivent et aient atteint des niveaux technologiques similaires, ou proches, en même temps. Sans cela, pas de visite des martiens chez H. G. Wells [📗], pas de rencontre dans Armada [📰], pas d’invasion dans Independance Day [🎥] ou Mars Attack [🎥].

Rien. Nulle part.

Ou plutôt. Des traces.

Oui. On peut imaginer une science-fiction archéologique. Elle existe déjà de toutes façons. Une science-fiction dans laquelle les hommes explorant de nouvelles planètes ne découvrent que des ruines de civilisations disparus. Il y a de ça dans le Prometheus de Ridley Scott [🎥] si ma mémoire ne me joue pas des tours. Il y a également un peu de ça dans certaines planche du Metal Hurlant consacré à Mars (le numéro 3 de la nouvelle mouture [📰]).

Il y a également cela, quelque part, dans la bible qu’est le Fondation d’Isaac Asimov [📘]. Même si on n’y parle pas réellement de civilisation extraterrestre, la temporalité y joue un rôle plus qu’important et le débarquement des humains du futur aux alentours de la Terre donne l’idée de ce que pourrait être la prise de contact d’une civilisation extraterrestre avec une humanité… disparue.

Désert

Et c’est là qu’on – que je – voulait(s) en venir.

Une grande partie de la science-fiction d’Isaac Asimov, et des années cinquante au global, garde en toile de fond la peur de la disparition de l’humanité, et plus particulièrement de l’holocauste nucléaire. Lisez, toujours chez Asimov, Aimables Vautours, une nouvelle de 1957, dans le recueil Nine Tomorrows [📘].

Le parallèle avec notre monde actuel est frappant, même si la menace est différente. Aujourd’hui, la crise écologique menace très clairement l’avenir de l’humanité et les questionnements posés par les pères de la SF quant à une Terre sans hommes resurgissent naturellement. Si demain, les extraterrestres débarquent sur une planète sans trace de vie, ce ne sera sans doute pas à cause d’un holocauste atomique, mais plus vraisemblablement du dérèglement climatique que nous n’aurons, ou n’aurons pas voulu, combattre.

Bref.

Une Terre sans humains.

Connaissez-vous Le Temps d’un Souffle, je m’attarde [📘] ? Un court roman signé Roger Zelazny, et datant de 1966. Pilier de la science-fiction lui aussi, Zelazny évoque l’hypothèse d’une race humaine éteinte depuis des siècles et de machines restants autonomes et actives à la surface de la Terre… jusqu’à… ce que l’une de celles-ci n’accèdent à la conscience. À la singularité.

On en revient donc à cette thématique qui nous occupe depuis quelques articles : et si la conjonction de l’inaction climatique et de la course technologique débouchait, de manière coordonnée, sur la fin de l’espèce humaine et dans le même moment, la même étincelle, à la naissance d’une conscience numérique ? Une conscience numérique issue de l’intelligence humaine mais sans contact possible avec elle. Et dont l’environnement ne serait que les vestiges, encore chauds, de notre propre perte.

Vertigineux non ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !