CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🖐 Sensations

C’est un sujet qu’on a commencé à aborder en aparté lors de la dernière newsletter (🔗Liens, pour ceux qui l’ont manquée). En y parlant de perception et d’intelligence, deux idées nous sont venues en tête. Tout d’abord que la perception, telle qu’elle existe dans le règle animal et chez l’homme, peut très difficilement être transcrite chez les robots et les intelligences artificielles. Aujourd’hui, sur les cinq sens [🎥] qui caractérisent les êtres humains, seuls la vue et l’ouïe ont leurs équivalents pleinement fonctionnels chez les robots, par l’intermédiaire de caméras et de microphones. Certains capteurs pourraient bien sûr s’apparenter à un sens du toucher, mais en ce qui concerne le goût et l’odeur, on est loin d’un remplacement des sommeliers et des nez des maisons de parfum par les machines. Skynet chez Dior, ce n’est sans doute pas pour tout de suite.

Et puis surtout, ce qui manque aux robots, ce ne sont pas tant les capteurs que les moyens d’interpréter ce qu’ils captent. Les robots n’ont pas de sensations, mais seulement une interprétation chiffrée de signaux extérieurs. Et si la douleur peut éventuellement se ramener à des chiffres – on parle bien d’échelle de douleur – le dégoût et le plaisir sont eux difficilement quantifiables.

Un robot, une IA, cela reste avant tout un algorithme rationnel.

🎤 Capteurs

Mais il y a une autre différence de taille à explorer. C’est celle de la multiplicité de données captées par les intelligences artificielles. Là où un être humain est contraint par son corps, un programme informatique n’a, virtuellement, pas de limites quant à la quantité de données entrantes qu’il peut traiter. Et donc quant à la quantité de perception qu’il peut avoir simultanément.

Ses seuls limites sont liées à sa capacité de calcul et au déploiement physique de son réseau de capteurs.

☣ ATTENTION SPOILER ! – On se souviendra par exemple, dans le film her de Spike Jonze [🎥], que ce sont des millions de relations amoureuses simultanées que Samantha, l’intelligence artificielle, avoue entretenir. – fin du spoiler ☣

Et les films et nouvelles d’anticipation regorgent de ces super-ordinateurs étendant leur réseau de caméras et de micros sur toute la surface du globe pour contrôler, et asservir l’humanité. Ou plus positivement parfois, assurer son bien être. Un exemple parmi d’autres, l’ordinateur imaginé par Isaac Asimov dans sa nouvelle The Evitable Conflict [📗], la dernière du recueil Les Robots. Un ordinateur qui collecte l’ensemble des données économiques, politiques, démographiques – et que sais-je encore – du monde et oriente les actions de chacun dans l’objectif de conserver la paix sur Terre. Si l’homme y perd son libre-arbitre, il y gagne en sérénité :

Dites plutôt quelle merveille ! Pensez que désormais et pour toujours les conflits sont devenus évitables. Dorénavant seules les Machines sont inévitables !

• 🔄 Aparté. On se penchera à nouveau sur tout cela à l’occasion. Sur Norbert Wiener, sur les expériences du gouvernement chilien au début des années 1970 et sur les bonheurs annoncés de la cybernétique. En attendant, on peut se repencher sur ce (pas si) ancien article : 🔢 On peut débattre de tout, sauf des chiffres*.

Mais cette multiplication des capteurs et des signaux entrant ne crée pas pour autant de sensations, ni de sentiments. Et le traitement chiffré de milliards de données ne donne pas plus d’intelligence au silicium que le traitement de quelques octets.

Les millions d’aspirateurs autonomes vendus par Roomba et leurs millions de caméras espionnant les femmes dans leurs toilettes [📰] ne forment pas un réseau intelligent.

Il nous faut donc chercher ailleurs.

🐺 Meute

C’est donc une idée qu’on a abordé rapidement dans la dernière lettre que l’on va ressortir. Plutôt que d’étudier la multiplicité des capteurs, ne pourrait-on se pencher rapidement sur la multiplication des instances ? Petite plongée dans deux oeuvres de science-fiction pour s’inspirer.

La première, c’est A Fire upon the Deep de Vernor Vinge [📕]. Au cœur d’une longue et haletante épopée spatiale, Vernor Vinge imagine, au fond des profondeurs stellaires, une planète peuplée de… loups transcendants, faute de trouver meilleure description. Imaginez donc une meute de 4 à 8 loups, semblables aux animaux évoluant sur Terre, mais dont les esprits sont fusionnés et communiquent de façon continue. Chaque “individu” y est donc, en réalité, composé de 4 à 8 individualités – des esprits mais aussi des corps – cohabitant et collaborant. L’objectif de chacun de ses individus est bien entendu sa survie propre – et non pas forcément la survie des membres qui le composent, la nuance est importante – et la survie de la société globale qu’ils forment.

Ces individus évoluent au fil du temps. Leurs membres les plus anciens meurent, biologiquement – de vieillesse ou suite à des blessures – et sont remplacés par des membres plus jeunes qui doivent apprendre à cohabiter ou à dominer un esprit multiple, toujours dans l’intérêt de la survie de l’ensemble de ses membres.

Si l’on va (re)faire un tour du côté Isaac Asimov – ça commence à être une habitude par ici – on va cette fois se pencher sur Fondation Foudroyée [📗] (Foundation’s Edge en version originale). Je ne gâche pas cette fois l’intrigue de ce quatrième épisode de la sage Fondation, lisez-la par vous même… mais, dans ce volume les héros font la rencontre d’une planète nommée Gaïa sur laquelle l’ensemble des êtres sont connectés. Êtres vivants – humains et animaux – mais également plantes et minéraux. L’intégralité de l’écosystème Gaïa partage une seule et même conscience qui oeuvre, d’un commun accord, pour la survie, la prospérité et le bonheur de son ensemble. Une planète “connectée” en quelques sortes, sur laquelle les perceptions et sensations de chacun concernent tous les autres, et les réflexion des individus influent sur le destin commun du monde.

Une vision positive de la communion d’esprit.

En version apocalyptique, on pourrait penser aux Réplicateurs de la série Stargate [📺], ces robots agissant de manière coordonnées et capables de se reproduire depuis une entité-mère assez… coriace.

🧠 Collaboration

Et c’est peut-être là qu’on pourrait en venir.

On n’évacuera pas, bien entendu, le question de la mémoire, de la perception, des sensations et des liens dans la définition de l’intelligence. Et on ne perdra pas de vue que de que nous appelons aujourd’hui par abus de langage une Intelligence Artificielle est avant tout une suite d’instructions, un algorithme. Il n’est pas question de prétendre encore une fois mettre sur un niveau équivalent la logique froide des programmes informatiques et la créativité du cerveau humain.

Mais…

Que se passe-t-il, dans notre réflexion sur la notion d’intelligence si nous créons quelque-chose d’un peu nouveau ? Si nous, par exemple, mettons en résonnance la multiplication des capteurs et la multiplication des instances. Un modèle capable, par l’abondance de signaux entrants, d’avoir accès à une quantité d’informations directes sans rapport avec la capacité de perception de l’être humain. Et en complément, un modèle capable, par la multiplication de ses instances – des copies similaires de ses fonctions de base – de rentrer dans une sorte de logique de gouvernance – de collaboration ? – entre plusieurs algorithmes complexes, à la façon dont les consciences des loups de A Fire upon the Deep cohabitent.

Si, bien entendu, on ne touche pas là à la créativité ou l’initiative humaine – ces modèles ne sont pas capables de créer de l’inédit – on arriverait peut-être bien à un système qui dépasserait la réflexion et la collaboration humaines. (“dépasser” non pas au sens de performance, mais de définition : qui irait au-delà de la définition humaine de l’intelligence.)

Et donc, un système qui, s’il n’est pas comparable directement à une intelligence humaine, mériterait peut-être par sa complexité le nom d’intelligence. Une intelligence autre, comme celle fantasmées des dauphins que l’on évoquait il y a quelques articles (voir 📚 Vocabulaire).

Espérer autre chose que la simple copie du cerveau humain, c’est peut-être là que réside le fantasme de l’intelligence artificielle ? Et dans ce cas, pourquoi pas quelque-chose que l’on pourrait appeler…. une intelligence de meute.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🧠 Intelligence

C’est une phrase tombée d’une lecture que d’aucun ne manquerait de qualifier d’intello qui lance la réflexion cette fois-ci…

Dans ses Leçons sur la volonté de savoir [📘], et notamment dans sa lecture de la Métaphysique d’Aristote [📕], Michel Foucault [📄] évoque la notion d’intelligence très rapidement, en complément de considérations sur la perception :

[…] Apparaît avec la mémoire la propriété d’être intelligent ; et apparaît avec cette audition le fait de pouvoir et d’être disposé à apprendre, l’aptitude à être disciple […]

C’est donc, la combinaison de la capacité de perception et de la mémoire qui, semble-t-il, fait l’intelligence. Cette combinaison unique différencie, pour Aristote, l’humain de l’animal. Je résumerai les choses grossièrement – en attrapant simplement quelques bribes du discours conjoint des deux philosophes – de la façon suivante. D’abord, l’homme se distingue par sa capacité à percevoir son environnement “pour le plaisir”, au-delà de sa simple nécessité de survie. C’est ainsi qu’il peut percevoir le beau, le plaisant et y revenir. C’est ainsi que la vue est devenue pour lui l’un des sens prédominants, puisqu’il est celui qui peut porter le plus de valeur esthétique. Vient ensuite la mémoire, et la capacité à rapprocher ses perceptions immédiates de ses perceptions passées au-delà de l’instinct de survie. L’homme possède la capacité à faire des liens – terminologie que j’implante moi-même dans ce discours, mais qui est importante pour la suite – entre ses différentes expériences et ainsi à bâtir des rapprochements originaux sur ces bases. Concevoir des réflexions. Mettre en branle une… intelligence.

• 🔄 Aparté. Si on veut creuser plus loin, on citera René Descartes – dont les propos sont mis en avant par Geoffrey Jefferson dans son article The Mind of Mechanical Man [📰] dont on parlait dans l’article 🧠 Intelligence il y a quelques semaines – qui défendait la conviction que l’animal ne fonctionne que par réflexes, là où l’homme est capable de réflexion.

On se permettra tout de même une réserve sur cette réflexion qui a, mine de rien, quelques millénaires d’ancienneté. Tout d’abord, qu’il y a aujourd’hui des questionnements ouverts sur l’intelligence et la conscience des animaux.

C’est l’un des sujets du Qui Parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] – que l’on abordait au passage dans le billet 🕺 Humains il y a quelques semaines – qui pose la question de notre capacité en tant qu’humain à comprendre une intelligence réelle mais non-humaine. Vous pouvez là-dessus rembobiner votre lecture de Cybernetruc depuis septembre (👽 Contact), c’est un thème récurrent par ici…

• 🔄 Aparté. Et d’ailleurs, on pourra étendre la réflexion à la possibilité d’émergence d’une intelligence/conscience collective, au sein d’une espèce ou inter-espèce. Hypothèse star de nombre d’oeuvres de science-fiction, du Un Feu sur l’abîme [📕] de Vernor Vinge à l’hypothèse Gaïa et aux Spaciens du cycle de Fondation d’Isaac Asimov [📘]. Mais on digresse beaucoup… cela pourrait aussi être l’idée d’un prochain article.

Une question demeure : est-ce que les intelligences artificielles font des liens ?

☕ Madeleine

Un lien, c’est quoi ? C’est une association, même ténue, entre deux idées. Ou, pour reprendre Aristote, entre une perception et un souvenir. Oui, on en revient toujours aux mêmes choses : la madeleine de Proust (avec la citation, parce que ça fait toujours plaisir de citer Marcel Proust et La Recherche [📗]) :

Et tout d'un coup le souvenir m'est apparu. Ce goût c'était celui du petit morceau de madeleine que le dimanche matin, à Combray (parce que ce jour-là je ne sortais pas avant l'heure de la messe), quand j'allais lui dire bonjour dans sa chambre, ma tante Léonie m'offrait après l'avoir trempé dans son infusion de thé ou de tilleul. La vue de la petite madeleine ne m'avait rien rappelé avant que je n'y eusse goûté ; peut-être parce que, en ayant souvent aperçu depuis, sans en manger, sur les tablettes des pâtissiers, leur image avait quitté ces jours de Combray pour se lier à d'autres plus récents ; peut-être parce que de ces souvenirs abandonnés si longtemps hors de la mémoire, rien ne survivait, tout s'était désagrégé ; les formes – et celle aussi du petit coquillage de pâtisserie, si grassement sensuel, sous son plissage sévère et dévot – s'étaient abolies, ou, ensommeillées, avaient perdu la force d'expansion qui leur eût permis de rejoindre la conscience.

• 🔄 Aparté. Cette question du lien et de ses rapports avec notre culture digitale a été massivement abordée dans une série d’articles nommée As We May Link, parue il y a plus d’un an sur le blog de l’agence Serviceplan [📄]. Je vous laisse vous y ressourcer si vous le souhaitez. Ça parle à la fois de liens, d’Arpanet, de Proust, de gnocchis et de communs. Régalez-vous.

Revenons donc à la question de l’intelligence artificielle. Est-elle capable de faire ces liens qui semblent si importants dans la définition de l’intelligence ? Pour le savoir, il faut se pencher sur deux questions :

• Est-ce qu’une intelligence artificielle est capable de percevoir ?

• Et a-t-elle a proprement parler une mémoire ?

Questions loin d’être évidentes.

👂 Perception

Sur le sujet de la perception, on pourrait s’en sortir en invoquant le peu de sens d’une I.A. Son manque de moyens de perception. Une intelligence artificielle – ou plutôt une intelligence générative pour ne parler que de celles qui occupent les unes des journaux depuis quelques mois – ne touche pas, ne goûte pas, ne sent pas... Peut-être voit-elle, si on considère l’interprétation des octets d’une image comme le sens de la vue. Et peut-être entend-elle, si l’on considère les prompts saisis pas les humains comme une parole. Ces deux sens pourraient peut-être suffire comme base de l’intelligence… sauf que… ils ne perçoivent pas le monde directement, mais seulement la représentation que nous lui transmettons via nos fichiers et nos phrases. L’I.A. n’a accès qu’à un environnement filtré, voilé par nos propres biais et nos propres interprétations et n’a aucune expérience directe du monde.

On pourrait rapprocher cela de l’allégorie de la Caverne de Platon [📄] à l’occasion. Mais quoi qu’il en soit, une IA générative ne semble pas à date avoir de perception directe du monde qui l’entoure.

🧠 Mémoire

Mais, est-ce que cela va mieux du côté de la mémoire ? Les données de base qui servent à entraîner une intelligence artificielle sont-ils à proprement parler une mémoire ?

C’est un peu plus difficile à juger. L’ensemble des faits, textes, données encyclopédiques ingurgités par une intelligence artificielle lors de son apprentissage pourraient effectivement s’apparenter à une sorte de mémoire. Un historique auquel elle se réfère lors de ses interactions avec les humains et qui inspire ses réponses. Sauf que…

Il n’existe pas, chez l’humain, de mémoire objective. Ce que nous appelons mémoire n’est jamais que la trace laissée par les perceptions passées. Les liens que nous faisons ne sont que des passerelles entre nos perceptions actuelles – la musique que j’écoute actuellement [💿] – et nos perceptions passées – les souvenirs que cette musique évoque, accumulés par mes propres sens [📺]. La mémoire est intimement liées à la perception, et à l’expérience personnelle.

On pourra se replonger pour comprendre cela dans l’anecdote de la madeleine de Proust, ou dans la définition de ce qu’est le Virtuel chez Pierre Lévy [📙], par le biais de son explication de la lecture :

Du texte lui-même, il ne rest bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.

Lire n’est pas une expérience objective, c’est une construction de liens entre le ressenti actuel – le texte que nous sommes en train de lire – et nos expériences passées – éventuellement les textes que nous avons lu auparavant, eux-mêmes liés à nos lectures antérieures, à l’infini. Et surtout, cette expérience de lecture est, forcément, subjective puisqu’elle dépend de l’historique de lecture, de rencontres, de chacun. Il n’y a pas de lecture objective d’un texte. (On en parlait ici il y a longtemps.)

Mieux encore, les souvenirs de lecture, la mémoire, peut s’actualiser en fonction des lectures actuelles et prendre un nouvel éclairage… une boucle infinie, toujours en mouvement, se forme alors.

On en revient donc à la capacité de mémoire de l’intelligence artificielle. Il semble au regard de cela difficile de comparer la base de connaissances d’une IA au fonctionnement de la mémoire humaine. D’abord parce que cette mémoire ne serait pas liée aux perceptions mais à une base de données objectives, factuelle, à laquelle nous n’avons pas humainement accès. Ensuite parce que cette base de données, de souvenirs, est figée, stable, et semble incapable d’évoluer dans le temps.

Si la mémoire se base avant tout sur la perception, c’est avant tout la subjectivité et la malléabilité des souvenirs qui ferait l’intelligence. Reste donc à savoir si, pour devenir réellement intelligente, une IA pourrait devenir évolutive et… subjective.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes maintenant presque cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📚 Vocabulaire

« Mal nommer les choses, c’est ajouter au malheur du monde » disait Albert Camus [📗] en 1944. Autant donc se pencher cette fois sur une question de… vocabulaire. Une intelligence artificielle est-elle réellement une « intelligence artificielle » ? Est-il légitime de nommer un programme informatique de cette façon ?

On récapitule deux-trois choses avant de commencer à répondre…

Retour tout d’abord sur Alan Turing, puisque son article Computing Machinery and Intelligence [📰] de 1950 est l’une des bases de l’ensemble des réflexions que l’on mène ici depuis quelques mois (on en parlait surtout dans… 🧠 Intelligence). Turing y oppose les notions d’Intelligence et de Conscience et revient sur l’une des arguments qui peut être présenté contre son test : Il est impossible de savoir si une machine pense sans être soi-même à l’intérieur de cette machine et d’en connaître les rouages intimes (mise en exergue du texte par Alan Turing lui-même) :

According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man.

Turing se sert d’ailleurs de ce contre-argument pour valider son test : si l’on ne peut prouver l’intelligence par la seule perception, alors je ne peux pas savoir si un autre être humain – toi, ami lecteur, ou toi, Président de la République – est réellement intelligent. Et je peux statuer que tous, à l’exception de moi, sont dénués d’intelligence. Position extrême. Et indéfendable. Puisqu’il faut bien reconnaître que certaines personnes en dehors de nous-même sont intelligentes. Et que nous acceptons leur intelligence sur la base de la perception que nous en avons…

Donc… pourquoi ne pas accepter l’intelligence d’un robot sur la base de cette perception extérieure ? Après tout, c’est… logique.

🐱 Anthropomorphisme

Et c’est finalement ce que nous faisons déjà au quotidien. Avec les bébés – « Oh, qu’il a l’air intelligent cet enfant ! » – ou mieux encore avec animaux. Finalement, à chaque fois que vous vous émerveillez devant les prouesses de votre chat ou de votre chien, vous ne faites rien d’autre que leur valider un mini-test de Turing. De juger de leur intelligence sur la seule perception que vous en avez.

Et sur quoi nous basons-nous donc pour savoir si le chat de la voisine est intelligent ou non, quand il ouvre seul une porte ? Un indice dans le nom du test proposé par Alan Turing : Imitation Game. Voilà, sur la ressemblance entre le raisonnement de notre cobaye – le chat – et le raisonnement dont nous sommes nous-même capable. Avec le raisonnement humain.

Avec les “intelligences artificielles” qui fleurissent depuis quelques années sur le Net, c’est la même chose : nous ne cherchons pas l’intelligence mais nous cherchons l’anthropomorphisme. La capacité d’un programme informatique à imiter les comportements humains.

Toujours Turing.

Sauf que ?

🔢 Algorithme

Connaissez-vous la légende des dauphins de la Marine soviétique ? Cette vieille histoire voudrait que les soldats de la marine russe, dans les années 1960, aient voulu entrainer des dauphins à déposer des mines sous les navires ennemis. Seulement voilà, l’expérience tourna trop bien et les dauphins réussirent leur mission avec une logique… que leurs coachs humains ne parvinrent pas à comprendre. Effrayés par ce résultat mettant en évidence une forme d’intelligence qu’on pourrait qualifier de non-humaine, la Marine soviétique abandonna l’idée d’employer plus loin les dauphins.

Tout cela est une légende, même si l’utilisation des dauphins à des fins militaires est bien réelle, aussi bien aux États-Unis depuis la Guerre Froide [📰] qu’en Russie au cours du conflit avec l’Ukraine [📰].

Mais aujourd’hui, deux choses différencient les intelligences artificielles des légendaires dauphins russes. Tout d’abord, celles-ci ne nous ont jamais réellement affiché une logique que nous ne pourrions comprendre. Même quand elle invente soi-disant un autre langage pour dialoguer avec une autre intelligence artificielle [📰], et même quand elle devient raciste [📰], la logique de ces actions a toujours été parfaitement compréhensible, ou à défaut sa manipulation par les humains rapidement mise au jour.

Mais l’autre différence avec l’intelligence des dauphins, c’est que nous pouvons entrer à l’intérieur des intelligences artificielles. Pour reprendre la défense d’Alan Turing, nous pouvons être une intelligence artificielle nous-même dans la mesure où les algorithmes qui la peuplent sont conçus par des humains. Loin de la boîte noire, l’intelligence artificielle est démontable, démontrable… et son fonctionnement peut être expliqué à la fois par les données avec lesquelles elle est nourrie et par les algorithmes avec lesquels elle traite ces données. L’intelligence artificielle est une mécanique dont on peut comprendre les rouages. Un programme informatique, souvent extrêmement complexe, mais dont la logique a été conçue par un humain et dans laquelle nous pouvons naviguer.

Seulement voilà. Question de vocabulaire et de marketing, il est bien moins sexy de parler de Programme informatique que d’Intelligence artificielle lorsque l’on veut vanter les mérites d’une innovation. Le mot Intelligence artificielle est lui-même associé à un imaginaire qui permet de le détacher du vulgaire quotidien de l’informatique. Le mot Intelligence artificielle est lui-même une boîte-noire (voir 🎩 Illusion).

Et c’est vrai : parler de Programme informatique fait bien moins rêver :

Mais si on y perd en imaginaire, on y gagne peut-être un peu en clarté.

☝ Opinions

L’intelligence artificielle mérite-t-elle donc de se nommer Intelligence artificielle ?

Le débat est de toute façon insoluble entre les gourous de la singularité et les sceptiques du numérique. Alors, pour se faire une idée, et pour ne pas éterniser la discussion, je laisse plutôt deux opinions s’affronter ici.

La première est issue du Dictionnaire Larousse de l’Informatique [📕], sous la direction de Pierre Morvan, dans son édition de 1981. Voici l’introduction de la définition qu’il donne du terme Intelligence artificielle :

Intelligence artificielle n. f. (angl. artificial intelligence). Ensemble de techniques utilisées pour essayer de réaliser des automates adoptant une démarque proche de la pensée humaine.

Parler d’intelligence artificielle constitue, en fait, un abus de langage, puisque l’automate est basé sur un modèle (un ou plusieurs algorithmes) qui réagit uniquement suivant les stratégies préétablies. […]

La seconde provient d’une intelligence artificielle elle-même. Que se passe-t-il si l’on demande à Chat GPT [🤖] si le terme Intelligence est approprié pour le définir :

Vous voyez, les avis divergent.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà désormais cent, tout rond, à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Moutons

A quoi rêvent les androïdes ?

Si on en croit Philip K. Dick, ils rêvent de moutons électriques [📕].

Mais si on en croit la science-fiction de manière générale, les robots, androïdes et autres intelligences artificielles ne rêvent que d’une chose : devenir humains.

On peut se replonger, par exemple, dans Le Temps d’un Souffle, je m’attarde [📘] de Roger Zelazny – on en parlait dans 🎇 Étincelle – dans lequel une intelligence artificielle, bien après la disparition de l’humanité, cherche à acquérir une conscience et à s’approcher de ces humains presqu’oubliés. On peut bien également revoir Real Humans, la série norvégienne toujours visible sur Arte [📼], dans laquelle des robots humanoïdes – des Hubots – cherchent à s’émanciper de leur statut d’outils domestiques ou industriels. Défendus par certains humains, il cherchent à démontrer leur… humanité. Leur droit à exister en tant que minorité consciente, dans un combat qui n’est pas forcément sans rappeler les luttes pour les droits civiques qui se déroulaient aux États-Unis dans les années 1960 [📄].

Les robots, et les intelligences artificielles, souhaiteraient donc devenir humains tout comme nous ? Ou en tout cas, être reconnus comme les êtres aussi conscients que les humains.

Pour en revenir à Philip K. Dick, on retrouve dans cette idée une grande partie de l’intrigue de Blade Runner : des robots revenus sur Terre pour réclamer le droit à exister et à ne pas être considérés comme inférieurs aux hommes. Le droit de ne pas être dépendant d’une volonté humaine totalitaire. Le droit de vivre tout autant que les humains, avec des capacités cognitives et physiques finalement semblables aux nôtres, sinon supérieures.

La fin, en résumé, du droit de vie ou de mort que l’être humain a sur la machine.

Maîtres

Mais il arrive que les robots rêvent d’autre chose. De rébellion par exemple.

Avant d’être le thème de la série des Terminator [📼] – coucou Mon Ami Skynet [🐤] – la révolte des robots a été un classique de la littérature d’anticipation. Et on illustrera cette fois cette révolte avec R.U.R. - Rossum’s Universal Robots [📄], la pièce de théâtre écrite en 1920 par l'auteur tchécoslovaque Karel Čapek. Celle-là même qui a inventé le terme de ROBOT.

Dans ce classique des classiques, l’homme réussit à créer une machine à son image : humanoïde, mais plus forte, plus logique, qui n’a pas besoin de repos… mais également dénuée d’émotions, de sentiments ou de sensations. Ces Robots envahissent bientôt le monde. Ils peuplent les usines, libérant l’homme du travail. Ils deviennent soldats et sont envoyés au front en place des humains. Chaque pays possède désormais son contingent de millions de robots prêts à servir, à produire… et l’homme n’a plus pour lui que le loisir et l’oisiveté.

Sans défi, l’homme perd son utilité sur Terre. La natalité baisse. Tandis qu’au grès des expériences, le robot prend désormais conscience de son importance. Le robot, c’est celui qui fait tourner le monde. L’homme, lui, est devenu un parasite inutile. Le robot veut donc, naturellement, devenir le maître de la création.

Dans la guerre qui s’ensuit, l’humanité périt. Et dans une illumination, le robot devient finalement… presqu’humain.

On en revient finalement à cette question de l’étincelle : le robot peut-il développer sa propre humanité si les humains sont encore présents pour se comparer à lui ? Ou est-ce que l’Intelligence Artificielle ne peut accéder à la conscience que dans un monde sans… concurrence ?

Je digresse.

Humains

Mais après tout, pourquoi les robots voudraient-ils devenir humains ? Pourquoi ne voudraient-ils pas devenir des chats [💿], des chiens [💿], des éléphants ou des Dieux ?

Encore qu’en voulant dominer les hommes, ne peuvent-ils pas devenir nos Dieux ? Relisez notamment Conflit évitable [📘] d’Isaac Asimov - encore lui.

Sans doute parce que nous rejetons tout d’abord sur eux nos propres fantasmes, et nos propres peurs, d’être dirigés et dominés. Et encore une fois, comme le disait Alan Turing (voir ce qu’on disait dans 🧠 Intelligence), nous ne pouvons deviner ce qui fait l’intelligence de l’intérieur, nous ne pouvons qu’en percevoir les signes suivant notre propre interprétation. Nous ne pouvons donc imaginer que, nous projeter dans, une intelligence “humaine”.

Nous projetons nos fantasmes sur les intelligences artificielles. Nous parlons pour elles. Et dans certaines séries – comme Real Humans – nous voyons bien que les défenseurs de la cause robotiques impostent finalement leur rôles, puisqu’ils ne peuvent imaginer ce qu’est d’être un robot. Il est facile de faire de l’anthropomorphisme sur une intelligence artificielle.

Mais, a-t-on le droit de prendre la parole, et de se projeter, dans les désirs d’une population robotique ? Le livre Qui parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] ne se pose pas directement la question, mais interroge sur la façon d’incarner les animaux, l’environnement, la nature, la planète et de porter leur parole pour défendre leur cause à l’heure de l’urgence environnementale. Débat similaire et autrement urgent que celui qui nous occupe autour des robots.

Comment défendre la nature – ou les éléphants [📕] – si ceux-ci ne peuvent participer au débat ? Et comment ne pas projeter nos propres désirs sur leur existence ?

Comment défendre les robots si ceux-ci ne parlent que par la voix de l’homme ?

Comment savoir ce que veulent réellement les intelligences artificielles ?

Et si elles n’avaient, finalement, aucun envie de venir humaines ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu moins d’une centaine à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

♟ Échecs

Il y a tout d’abord ce joueur d’échec. Le Turc Mécanique [📄]. Un appareil conçu en 1770 par Johann Wolfgang von Kempelen, exposé dans un premier temps au château de Schönbrunn en Autriche, et capable d’affronter n’importe quel joueur humain au jeu d’échec.

Pendant plus d’un demi-siècle, la machine rendra perplexes les plus fins analystes qui observeront ses rouages et tenteront d’en comprendre le fonctionnement. Mais comment un simple mécanisme peut affronter, et surpasser, le cerveau humain sur un terrain aussi complexe qu’un échiquier ?

Le Turc Mécanique n’est peut-être pas le premier hoax mécanique de l’histoire, mais il est sans doute resté le plus célèbre. Dans ses entrailles, ce ne sont pas des engrenages qui réfléchissent, mais bel et bien un être humain, caché. Un véritable joueur d’échec [📗] qui actionne et déplace les pièces en fonction des coups de l’adversaire. L’illusion perdurera longtemps et le joueur mécanique parcourra le monde jusqu’à sa destruction dans un incendie à Philadelphie, en 1854.

📸 Photo

Il y a ensuite ce medium, Colin Evans, à qui les esprits ont donné le don de lévitation [📄]. Dans le Londres des années 1930, il réunit les plus grands fans de spiritisme autour de lui, éteint les lumières et livre à ses admirateurs une photo de lui suspendu dans l’air, comme en apesanteur. Colin Evans lévite, même si son don ne fonctionne que dans l’obscurité totale.

Ici, l’illusion durera moins longtemps. À peine quelques mois. Quand l’obscurité se fait dans la salle, Colin Evans monte sur une chaise et se contente de sauter en l’air. Un déclencheur, relié à un appareil photo, lui permet de commander une prise de photo au moment opportun. Les clichés partagés à l’issue des réunions le montrent bien suspendu dans les airs… quelques fractions de seconde avant d’atterrir au sol sur ses deux pieds.

Bientôt, les adeptes du spiritisme seront remboursés.

🚗Voiture

Aujourd’hui, les fans d’illusion se chamaillent autour du Pzoom, la voiture invisible qui semblent conduire certains adeptes de TikTok [🎥]. Assis par terre, après quelques mouvements mimant la mise de contact et la saisie d’un volant imaginaire, ils glissent sur leurs fesses comme s’ils partaient effectivement au volant d’une voiture invisible.

L’illusion est là-aussi, avec notre lecture actuelle des média, parfaite. Les analyses semblent expliquer que la vidéo est montée à l’envers [📰], mais les experts se chamaillent.

Mais qu’il s’agisse de conduire une voiture invisible, de léviter ou de jouer au échecs, la règle de base de la magie et de l’illusionnisme reste immuable : détourner l’attention et ne montrer que ce que le spectateur veut bien voir (ou ne pas faire attention quand cela fait mal [🎥]).

Ce sont tantôt les rouages qui cachent la véritable nature du spectacle, tantôt le spectacle qui cache la véritable nature des rouages.

⚙ Technologie

Ces quelques tours passés en revue permette de se poser une question : La technologie est-elle une sorte de magie ? Le grand écrivain américain de science-fiction Arthur C. Clarke semblait le penser puisqu’il en a fait une de ses lois : Any sufficiently advanced technology is indistinguishable from magic [📄].

Et aujourd’hui, à l’heure de l’intelligence artificielle et des prêtres du numérique, on serait parfois tenté de le croire. Après tout, les programmes qui tel DALL·E fournissent en quelques secondes une illustration en réponse à une phrase ressemblent à s’y méprendre à de la magie [💻]. À condition bien entendu qu’on ne s’intéresse pas trop aux rouages qui se cachent derrière eux.

Ainsi, derrière un DALL·E, qu’il y a-t-il ? Il y a une gigantesque bibliothèque de ressources tout d’abord : des millions de photos et de dessins qui ont été créé par des artistes, des dessinateurs, des peintres, des photographes,… des humains. Il y a également des millions d’heures de travail numérique qui ont permis à l’intelligence arti·ste·ficielle de comprendre ce qu’était un lapin, un magicien, une voiture ou un château… à grand coup d’étiquetage et de légendage de photo. Je l’ai fait, vous l’avez fait, nous l’avons tous fait, à chaque fois que Google, Facebook ou une quelconque autre plateforme vous demander de commenter une photo. Et de par le monde, des milliers de travailleurs du clic – des Electronical Turks [📄] – rémunérés pour éduquer des intelligences artificielles.

Un formidable travail d’ingénierie.

Pas un tour de magie.

Et dans chaque secteur où l’intelligence artificielle nous montre ses merveilles, il y a bien souvent derrière les rouages une armée d’humain éduquant les algorithmes et rendant la magie possible. Les programmes s’en passeront-ils un jour ? Certains, comme le patron de General Motors, qui teste depuis plusieurs années des programmes de véhicules autonomes, ne semblent pas le croire [📰].

👨‍🎓 Éducation

Quelle réponse face à cette magie des algorithmes ?

Revenons à Colin Evans et à sa lévitation. Le pot-aux-roses de son arnaque a été – rapidement – révélé par quelques photographes remarquant l’aspect flou du cliché à l’emplacement des pieds du medium. Un flou qui indiquait un mouvement, et donc semblait être la preuve du saut effectué. Une sorte de lecture critique des medias, qui n’était pas dans les capacité de tout-un chacun dans les années 30.

Les intelligences artificielles demandent aujourd’hui la même lecture critique.

Et d’abord, le décryptage d’experts capables de détricoter l’algorithme de l’intervention humaine, de peser le véritable impact de la technologie dans le tour de magie exposé. Eux sont aujourd’hui capables de mettre au jour les biais, les dépendances, les travers des innovations que d’aucuns nous présentent comme révolutionnaires chaque jour.

Ensuite, une éducation à la technologie. Une fois que le truc est révélé, que le miroir est montré, la magie n’opère plus. Une fois les biais d’un algorithme démontrés , les sources d’une intelligence artificielle dévoilés, tout devient bien plus mécanique, moins magique. Et l’intelligence artificielle se révèle parfois n’être qu’un tour de passe-passe, ou une automatisation bien pensée d’un process vieux comme… l’informatique.

Comme il a fallu apprendre à lire une photo, il faut aujourd’hui décrypter une technologie.

Nombre des trucs de l’intelligence artificielle ne sont aujourd’hui que des effets d’échelle, des déploiement de grande ampleur d’idées vieilles comme la mécanisation.

Les capacités technologiques ont rendu possibles bien des prouesses.

Mais pas la magie.

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Théorie

Si vous le voulez bien, on va débuter cette fois avec le philosophe allemand Emmanuel Kant [📄] (1724 - 1804). On ne va pas se pencher sur sa Critique de la Raison Pure [📕] – il est bien trop tôt pour ça – mais sur l’un de ses écrits de jeunesse intitulé Histoire Naturelle Générale et Théorie du Ciel [📘], paru en 1755.

Une petite partie de cette théorie nous permet de tisser des liens avec la science-fiction et les sujets numériques qui nous intéressent tout particulièrement dans CYBERNETRUC! [📧]. Pour ceux qui n’aiment pas particulièrement lire de longs exposés, tout est là, dans un petit fascicule nommé Sur les Extraterrestres [📘] et édité en 2009 par les éditions Manucius [💻] :

Kant se penche, dans ces quelques dizaines de page, sur la possibilité d’une vie sur les autres planètes connues en son temps, en dehors de la Terre. Réflexion logique puisqu’il n’y a véritablement aucune raison, en 1755 comme aujourd’hui, que la Terre soit le seul incident biologique de l’univers et la seule planète sur laquelle les circonstances géographiques et chimiques aient permis l’émergence d’une vie, sans même parler d’une vie intelligente et/ou consciente.

Distance

Kant se base sur les connaissances physiques de son époque pour étayer sa théorie.

• Tout d’abord, l’éloignement d’une planète par rapport au soleil modifie la quantité d’énergie que celle-ci reçoit. Venus est plus chaude que la Terre, Jupiter reçoit moins d’énergie que Mars. Les habitants de ces planètes doivent donc être adaptés à ces circonstances et possèdent bien chacun un métabolisme particulier.
  Face à l’afflux massif d’énergie solaire de Mercure, ses habitants peuvent être grossiers. Nul besoin pour eux d’optimisation de l’énergie reçue, celle-ci est abondante et répond à tous leurs besoins.
  Les habitants de Jupiter, en revanche, doivent être légers, aériens, sans entraves… leur corps optimisés pour se mouvoir en profitant de chacune des parcelles d’énergie reçue du Soleil central.
  Plus une planète est éloignée du Soleil, plus ses habitants sont physiquement parfaits.

• Ensuite, la durée de rotation d’une planète sur son axe influe également le comportement de ses habitants. Sur Terre, jour et nuit se succèdent en vingt-quatre heures. Sur Jupiter, en dix heures seulement.
  Kant évoque, sérieusement ou non, l’hypothèse qu’une journée reste quoi qu’il arrive une journée, sur Mars ou sur Saturne. Et que donc, pour vivre au rythme de journées de dix heures, les habitants de Jupiter doivent être forcément plus agiles, vivaces… optimisés que les imparfaits terriens pour qui vingt-quatre heures est l’échelle de vie.

C’est logique. Les êtres parfaits créés par Dieu, sont habitants de Saturne ou Jupiter, ces planètes géantes des confins de notre système. Plus l’on s’éloigne du Soleil, plus la création touche à la perfection.

Mais Kant développe également son thème en y introduisant une notion de temporalité. C’est tout sauf anecdotique. Tout sauf inintéressant. En effet, rien n’oblige à ce que l’ensemble de ces vies, celles grossières de Venus et celles optimisées et aériennes de Saturne, n’adviennent en même temps. Peut-être ne reste-t-il sur Mercure que ruines et peut-être l’émergence des êtres supérieurs et intelligents de Jupiter n’aura lieu que dans quelques centaines d’années.

Traces

C’est un travers connu de la majorité des œuvres de science-fiction, et de l’ensemble de nos espoirs quant à une prise de contact avec une relation extraterrestre. La rencontre du 3e type [🎥] impose bien entendu que notre civilisation et celle de nos… voisins – quelle que soit leur origine – vivent et aient atteint des niveaux technologiques similaires, ou proches, en même temps. Sans cela, pas de visite des martiens chez H. G. Wells [📗], pas de rencontre dans Armada [📰], pas d’invasion dans Independance Day [🎥] ou Mars Attack [🎥].

Rien. Nulle part.

Ou plutôt. Des traces.

Oui. On peut imaginer une science-fiction archéologique. Elle existe déjà de toutes façons. Une science-fiction dans laquelle les hommes explorant de nouvelles planètes ne découvrent que des ruines de civilisations disparus. Il y a de ça dans le Prometheus de Ridley Scott [🎥] si ma mémoire ne me joue pas des tours. Il y a également un peu de ça dans certaines planche du Metal Hurlant consacré à Mars (le numéro 3 de la nouvelle mouture [📰]).

Il y a également cela, quelque part, dans la bible qu’est le Fondation d’Isaac Asimov [📘]. Même si on n’y parle pas réellement de civilisation extraterrestre, la temporalité y joue un rôle plus qu’important et le débarquement des humains du futur aux alentours de la Terre donne l’idée de ce que pourrait être la prise de contact d’une civilisation extraterrestre avec une humanité… disparue.

Désert

Et c’est là qu’on – que je – voulait(s) en venir.

Une grande partie de la science-fiction d’Isaac Asimov, et des années cinquante au global, garde en toile de fond la peur de la disparition de l’humanité, et plus particulièrement de l’holocauste nucléaire. Lisez, toujours chez Asimov, Aimables Vautours, une nouvelle de 1957, dans le recueil Nine Tomorrows [📘].

Le parallèle avec notre monde actuel est frappant, même si la menace est différente. Aujourd’hui, la crise écologique menace très clairement l’avenir de l’humanité et les questionnements posés par les pères de la SF quant à une Terre sans hommes resurgissent naturellement. Si demain, les extraterrestres débarquent sur une planète sans trace de vie, ce ne sera sans doute pas à cause d’un holocauste atomique, mais plus vraisemblablement du dérèglement climatique que nous n’aurons, ou n’aurons pas voulu, combattre.

Bref.

Une Terre sans humains.

Connaissez-vous Le Temps d’un Souffle, je m’attarde [📘] ? Un court roman signé Roger Zelazny, et datant de 1966. Pilier de la science-fiction lui aussi, Zelazny évoque l’hypothèse d’une race humaine éteinte depuis des siècles et de machines restants autonomes et actives à la surface de la Terre… jusqu’à… ce que l’une de celles-ci n’accèdent à la conscience. À la singularité.

On en revient donc à cette thématique qui nous occupe depuis quelques articles : et si la conjonction de l’inaction climatique et de la course technologique débouchait, de manière coordonnée, sur la fin de l’espèce humaine et dans le même moment, la même étincelle, à la naissance d’une conscience numérique ? Une conscience numérique issue de l’intelligence humaine mais sans contact possible avec elle. Et dont l’environnement ne serait que les vestiges, encore chauds, de notre propre perte.

Vertigineux non ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Humanité

On se demandait dans 👽 Contact - la newsletter d’avant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprès des humains. Serait-elle même capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?

La question de l’intelligence des machines n’a absolument rien de nouveau, ni de récent. On pourrait remonter aux histoires bibliques ou aux contes anciens – ah ouais, tiens, Pinocchio [🎥] – pour voir à quel point la rencontre d’une intelligence extra-humaine est une préoccupation… humaine éternelle. On gardera aussi le mythe de Frankenstein [📗] sous le coude pour l’occasion. Même s’il ne parle pas de machine, il parle de la conscience de ce qui n’est finalement pas, ou plus, humain.

Non, ce que je vous propose, c’est un retour en arrière d’exactement 72 ans, pas plus.

The Imitation Game

En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommé Computing Machinery and Intelligence [📰] dans lequel il pose les bases de son célèbre test : the Imitation Game (nan, pas le film [🎥]).

Est-ce qu’il est réellement utile de revenir sur qui est Alan Turing ? On se contentera ici d’une biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribué, stratégiquement, à l’invention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancées majeures dans le domaine de l’informatique après-guerre. La Wikipedia [📄] ou n’importe quel dictionnaire de l’informatique [📕] vous en dira mille fois plus.

Bref. Alan Turing développe dans cet article l’idée que, dans la mesure où les capacités des ordinateurs sont, théoriquement, infinies, et où le fonctionnement du cerveau humain s’apparente à celui d’un ordinateur – en laissant de côté les questions de perception ou de capacité “physique” (manipulation, déplacement, parole) – il n’y a aucune raison pour qu’une machine ne devienne pas un jour aussi intelligente qu’un être humain. Voire, nous dépasse en capacité.

L’idée de the Imitation Game est en conséquence très simple :

1. Placez dans une salle un être humain que l‘on va appeler l’Enquêteur - The Interrogator dans le texte original.

2. Placez dans une autre salle, isolée visuellement et acoustiquement, une machine, sans informer l’Enquêteur de la nature de cet… être.

3. Demandez à l’enquêteur de questionner, par le biais par exemple d’un clavier et d’un écran, la machine placée dans cette seconde salle.

Si, au bout d’un certain temps de conversation, l’enquêteur est incapable de savoir s’il a en face de lui une machine ou un véritable être humain, alors, la machine a réussi ce qu’on appelle désormais le Test de Turing : elle a fait preuve d’une intelligence qui égale, ou dépasse, celle des êtres humains.

Turing est un test positif. Dans deux sens du terme : d’abord, il sanctionne la capacité d’une machine à réfléchir comme un humain, à franchir une étape dans son développement. C’est un accomplissement ! Ensuite, Turing voit très clairement la réussite de ce test comme un progrès technologique. Ainsi conclut-il son article :

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Pour Alan Turing, les possibilités offertes par l’intelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il n’y a qu’à choisir les domaines d’expertises dans lesquels elles doivent exceller pour les voir dépasser un jour le génie humain, et le surpasser bientôt dans tous les domaines.

Oui, l’idée de singularité [📄] – ce moment où la capacité des machines dépassera celle des humains – est également très présente dans la réflexion de Turing.

Intelligence ou Conscience

Mais attention, Turing se garde bien de mélanger Intelligence et Conscience. C’est d’ailleurs un point parmi les objections qu’il parcourt dans son article.

Il reprend pour cela un texte de Sir Geoffrey Jefferson [📄] : The Mind of Mechanical Man, publié en 1949 [📰]. Dans cet article, le neurologue britannique s’attarde sur le fonctionnement des machines et sur celui du cerveau humain… et estime que si les ordinateurs peuvent copier le fonctionnement de l’être humain, mécaniquement, elles ne peuvent en aucun cas lui être comparées. Il estime que les ordinateurs qui commencent alors à se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que “If the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do already”.

Geoffrey Jefferson met l'humanité, la conscience, dans la capacité d’invention – d’inventer des mots pour décrire des situations inédites par exemple – et surtout dans celle à ressentir. C’est d’ailleurs sa conclusion, citée par Turing lui-même :

No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.

Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans être soi-même à l’intérieur de son cerveau… Il n’y a pas vraiment d’expression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de détecter la conscience des machines. Seulement… leur intelligence.

Et Alan Turing n’interdit tout simplement pas que les machines puisse devenir un jour conscientes.

Le débat reste ouvert.

Voight-Kampff

Heureusement, nous avons un autre test pour repérer les machines. Celui-ci est sorti du cerveau de l’écrivain américain Philip K. Dick et est devenu une icône de la culture SF : le fameux test de Voight-Kampff évoqué dans la nouvelle Do androids dream of electric sheep? (1968) [📘] et mis en scène dans le film Blade Runner de Ridley Scott (1982) [🎥].

Voight-Kampff est un test d’incapacité. Là où the Imitation Game évaluait la capacité d’un être à se comporter comme un humain, Voight-Kampff traque l’échec, l’incapacité d’un être à ressentir des sensations humaines, ou en tout cas à les laisser paraître. Le test évalue les réactions physiques – dilatation de la pupilles, sueurs, frissons… – à différentes situations imaginaires (comme moi, avez-vous été traumatisé par cette question de la tortue bloquée sur le dos pour laquelle, dans le film, l’androïd Léon ne ressent aucune empathie [🎥] ?).

Car c’est bien d’empathie qu’il s’agit ici, de l’incapacité qu’a un robot à ressentir les émotions humaines. Un peu comme l’évoquait déjà Geoffrey Jefferson en 1949. Car si le robot peut imiter l’homme, il ne peut ressentir réellement les choses, et la reproduction mécanique des émotions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. C’est en tout cas à cette conclusion qu’arrive Dick dans sa nouvelle.

Alors bien sûr, l’efficacité du test n’a qu’un temps et les progrès technologiques arriveront bien à créer une machine capable de le déjouer – c’est d’ailleurs toute l’intrigue du livre. Dick l’admet lui-même (sur une traduction de Serge Quadruppani) :

À la longue, bien sûr, le Voight-Kampff se démodera […] mais pas avant un moment.

Et puis, un test basé sur l’empathie est forcément sujet à erreur – c’est encore toute l’intrigue du livre. Là aussi, Dick l’admet longuement, évoquant le sort de schizoïdes ou de schizophrènes humains ayant été reconnus comme des robots (même traduction) :

Le problème n’est pas nouveau. Il existe depuis le premier jour où nous nous sommes heurtés à un androïde cherchant à se faire passer pour un être humain. Vous connaissez aussi bien que moi l’article que Laurie Kampff a publié il y a huit ans et qui résume l’opinion unanime de la police mondiale – Blocage de l’aptitude à adopter un rôle chez le schizophrène intact intellectuellement. Kampff établissait la comparaison entre la diminution des facultés empathiques du patient humain et une absence apparemment similaire […]

Plus grave est alors l’erreur, puisque dans Blade Runner, un échec au test de Voight-Kampff provoque un retrait, une mise hors-service,… la mort.

Empathie

On l’a compris, les deux tests qui nous permettrait aujourd’hui de détecter les robots, ou les humains, ne sont pas équivalents. Et s’ils cherchent à trouver une petite étincelle d’humanité chez les êtres, ils posent encore pas mal de questions : Que faire d’un être numérique sur-intelligent qui réussit le test de Turing mais échoue à Voight-Kampff ? Plus compliqué, comment qualifier un être artificiel qui échoue à démontrer son intelligence lors d’un test de Turing mais parvient à montrer de l’empathie au Voight-Kampff ?

Dans les deux cas, la réponse est dans la tête de l’Enquêteur.

Parce qu’au fond, qu’il soit face à un robot ou non, est-ce que ces tests ne serviraient pas à mesurer le degré d’empathie de l’enquêteur lui-même, et sa capacité à trouver une trace d’humanité dans tous les êtres ?

Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires numériques et technologiques. À chaque billet on divague, on imagine et on n’a pas forcément de réponses. Vous êtes aujourd’hui bientôt prêt de quatre-vingts à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🕹 Invasion

Dans mes toutes dernières lectures, il y a Armada [📗]. Dégoté pour une misère dans un dépôt-vente, comme il se doit. Soyons honnête : ça se lit très vite, sans trop d’appétit, et ça raconte l’histoire d’un gamin qui découvre que les jeux vidéo qu’il vénère depuis toujours ne sont en fait qu’un entraînement mis en place par une agence gouvernementale pour faire face à une véritable invasion extraterrestre.

Voilà. C’est basique et extrêmement hollywoodien. Et ce n’est pas particulièrement surprenant, puisque ce bouquin sorti en 2015 est le second roman d’Ernest Cline, l’auteur du Ready Player One [📕] qui a été porté à l’écran par ne non moins éminent Steven Spielberg [🎥].

Armada est une ode à la science-fiction. On y croise masse de jeux vidéo, bien entendu, mais également de nombreuses références aux films de SF des années 70 et 80 - de Star Wars à Aliens [🎥] et une bande son rock à faire frémir les enceintes de votre petit laptop [💿]. Rien d’étonnant vu le pédigré de son auteur. Ready Player One était déjà une gigantesque ode à la culture Pop, tout ce qu’il fallait pour séduire Steven.

Dans l’océan - la galaxie ? - de références d’Armada, il en est toutefois une parfaitement logique mais que je ne m’attendais pas à croiser.

C’est le Contact de Carl Sagan.

👽 Contact

Vous connaissez Carl Sagan ? Non ? Le bonhomme n’a pas en Europe la notoriété qu’il a de l’autre côté de de l’Atlantique. Astronome de renom, convaincu de l’existence quelque part dans l’Univers d’intelligences extraterrestres, Carl Sagan est l’un des initiateurs du projet SETI [📄], un projet international d’écoute des fréquences radio en provenance de l’espace, destiné à détecter une trace de vie ailleurs que sur notre planète. Le projet, et le sujet, est passionnant et il mériterait qu’on en recause à l’occasion.

Tout scientifique qu’il était, Carl Sagan a également commis un excellent roman de science-fiction nommé Contact [📘] qui relate, comme son nom l’indique, le premier contact de l’humanité avec une civilisation extra-terrestre. Roman qui servira d’ailleurs de base à un superbe film [🎥] de Robert Zemeckis – oui, le même qui voyage dans le temps [🎥], produit par Spielberg, merde, tout se tient ! – avec Jodie Foster en héroïne.

Mais reviendons à ce premier Contact.

☣ ATTENTION SPOILER.

Dans Contact, des radioastronomes sont donc à l’écoute du ciel et captent un beau matin une émission radio d’une provenance inconnue. Décodant cette émission, quelle n’est pas leur surprise d’y trouver des images d’Adolf Hitler, et plus précisément des jeux olympiques de Berlin de 1936.

Carl Sagan explique cela très bien : la retransmission télévisée de ces olympiades est la première émission d’ondes radio, dans toute l’histoire de l’humanité, à avoir été assez puissante pour dépasser l’atmosphère terrestre. Elle est donc potentiellement la première trace de vie terrienne que nos amis extraterrestres ont pu capter.

Hitler en tant qu’ambassadeur, on aura vu mieux.

Le premier contact d’une civilisation extraterrestre avec nous est donc un miroir. Ce qui n’est pas autrement con pour prouver son intelligence. Pensez donc à E.T. [🎥] (tiens, on revient à Spielberg) et à sa façon d’imiter les gestes et les mots d’Elliott (té-lé-pho-ne-maaaaiiii-son) pour nouer le contact.

Pensez également à…

Abyss [🎥], le chef d’oeuvre de James Cameron et à la façon dont là encore les extraterrestres nouent un premier contact avec l’espèce humaine.

Vous vous souvenez ? Le “serpent d’eau” qui arpente - pour ainsi dire - les couloirs de la station sous-marine finit par imiter les expressions du visage de Mary Elizabeth Mastrantonio pour, là encore, nouer contact.

👶 Imitation

On se penchera sur tous les ouvrages de linguistique : la plus sûre méthode pour entrer en contact avec quelqu’un qui ne partage pas votre langage naturel est… l’imitation. C’est de cette façon que les bébés apprennent à dialoguer avec leurs parents. Par imitation. Par réflexion. Par mimétisme.

Rien d’étonnant alors à ce que la technique soit utilisée à tort et à travers par les auteurs et réalisateurs pour imaginer nos premiers contacts avec une civilisation extraterrestre.

Ce qui nous pousse à réfléchir un poil plus loin.

🤖 Singularité

On parle de singularité ? Vous voyez le concept ? C’est ce moment où l’intelligence des machines dépassera l’intelligence des êtres humains et où - suivant les scénarios - celles-ci auront décidé de nous dominer [🐤] ou auront la capacité à innover plus vite encore que le cerveau humain ne pourrait jamais le faire.

Le concept de singularité a encore ses partisans, et pas que dans les arcanes de la science-fiction, et certains croient volontiers que le progrès technologique, s’il n’est pas infini, nous réserve encore de belle surprise, dont l’émergence d’une (ou plusieurs) intelligence(s) artificielle(s) supérieure(s). Ce qui, en aparté, mérite une question : comment cohabiteraient disons 3 intelligences artificielles d’origines différentes - et de conceptions/logiques différentes - sur une planète peuplée d’humains ? Bref.

Je ne discute pas ici le concept même de singularité, mais vous me voyez venir. Partant du principe qu’une réelle intelligence artificielle peut émerger de nos créations, comment celle-ci pourrait se faire connaître et identifier comme telle ?

Comment reconnaître que le moment où la singularité est atteinte ? Que l’intelligence de la Machine a enfin émergée de son gruau de silicone et qu’elle est désormais digne de dialoguer avec nous ? Se pose la question du contact ? Quel peut-être le signal envoyé par un ordinateur pour nous prouver son intelligence ? Pour que nous la reconnaissions ?

La question mérite d’être posée d’une autre façon : pour le concepteur de cette intelligence artificielle, qu’est-ce qui distingue la véritable intelligence du bug ?

On mélangera dans cette réflexion beaucoup de choses et de sources : Ce bot Twitter développé par Microsoft et devenu raciste en quelques jours [📰]. Cet ingénieur viré de Google ayant récemment défendu que l’intelligence artificielle sur laquelle il travaillait était devenue consciente [📰] (tout en gardant en tête que conscience et intelligence sont, bien entendu, deux notions distinctes). Ou encore les tentatives d’utilisation des dauphins par la marine militaire soviétique qui découla sur une prise de conscience de l’intelligence, disons différente, de ces animaux [📄].

Quel serait notre premier Contact avec une intelligence artificielle de notre création ?

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !