CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Humanité

On se demandait dans 👽 Contact - la newsletter d’avant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprès des humains. Serait-elle même capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?

La question de l’intelligence des machines n’a absolument rien de nouveau, ni de récent. On pourrait remonter aux histoires bibliques ou aux contes anciens – ah ouais, tiens, Pinocchio [🎥] – pour voir à quel point la rencontre d’une intelligence extra-humaine est une préoccupation… humaine éternelle. On gardera aussi le mythe de Frankenstein [📗] sous le coude pour l’occasion. Même s’il ne parle pas de machine, il parle de la conscience de ce qui n’est finalement pas, ou plus, humain.

Non, ce que je vous propose, c’est un retour en arrière d’exactement 72 ans, pas plus.

The Imitation Game

En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommé Computing Machinery and Intelligence [📰] dans lequel il pose les bases de son célèbre test : the Imitation Game (nan, pas le film [🎥]).

Est-ce qu’il est réellement utile de revenir sur qui est Alan Turing ? On se contentera ici d’une biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribué, stratégiquement, à l’invention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancées majeures dans le domaine de l’informatique après-guerre. La Wikipedia [📄] ou n’importe quel dictionnaire de l’informatique [📕] vous en dira mille fois plus.

Bref. Alan Turing développe dans cet article l’idée que, dans la mesure où les capacités des ordinateurs sont, théoriquement, infinies, et où le fonctionnement du cerveau humain s’apparente à celui d’un ordinateur – en laissant de côté les questions de perception ou de capacité “physique” (manipulation, déplacement, parole) – il n’y a aucune raison pour qu’une machine ne devienne pas un jour aussi intelligente qu’un être humain. Voire, nous dépasse en capacité.

L’idée de the Imitation Game est en conséquence très simple :

1. Placez dans une salle un être humain que l‘on va appeler l’Enquêteur - The Interrogator dans le texte original.

2. Placez dans une autre salle, isolée visuellement et acoustiquement, une machine, sans informer l’Enquêteur de la nature de cet… être.

3. Demandez à l’enquêteur de questionner, par le biais par exemple d’un clavier et d’un écran, la machine placée dans cette seconde salle.

Si, au bout d’un certain temps de conversation, l’enquêteur est incapable de savoir s’il a en face de lui une machine ou un véritable être humain, alors, la machine a réussi ce qu’on appelle désormais le Test de Turing : elle a fait preuve d’une intelligence qui égale, ou dépasse, celle des êtres humains.

Turing est un test positif. Dans deux sens du terme : d’abord, il sanctionne la capacité d’une machine à réfléchir comme un humain, à franchir une étape dans son développement. C’est un accomplissement ! Ensuite, Turing voit très clairement la réussite de ce test comme un progrès technologique. Ainsi conclut-il son article :

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Pour Alan Turing, les possibilités offertes par l’intelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il n’y a qu’à choisir les domaines d’expertises dans lesquels elles doivent exceller pour les voir dépasser un jour le génie humain, et le surpasser bientôt dans tous les domaines.

Oui, l’idée de singularité [📄] – ce moment où la capacité des machines dépassera celle des humains – est également très présente dans la réflexion de Turing.

Intelligence ou Conscience

Mais attention, Turing se garde bien de mélanger Intelligence et Conscience. C’est d’ailleurs un point parmi les objections qu’il parcourt dans son article.

Il reprend pour cela un texte de Sir Geoffrey Jefferson [📄] : The Mind of Mechanical Man, publié en 1949 [📰]. Dans cet article, le neurologue britannique s’attarde sur le fonctionnement des machines et sur celui du cerveau humain… et estime que si les ordinateurs peuvent copier le fonctionnement de l’être humain, mécaniquement, elles ne peuvent en aucun cas lui être comparées. Il estime que les ordinateurs qui commencent alors à se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que “If the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do already”.

Geoffrey Jefferson met l'humanité, la conscience, dans la capacité d’invention – d’inventer des mots pour décrire des situations inédites par exemple – et surtout dans celle à ressentir. C’est d’ailleurs sa conclusion, citée par Turing lui-même :

No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.

Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans être soi-même à l’intérieur de son cerveau… Il n’y a pas vraiment d’expression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de détecter la conscience des machines. Seulement… leur intelligence.

Et Alan Turing n’interdit tout simplement pas que les machines puisse devenir un jour conscientes.

Le débat reste ouvert.

Voight-Kampff

Heureusement, nous avons un autre test pour repérer les machines. Celui-ci est sorti du cerveau de l’écrivain américain Philip K. Dick et est devenu une icône de la culture SF : le fameux test de Voight-Kampff évoqué dans la nouvelle Do androids dream of electric sheep? (1968) [📘] et mis en scène dans le film Blade Runner de Ridley Scott (1982) [🎥].

Voight-Kampff est un test d’incapacité. Là où the Imitation Game évaluait la capacité d’un être à se comporter comme un humain, Voight-Kampff traque l’échec, l’incapacité d’un être à ressentir des sensations humaines, ou en tout cas à les laisser paraître. Le test évalue les réactions physiques – dilatation de la pupilles, sueurs, frissons… – à différentes situations imaginaires (comme moi, avez-vous été traumatisé par cette question de la tortue bloquée sur le dos pour laquelle, dans le film, l’androïd Léon ne ressent aucune empathie [🎥] ?).

Car c’est bien d’empathie qu’il s’agit ici, de l’incapacité qu’a un robot à ressentir les émotions humaines. Un peu comme l’évoquait déjà Geoffrey Jefferson en 1949. Car si le robot peut imiter l’homme, il ne peut ressentir réellement les choses, et la reproduction mécanique des émotions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. C’est en tout cas à cette conclusion qu’arrive Dick dans sa nouvelle.

Alors bien sûr, l’efficacité du test n’a qu’un temps et les progrès technologiques arriveront bien à créer une machine capable de le déjouer – c’est d’ailleurs toute l’intrigue du livre. Dick l’admet lui-même (sur une traduction de Serge Quadruppani) :

À la longue, bien sûr, le Voight-Kampff se démodera […] mais pas avant un moment.

Et puis, un test basé sur l’empathie est forcément sujet à erreur – c’est encore toute l’intrigue du livre. Là aussi, Dick l’admet longuement, évoquant le sort de schizoïdes ou de schizophrènes humains ayant été reconnus comme des robots (même traduction) :

Le problème n’est pas nouveau. Il existe depuis le premier jour où nous nous sommes heurtés à un androïde cherchant à se faire passer pour un être humain. Vous connaissez aussi bien que moi l’article que Laurie Kampff a publié il y a huit ans et qui résume l’opinion unanime de la police mondiale – Blocage de l’aptitude à adopter un rôle chez le schizophrène intact intellectuellement. Kampff établissait la comparaison entre la diminution des facultés empathiques du patient humain et une absence apparemment similaire […]

Plus grave est alors l’erreur, puisque dans Blade Runner, un échec au test de Voight-Kampff provoque un retrait, une mise hors-service,… la mort.

Empathie

On l’a compris, les deux tests qui nous permettrait aujourd’hui de détecter les robots, ou les humains, ne sont pas équivalents. Et s’ils cherchent à trouver une petite étincelle d’humanité chez les êtres, ils posent encore pas mal de questions : Que faire d’un être numérique sur-intelligent qui réussit le test de Turing mais échoue à Voight-Kampff ? Plus compliqué, comment qualifier un être artificiel qui échoue à démontrer son intelligence lors d’un test de Turing mais parvient à montrer de l’empathie au Voight-Kampff ?

Dans les deux cas, la réponse est dans la tête de l’Enquêteur.

Parce qu’au fond, qu’il soit face à un robot ou non, est-ce que ces tests ne serviraient pas à mesurer le degré d’empathie de l’enquêteur lui-même, et sa capacité à trouver une trace d’humanité dans tous les êtres ?

Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires numériques et technologiques. À chaque billet on divague, on imagine et on n’a pas forcément de réponses. Vous êtes aujourd’hui bientôt prêt de quatre-vingts à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🕹 Invasion

Dans mes toutes dernières lectures, il y a Armada [📗]. Dégoté pour une misère dans un dépôt-vente, comme il se doit. Soyons honnête : ça se lit très vite, sans trop d’appétit, et ça raconte l’histoire d’un gamin qui découvre que les jeux vidéo qu’il vénère depuis toujours ne sont en fait qu’un entraînement mis en place par une agence gouvernementale pour faire face à une véritable invasion extraterrestre.

Voilà. C’est basique et extrêmement hollywoodien. Et ce n’est pas particulièrement surprenant, puisque ce bouquin sorti en 2015 est le second roman d’Ernest Cline, l’auteur du Ready Player One [📕] qui a été porté à l’écran par ne non moins éminent Steven Spielberg [🎥].

Armada est une ode à la science-fiction. On y croise masse de jeux vidéo, bien entendu, mais également de nombreuses références aux films de SF des années 70 et 80 - de Star Wars à Aliens [🎥] et une bande son rock à faire frémir les enceintes de votre petit laptop [💿]. Rien d’étonnant vu le pédigré de son auteur. Ready Player One était déjà une gigantesque ode à la culture Pop, tout ce qu’il fallait pour séduire Steven.

Dans l’océan - la galaxie ? - de références d’Armada, il en est toutefois une parfaitement logique mais que je ne m’attendais pas à croiser.

C’est le Contact de Carl Sagan.

👽 Contact

Vous connaissez Carl Sagan ? Non ? Le bonhomme n’a pas en Europe la notoriété qu’il a de l’autre côté de de l’Atlantique. Astronome de renom, convaincu de l’existence quelque part dans l’Univers d’intelligences extraterrestres, Carl Sagan est l’un des initiateurs du projet SETI [📄], un projet international d’écoute des fréquences radio en provenance de l’espace, destiné à détecter une trace de vie ailleurs que sur notre planète. Le projet, et le sujet, est passionnant et il mériterait qu’on en recause à l’occasion.

Tout scientifique qu’il était, Carl Sagan a également commis un excellent roman de science-fiction nommé Contact [📘] qui relate, comme son nom l’indique, le premier contact de l’humanité avec une civilisation extra-terrestre. Roman qui servira d’ailleurs de base à un superbe film [🎥] de Robert Zemeckis – oui, le même qui voyage dans le temps [🎥], produit par Spielberg, merde, tout se tient ! – avec Jodie Foster en héroïne.

Mais reviendons à ce premier Contact.

☣ ATTENTION SPOILER.

Dans Contact, des radioastronomes sont donc à l’écoute du ciel et captent un beau matin une émission radio d’une provenance inconnue. Décodant cette émission, quelle n’est pas leur surprise d’y trouver des images d’Adolf Hitler, et plus précisément des jeux olympiques de Berlin de 1936.

Carl Sagan explique cela très bien : la retransmission télévisée de ces olympiades est la première émission d’ondes radio, dans toute l’histoire de l’humanité, à avoir été assez puissante pour dépasser l’atmosphère terrestre. Elle est donc potentiellement la première trace de vie terrienne que nos amis extraterrestres ont pu capter.

Hitler en tant qu’ambassadeur, on aura vu mieux.

Le premier contact d’une civilisation extraterrestre avec nous est donc un miroir. Ce qui n’est pas autrement con pour prouver son intelligence. Pensez donc à E.T. [🎥] (tiens, on revient à Spielberg) et à sa façon d’imiter les gestes et les mots d’Elliott (té-lé-pho-ne-maaaaiiii-son) pour nouer le contact.

Pensez également à…

Abyss [🎥], le chef d’oeuvre de James Cameron et à la façon dont là encore les extraterrestres nouent un premier contact avec l’espèce humaine.

Vous vous souvenez ? Le “serpent d’eau” qui arpente - pour ainsi dire - les couloirs de la station sous-marine finit par imiter les expressions du visage de Mary Elizabeth Mastrantonio pour, là encore, nouer contact.

👶 Imitation

On se penchera sur tous les ouvrages de linguistique : la plus sûre méthode pour entrer en contact avec quelqu’un qui ne partage pas votre langage naturel est… l’imitation. C’est de cette façon que les bébés apprennent à dialoguer avec leurs parents. Par imitation. Par réflexion. Par mimétisme.

Rien d’étonnant alors à ce que la technique soit utilisée à tort et à travers par les auteurs et réalisateurs pour imaginer nos premiers contacts avec une civilisation extraterrestre.

Ce qui nous pousse à réfléchir un poil plus loin.

🤖 Singularité

On parle de singularité ? Vous voyez le concept ? C’est ce moment où l’intelligence des machines dépassera l’intelligence des êtres humains et où - suivant les scénarios - celles-ci auront décidé de nous dominer [🐤] ou auront la capacité à innover plus vite encore que le cerveau humain ne pourrait jamais le faire.

Le concept de singularité a encore ses partisans, et pas que dans les arcanes de la science-fiction, et certains croient volontiers que le progrès technologique, s’il n’est pas infini, nous réserve encore de belle surprise, dont l’émergence d’une (ou plusieurs) intelligence(s) artificielle(s) supérieure(s). Ce qui, en aparté, mérite une question : comment cohabiteraient disons 3 intelligences artificielles d’origines différentes - et de conceptions/logiques différentes - sur une planète peuplée d’humains ? Bref.

Je ne discute pas ici le concept même de singularité, mais vous me voyez venir. Partant du principe qu’une réelle intelligence artificielle peut émerger de nos créations, comment celle-ci pourrait se faire connaître et identifier comme telle ?

Comment reconnaître que le moment où la singularité est atteinte ? Que l’intelligence de la Machine a enfin émergée de son gruau de silicone et qu’elle est désormais digne de dialoguer avec nous ? Se pose la question du contact ? Quel peut-être le signal envoyé par un ordinateur pour nous prouver son intelligence ? Pour que nous la reconnaissions ?

La question mérite d’être posée d’une autre façon : pour le concepteur de cette intelligence artificielle, qu’est-ce qui distingue la véritable intelligence du bug ?

On mélangera dans cette réflexion beaucoup de choses et de sources : Ce bot Twitter développé par Microsoft et devenu raciste en quelques jours [📰]. Cet ingénieur viré de Google ayant récemment défendu que l’intelligence artificielle sur laquelle il travaillait était devenue consciente [📰] (tout en gardant en tête que conscience et intelligence sont, bien entendu, deux notions distinctes). Ou encore les tentatives d’utilisation des dauphins par la marine militaire soviétique qui découla sur une prise de conscience de l’intelligence, disons différente, de ces animaux [📄].

Quel serait notre premier Contact avec une intelligence artificielle de notre création ?

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !