CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Théorie

Si vous le voulez bien, on va débuter cette fois avec le philosophe allemand Emmanuel Kant [📄] (1724 - 1804). On ne va pas se pencher sur sa Critique de la Raison Pure [📕] – il est bien trop tôt pour ça – mais sur l’un de ses écrits de jeunesse intitulé Histoire Naturelle Générale et Théorie du Ciel [📘], paru en 1755.

Une petite partie de cette théorie nous permet de tisser des liens avec la science-fiction et les sujets numériques qui nous intéressent tout particulièrement dans CYBERNETRUC! [📧]. Pour ceux qui n’aiment pas particulièrement lire de longs exposés, tout est là, dans un petit fascicule nommé Sur les Extraterrestres [📘] et édité en 2009 par les éditions Manucius [💻] :

Kant se penche, dans ces quelques dizaines de page, sur la possibilité d’une vie sur les autres planètes connues en son temps, en dehors de la Terre. Réflexion logique puisqu’il n’y a véritablement aucune raison, en 1755 comme aujourd’hui, que la Terre soit le seul incident biologique de l’univers et la seule planète sur laquelle les circonstances géographiques et chimiques aient permis l’émergence d’une vie, sans même parler d’une vie intelligente et/ou consciente.

Distance

Kant se base sur les connaissances physiques de son époque pour étayer sa théorie.

• Tout d’abord, l’éloignement d’une planète par rapport au soleil modifie la quantité d’énergie que celle-ci reçoit. Venus est plus chaude que la Terre, Jupiter reçoit moins d’énergie que Mars. Les habitants de ces planètes doivent donc être adaptés à ces circonstances et possèdent bien chacun un métabolisme particulier.
  Face à l’afflux massif d’énergie solaire de Mercure, ses habitants peuvent être grossiers. Nul besoin pour eux d’optimisation de l’énergie reçue, celle-ci est abondante et répond à tous leurs besoins.
  Les habitants de Jupiter, en revanche, doivent être légers, aériens, sans entraves… leur corps optimisés pour se mouvoir en profitant de chacune des parcelles d’énergie reçue du Soleil central.
  Plus une planète est éloignée du Soleil, plus ses habitants sont physiquement parfaits.

• Ensuite, la durée de rotation d’une planète sur son axe influe également le comportement de ses habitants. Sur Terre, jour et nuit se succèdent en vingt-quatre heures. Sur Jupiter, en dix heures seulement.
  Kant évoque, sérieusement ou non, l’hypothèse qu’une journée reste quoi qu’il arrive une journée, sur Mars ou sur Saturne. Et que donc, pour vivre au rythme de journées de dix heures, les habitants de Jupiter doivent être forcément plus agiles, vivaces… optimisés que les imparfaits terriens pour qui vingt-quatre heures est l’échelle de vie.

C’est logique. Les êtres parfaits créés par Dieu, sont habitants de Saturne ou Jupiter, ces planètes géantes des confins de notre système. Plus l’on s’éloigne du Soleil, plus la création touche à la perfection.

Mais Kant développe également son thème en y introduisant une notion de temporalité. C’est tout sauf anecdotique. Tout sauf inintéressant. En effet, rien n’oblige à ce que l’ensemble de ces vies, celles grossières de Venus et celles optimisées et aériennes de Saturne, n’adviennent en même temps. Peut-être ne reste-t-il sur Mercure que ruines et peut-être l’émergence des êtres supérieurs et intelligents de Jupiter n’aura lieu que dans quelques centaines d’années.

Traces

C’est un travers connu de la majorité des œuvres de science-fiction, et de l’ensemble de nos espoirs quant à une prise de contact avec une relation extraterrestre. La rencontre du 3e type [🎥] impose bien entendu que notre civilisation et celle de nos… voisins – quelle que soit leur origine – vivent et aient atteint des niveaux technologiques similaires, ou proches, en même temps. Sans cela, pas de visite des martiens chez H. G. Wells [📗], pas de rencontre dans Armada [📰], pas d’invasion dans Independance Day [🎥] ou Mars Attack [🎥].

Rien. Nulle part.

Ou plutôt. Des traces.

Oui. On peut imaginer une science-fiction archéologique. Elle existe déjà de toutes façons. Une science-fiction dans laquelle les hommes explorant de nouvelles planètes ne découvrent que des ruines de civilisations disparus. Il y a de ça dans le Prometheus de Ridley Scott [🎥] si ma mémoire ne me joue pas des tours. Il y a également un peu de ça dans certaines planche du Metal Hurlant consacré à Mars (le numéro 3 de la nouvelle mouture [📰]).

Il y a également cela, quelque part, dans la bible qu’est le Fondation d’Isaac Asimov [📘]. Même si on n’y parle pas réellement de civilisation extraterrestre, la temporalité y joue un rôle plus qu’important et le débarquement des humains du futur aux alentours de la Terre donne l’idée de ce que pourrait être la prise de contact d’une civilisation extraterrestre avec une humanité… disparue.

Désert

Et c’est là qu’on – que je – voulait(s) en venir.

Une grande partie de la science-fiction d’Isaac Asimov, et des années cinquante au global, garde en toile de fond la peur de la disparition de l’humanité, et plus particulièrement de l’holocauste nucléaire. Lisez, toujours chez Asimov, Aimables Vautours, une nouvelle de 1957, dans le recueil Nine Tomorrows [📘].

Le parallèle avec notre monde actuel est frappant, même si la menace est différente. Aujourd’hui, la crise écologique menace très clairement l’avenir de l’humanité et les questionnements posés par les pères de la SF quant à une Terre sans hommes resurgissent naturellement. Si demain, les extraterrestres débarquent sur une planète sans trace de vie, ce ne sera sans doute pas à cause d’un holocauste atomique, mais plus vraisemblablement du dérèglement climatique que nous n’aurons, ou n’aurons pas voulu, combattre.

Bref.

Une Terre sans humains.

Connaissez-vous Le Temps d’un Souffle, je m’attarde [📘] ? Un court roman signé Roger Zelazny, et datant de 1966. Pilier de la science-fiction lui aussi, Zelazny évoque l’hypothèse d’une race humaine éteinte depuis des siècles et de machines restants autonomes et actives à la surface de la Terre… jusqu’à… ce que l’une de celles-ci n’accèdent à la conscience. À la singularité.

On en revient donc à cette thématique qui nous occupe depuis quelques articles : et si la conjonction de l’inaction climatique et de la course technologique débouchait, de manière coordonnée, sur la fin de l’espèce humaine et dans le même moment, la même étincelle, à la naissance d’une conscience numérique ? Une conscience numérique issue de l’intelligence humaine mais sans contact possible avec elle. Et dont l’environnement ne serait que les vestiges, encore chauds, de notre propre perte.

Vertigineux non ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ?
François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous voilà aujourd’hui un peu plus de quatre-vingt-dix à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

Humanité

On se demandait dans 👽 Contact - la newsletter d’avant - de quelle façon une intelligence artificielle devenue vraiment intelligente, ou consciente, se manifesterait auprès des humains. Serait-elle même capable de se faire entendre et comprendre ? Quel serait le signal de son intelligence ?

La question de l’intelligence des machines n’a absolument rien de nouveau, ni de récent. On pourrait remonter aux histoires bibliques ou aux contes anciens – ah ouais, tiens, Pinocchio [🎥] – pour voir à quel point la rencontre d’une intelligence extra-humaine est une préoccupation… humaine éternelle. On gardera aussi le mythe de Frankenstein [📗] sous le coude pour l’occasion. Même s’il ne parle pas de machine, il parle de la conscience de ce qui n’est finalement pas, ou plus, humain.

Non, ce que je vous propose, c’est un retour en arrière d’exactement 72 ans, pas plus.

The Imitation Game

En octobre 1950, Alan Turing publie dans la revue trimestrielle MIND un article nommé Computing Machinery and Intelligence [📰] dans lequel il pose les bases de son célèbre test : the Imitation Game (nan, pas le film [🎥]).

Est-ce qu’il est réellement utile de revenir sur qui est Alan Turing ? On se contentera ici d’une biographie en trois lignes : Pendant la Seconde Guerre Mondiale, Alan Turing a contribué, stratégiquement, à l’invention des ordinateurs et au cassage des codes de communication allemands. On lui doit des avancées majeures dans le domaine de l’informatique après-guerre. La Wikipedia [📄] ou n’importe quel dictionnaire de l’informatique [📕] vous en dira mille fois plus.

Bref. Alan Turing développe dans cet article l’idée que, dans la mesure où les capacités des ordinateurs sont, théoriquement, infinies, et où le fonctionnement du cerveau humain s’apparente à celui d’un ordinateur – en laissant de côté les questions de perception ou de capacité “physique” (manipulation, déplacement, parole) – il n’y a aucune raison pour qu’une machine ne devienne pas un jour aussi intelligente qu’un être humain. Voire, nous dépasse en capacité.

L’idée de the Imitation Game est en conséquence très simple :

1. Placez dans une salle un être humain que l‘on va appeler l’Enquêteur - The Interrogator dans le texte original.

2. Placez dans une autre salle, isolée visuellement et acoustiquement, une machine, sans informer l’Enquêteur de la nature de cet… être.

3. Demandez à l’enquêteur de questionner, par le biais par exemple d’un clavier et d’un écran, la machine placée dans cette seconde salle.

Si, au bout d’un certain temps de conversation, l’enquêteur est incapable de savoir s’il a en face de lui une machine ou un véritable être humain, alors, la machine a réussi ce qu’on appelle désormais le Test de Turing : elle a fait preuve d’une intelligence qui égale, ou dépasse, celle des êtres humains.

Turing est un test positif. Dans deux sens du terme : d’abord, il sanctionne la capacité d’une machine à réfléchir comme un humain, à franchir une étape dans son développement. C’est un accomplissement ! Ensuite, Turing voit très clairement la réussite de ce test comme un progrès technologique. Ainsi conclut-il son article :

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Pour Alan Turing, les possibilités offertes par l’intelligence des machines, car oui elles deviendront un jour intelligentes, sont innombrables. Il n’y a qu’à choisir les domaines d’expertises dans lesquels elles doivent exceller pour les voir dépasser un jour le génie humain, et le surpasser bientôt dans tous les domaines.

Oui, l’idée de singularité [📄] – ce moment où la capacité des machines dépassera celle des humains – est également très présente dans la réflexion de Turing.

Intelligence ou Conscience

Mais attention, Turing se garde bien de mélanger Intelligence et Conscience. C’est d’ailleurs un point parmi les objections qu’il parcourt dans son article.

Il reprend pour cela un texte de Sir Geoffrey Jefferson [📄] : The Mind of Mechanical Man, publié en 1949 [📰]. Dans cet article, le neurologue britannique s’attarde sur le fonctionnement des machines et sur celui du cerveau humain… et estime que si les ordinateurs peuvent copier le fonctionnement de l’être humain, mécaniquement, elles ne peuvent en aucun cas lui être comparées. Il estime que les ordinateurs qui commencent alors à se sophistiquer soit, tout au plus, des perroquets un peu malins (cleverer parrot), estimant que “If the machine typewrites its answers, the cry may rise that it has learn to write, when in fact it will be doing no more than telegraphic system do already”.

Geoffrey Jefferson met l'humanité, la conscience, dans la capacité d’invention – d’inventer des mots pour décrire des situations inédites par exemple – et surtout dans celle à ressentir. C’est d’ailleurs sa conclusion, citée par Turing lui-même :

No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its success, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.

Turing va un peu plus loin : il est impossible de savoir ce que ressent un humain sans être soi-même à l’intérieur de son cerveau… Il n’y a pas vraiment d’expression externe de la conscience (oui, je simplifie). Aussi le test de Turing, aussi malin soit-il ne permet pas de détecter la conscience des machines. Seulement… leur intelligence.

Et Alan Turing n’interdit tout simplement pas que les machines puisse devenir un jour conscientes.

Le débat reste ouvert.

Voight-Kampff

Heureusement, nous avons un autre test pour repérer les machines. Celui-ci est sorti du cerveau de l’écrivain américain Philip K. Dick et est devenu une icône de la culture SF : le fameux test de Voight-Kampff évoqué dans la nouvelle Do androids dream of electric sheep? (1968) [📘] et mis en scène dans le film Blade Runner de Ridley Scott (1982) [🎥].

Voight-Kampff est un test d’incapacité. Là où the Imitation Game évaluait la capacité d’un être à se comporter comme un humain, Voight-Kampff traque l’échec, l’incapacité d’un être à ressentir des sensations humaines, ou en tout cas à les laisser paraître. Le test évalue les réactions physiques – dilatation de la pupilles, sueurs, frissons… – à différentes situations imaginaires (comme moi, avez-vous été traumatisé par cette question de la tortue bloquée sur le dos pour laquelle, dans le film, l’androïd Léon ne ressent aucune empathie [🎥] ?).

Car c’est bien d’empathie qu’il s’agit ici, de l’incapacité qu’a un robot à ressentir les émotions humaines. Un peu comme l’évoquait déjà Geoffrey Jefferson en 1949. Car si le robot peut imiter l’homme, il ne peut ressentir réellement les choses, et la reproduction mécanique des émotions et des sentiments, et des multiples situations qui leur donnent naissance, a ses limites. C’est en tout cas à cette conclusion qu’arrive Dick dans sa nouvelle.

Alors bien sûr, l’efficacité du test n’a qu’un temps et les progrès technologiques arriveront bien à créer une machine capable de le déjouer – c’est d’ailleurs toute l’intrigue du livre. Dick l’admet lui-même (sur une traduction de Serge Quadruppani) :

À la longue, bien sûr, le Voight-Kampff se démodera […] mais pas avant un moment.

Et puis, un test basé sur l’empathie est forcément sujet à erreur – c’est encore toute l’intrigue du livre. Là aussi, Dick l’admet longuement, évoquant le sort de schizoïdes ou de schizophrènes humains ayant été reconnus comme des robots (même traduction) :

Le problème n’est pas nouveau. Il existe depuis le premier jour où nous nous sommes heurtés à un androïde cherchant à se faire passer pour un être humain. Vous connaissez aussi bien que moi l’article que Laurie Kampff a publié il y a huit ans et qui résume l’opinion unanime de la police mondiale – Blocage de l’aptitude à adopter un rôle chez le schizophrène intact intellectuellement. Kampff établissait la comparaison entre la diminution des facultés empathiques du patient humain et une absence apparemment similaire […]

Plus grave est alors l’erreur, puisque dans Blade Runner, un échec au test de Voight-Kampff provoque un retrait, une mise hors-service,… la mort.

Empathie

On l’a compris, les deux tests qui nous permettrait aujourd’hui de détecter les robots, ou les humains, ne sont pas équivalents. Et s’ils cherchent à trouver une petite étincelle d’humanité chez les êtres, ils posent encore pas mal de questions : Que faire d’un être numérique sur-intelligent qui réussit le test de Turing mais échoue à Voight-Kampff ? Plus compliqué, comment qualifier un être artificiel qui échoue à démontrer son intelligence lors d’un test de Turing mais parvient à montrer de l’empathie au Voight-Kampff ?

Dans les deux cas, la réponse est dans la tête de l’Enquêteur.

Parce qu’au fond, qu’il soit face à un robot ou non, est-ce que ces tests ne serviraient pas à mesurer le degré d’empathie de l’enquêteur lui-même, et sa capacité à trouver une trace d’humanité dans tous les êtres ?

Est-ce que les robots ne seront pas simplement devenus humains quand notre regard sur eux aura changé, au-delà de toute considération mécanique, algorithmique et mathématique ?

Je vous laisse gamberger là-dessus.

Un petit mot à propos de l’auteur ? François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

PS1. Si vous avez aimé cette première expérience, n’hésitez pas à la partager sur les réseaux sociaux ou avec vos contacts :

Share

PS2. Et si vous êtes venu via ces mêmes réseaux sociaux ou via un partage… n’hésitez pas à vous abonner pour recevoir le prochain billet :

Inscrivez-vous maintenant

À la prochaine !