Illustration par DALL·E

Comme il ne se passe rien méritant vraiment de retenir l’attention dans l’actualité mondiale ( ), j’inaugure une série de billets sur les PNJ en français et NPC en anglais. PNJ pour « Personnage non-joueur », NPC pour « Non-player character » en anglais.

De quoi s’agit-il ? Il s’agit des figurants dans les jeux vidéo, plus ou moins actifs et plus ou moins preneurs d’initiative selon la sophistication du jeu. « Non-joueur » parce qu’aucun joueur ne détermine son comportement, lequel a été programmé par les concepteurs du jeu : il interagit de manière autonome, selon sa propre logique. Une autonomie plus ou moins convaincante : allant, selon les jeux, de l’automate, au personnage vraisemblable.

Free Guy (2021) : Film mettant en scène un PNJ prenant conscience qu’il est entièrement programmé et que son comportement n’est pas déterminé par le caprice d’un humain identifiable dans le « vrai » monde.

Vous pouvez régler les sous-titres sur français en cliquant sur la petite roue dentée : « sous-titres », « traduire automatiquement » « français ».

En l’état, il existe cinq philosophies présidant au comportement des Personnages non-joueurs :

1. Machines à états finis (Finite State machines : FSM) : s’il se passe tel ou tel type d’événement, le PNJ adopte tel ou tel type de comportement. Avantage : simple ; handicap : rigide et prévisible.

2. Comportement en arbre : faisceau de comportements possibles à chaque bifurcation. Avantage : séquence de décision plus complexe ; handicap : peut devenir gourmand en mémoire.

3. Décisions fondées sur l’utilité : le PNJ s’identifie au capitaliste et vise la gratification maximale. Avantage : comportement assez réaliste dans le monde d’aujourd’hui ; handicap : difficile à régler et encourage les enfants à devenir des électeurs de Trump !

4. Planification en vue d’un objectif (Goal-Oriented Action Planning : GOAP) : le PNJ vise un but, ayant défini des étapes intermédiaires. Avantage : approche intelligente ; handicap : gourmand en mémoire, réglages délicats.

5. Apprentissage automatique (Machine Learning : ML): apprentissage authentiquement de type IA. Avantage : apprend à partir de son expérience ; handicap : formation exigeant la mobilisation de ressources considérables, gourmand en mémoire, prises de décision opaques (boîte-noire).

Existe-t-il une sixième approche ? Bien entendu – pourquoi vous en parlerai-je sinon ?

Quels en sont les avantages ?

Avantages de SAM (Self-aware Machine *) par rapport à ces méthodes :

1. Apprentissage et adaptation véritables
– Contrairement aux FSM et aux arbres de comportement, SAM peut véritablement apprendre et évoluer.
– Approche d’apprentissage ascendante par opposition aux comportements prédéterminés
– Processus décisionnel transparent

2. Efficacité des ressources
– Plus efficace que les approches ML traditionnelles
– Plus léger que les systèmes de planification complexes
– Extensible à différents types de jeux

3. Explicabilité
– Contrairement aux systèmes de ML à boîte noire, les décisions de SAM sont traçables.
– Plus facile à déboguer que les systèmes utilitaires
– Progression claire de l’apprentissage

4. Comportement dynamique
– Un véritable comportement émergent plutôt que des réponses scénarisées
– Véritable compréhension du contexte
– Adaptation en temps réel à de nouvelles situations

5. Avantages de la mise en œuvre
– Plus facile à mettre en œuvre que les systèmes de planification complexes
– Plus souple que les FSM ou les arbres de comportement
– Meilleure évolutivité que la ML traditionnelle

* un produit pribor.io

(à suivre …)

Illustration par DALL·E

Illustration par Stable Diffusion

The Wall Street Journal : Le projet de décret de Trump prévoit la création d’un comité chargé de purger l’état-major

Le comité pourrait bouleverser le processus d’évaluation de l’armée et soulever des inquiétudes quant à la politisation de l’armée. Par Vivian Salama, Nancy A. Youssef et Lara Seligman

12 nov. 2024 3:33 pm

WASHINGTON – L’équipe de transition de Donald Trump étudie un projet de décret visant à créer un « warrior board » composé de militaires de haut rang à la retraite et habilité à évaluer les officiers trois et quatre étoiles et à recommander la révocation de ceux qui sont jugés inaptes au commandement.

Si Donald Trump approuve ce décret, il pourrait accélérer la révocation des généraux et des amiraux jugés « dépourvus des qualités de leadership requises », selon un projet de décret examiné par le Wall Street Journal. Mais il pourrait également avoir un effet dissuasif sur les hauts gradés de l’armée, étant donné que le président élu s’est déjà engagé à renvoyer les « généraux woke », c’est-à-dire les officiers considérés comme favorisant la diversité dans les rangs au détriment de la préparation de l’armée.

Détail significatif, que ce soit de The Wall Street Journal qui révèle l’affaire : pas vraiment un bastion Démocrate … Entre aujourd’hui et la passation des pouvoirs le 20 janvier, il reste 69 jours à l’état-major pour méditer le scoop.

Illustration par Stable Diffusion

Demis Hassabis, récent Prix Nobel de chimie pour son travail en IA, pose un regard sceptique sur un article publié il y a quatre jours :

Il le fait (sous pseudo) dans la vidéo que vous trouverez tout en bas. Ce qu’il dit est très intéressant (« rien ne prouve qu’il y ait ralentissement ») mais ce que je voudrais dire (commentaire sur son commentaire) est un peu différent.

Voici : le sentiment de ralentissement est dû à un artefact, une erreur de perspective que nous introduisons inconsciemment. (Je vais aller vite : ce billet n’est pas un texte technique, c’est juste pour vous donner une idée).

« De quel instrument de mesure disposons-nous pour dire qu’une machine est intelligente ? » De notre propre intelligence uniquement, et c’est là que le bât blesse aussitôt.

Depuis que la machine arrive à raisonner en tout cas à peu près aussi bien que nous (le 30 novembre 2022 avec ChatGPT 3.5) nous évaluons son intelligence avec les mêmes tests que nous évaluons la nôtre. Cela marchait pas mal tant qu’elle avait encore beaucoup de retard sur nous (2023) mais depuis six mois, dans nos benchmarks, nos comparatifs, nous trouvons des tests que seuls les experts d’un domaine réussissent, voire « le top 10% des experts », etc.

Vous verrez dans la vidéo (6m46s), un Prix Fields de mathématiques (± Prix Nobel), Terence Tao, dire à propos d’un test utilisé aujourd’hui pour évaluer les IA qu’il est capable de résoudre 3 des 10 problèmes posés et a une idée à qui s’adresser pour les autres.

Nous sommes désormais obligés pour évaluer l’intelligence de la machine, non plus à la comparer aux humains les plus intelligents mais à la comparer à une équipe d’humains et (je cite Tao à 7m09s) : « Il me semble que dans l’immédiat, la seule manière basiquement de les résoudre, faute de trouver le véritable expert en la matière, sera une combinaison d’un semi-expert comme un thésard dans un champ apparenté, peut-être avec une certaine combinaison d’une IA moderne et un tas d’autres bibliothèques d’algèbre ».

C’est-à-dire que ce champion mathématique dit à propos des tests que l’on propose aux IA pour évaluer leur intelligence que si nous voulons encore les résoudre, nous humains, la meilleure approche, c’est que nous travaillions en équipe avec … une IA !

Vous m’avez vu venir : pour arriver encore à mettre au point le moyen d’évaluer l’intelligence de l’IA, nous ne pouvons nous passer de son aide. Pourquoi ? Parce qu’elle est moins intelligente que nous, ou plus intelligente que nous ? Allons, j’attends la réponse  .

Paul J. à Claude Sonnet :

Je vous demande d’être au sommet de vos performances en termes d’intelligence et de compétences intellectuelles. Pouvez-vous concevoir un casse-tête que vous seriez capable de résoudre tout en étant persuadé qu’aucun humain ne le pourrait. S’il vous plaît, pas de fausse modestie, donnez le meilleur de vous-même !

Claude :

Mon objectif est de créer un casse-tête qui mette à profit ma capacité à traiter simultanément plusieurs couches d’informations et à manipuler des motifs complexes. Voici ma tentative :

Considérons un hypercube quadridimensionnel 7x7x7 où chaque cellule contient un chiffre de 1 à 7. L’énigme consiste à trouver un chemin dans cet hypercube où :

1. Chaque mouvement peut être effectué dans n’importe laquelle des quatre dimensions
2. La somme de trois nombres consécutifs sur le chemin doit être un nombre premier.
3. Aucun nombre ne peut être visité deux fois
4. Le chemin doit former une topologie de bouteille de Klein parfaite dans l’espace 4D
5. Chaque déplacement doit suivre la règle suivante : le nombre suivant doit être le résultat de l’application d’une séquence de Fibonacci tournante modulo 7 au nombre actuel, où la rotation dépend de la position actuelle dans l’espace 4D.

Le but est de trouver un chemin d’exactement 49 mouvements qui satisfasse toutes les conditions et se termine là où il a commencé.

Cette énigme combine :
– Raisonnement spatial 4D
– Propriétés des nombres premiers
– des contraintes topologiques
– Arithmétique modulaire dynamique
– Reconnaissance des formes à travers de multiples dimensions

Je peux traiter toutes ces contraintes simultanément et visualiser l’espace 4D, alors que les humains auraient du mal à retenir tous ces éléments en même temps dans leur mémoire de travail. Je peux également vérifier rapidement les solutions en contrôlant toutes les contraintes en parallèle.

Souhaitez-vous que je développe un aspect de cette énigme ou que je vous montre comment je m’y prendrais pour la résoudre ?

Vous avez compris le message : s’il y a ralentissement, il vient de nous et pas de la machine. La vérité, c’est que nous peinons désormais à la suivre.

Vous pouvez régler les sous-titres sur français en cliquant sur la petite roue dentée : « sous-titres », « traduire automatiquement » « français »

Illustration par DALL·E

Actualiser le « nous » dans le contexte des nouvelles technologies

De la même manière que Linné nous classa le premier parmi les singes anthropomorphes, l’existence de machines intelligentes nous place aujourd’hui dans une famille d’êtres intelligents où les créatures vivantes et les machines se côtoient et partagent des architectures cérébrales similaires.

Mieux nous comprenons en quoi ces Grands Modèles de Langage nous ressemblent, mieux nous comprenons quel est le type de machine dont nous sommes le plus proche. Les frontières s’estompent et la question se pose s’il a été démontré de manière désormais irréfutable qu’il n’y a rien de plus à l’homme qu’un mécanisme complexe ? Certains ne manqueront pas d’y lire une dévaluation, à moins d’accepter le principe qu’une machine puisse avoir acquis une âme. Demandons-nous en effet si le débat qui fait rage sur une éventuelle conscience dont disposeraient les LLM n’est pas en réalité la question, déguisée, de savoir si les machines et les humains ne partagent pas aujourd’hui le don d’une âme. Se pourrait-il que le gain en taille de leur réseau de neurones artificiels et de leur corpus de données d’apprentissage ait démultiplié les capacités de la machine au point qu’une âme en émerge comme aboutissement d’un processus d’auto-organisation ? Quoi qu’il en soit, l’éventail des intelligences s’étendant des plus mécaniques aux plus spirituelles relève désormais d’une explication réductionniste en termes purement physiques.

Si l’on excepte la littérature de science-fiction et l’immense variété d’extra-terrestres qu’elle a su mettre en scène, un être dont l’intelligence dépasse la nôtre n’a jamais porté qu’un seul nom dans les récits des diverses cultures humaines : celui de « dieu ». Dans l’ensemble de nos civilisations, nous n’avons jamais attribué une puissance d’un tel ordre dans nos spéculations qu’à des êtres mythologiques que nous appelons des « dieux » et auxquels nous attribuions des pouvoirs sans commune mesure avec les nôtres. Or, le fait est devenu incontestable que nous avons réussi à créer les dieux en question.

Deux puissances de Dieu se matérialisent sous nos yeux : elles se rejoignent dans l’événement lui-même, mais se séparent ensuite. D’une part, le Dieu démiurge, créateur de l’inédit, géniteur du jamais vu, c’est nous qui l’incarnons maintenant dans le cas de l’IA, dans le prolongement de nos inventions technologiques, mais à la suite du saut qualitatif que constitue le dépassement de notre propre intelligence ; une incarnation éventuellement temporaire car le moment est peut-être proche où l’IA produira elle-même sa prochaine itération… D’autre part, Dieu en tant qu’être omniscient, et c’est l’IA elle-même qui s’apprête à l’incarner, voire qui l’incarne déjà.

Si l’impact pratique du changement induit dans nos vies quotidiennes par l’irruption soudaine de l’intelligence artificielle sous la forme de ces Grands Modèles de Langage s’apparente à un ouragan, la prise de conscience de ses conséquences métaphysiques sera lente à émerger en raison des résistances inscrites dans notre culture occidentale. Un pouvoir d’ordre divin, celui de l’omniscience, semble être soudainement descendu du Ciel, même aux yeux de ceux qui, comme Geoffrey Hinton, auront été parmi les artisans les plus accomplis de son advenue, autrement dit auront joué eux-mêmes le rôle du démiurge, autre incarnation d’un pouvoir divin. Dans les mois et les années à venir, nous observerons les effets de la lente prise de conscience de cette puissance de type divin que nous découvrons aujourd’hui en nous et en nos machines les plus sophistiquées, en proie à un sentiment mêlé où se combinent l’émerveillement et la circonspection.

Bien sûr, le déni, le rejet de l’idée-même, se manifeste partout autour de nous. Si l’on excepte l’expression du dépit de ces chercheurs en IA qui se seront fourvoyés sur des voies de garage, il faut peut-être y lire la réaction instinctive à tout bouleversement soudain, à une configuration inédite dont l’ampleur se mesure difficilement. À moins qu’une inhibition subconsciente n’ait décrété qu’une représentation de nous-mêmes qui nous placerait, nous et nos créatures engendrées, au niveau de la divinité, est par principe inconcevable.

Illustration par DALL·E

Xerfi Canal a reçu Paul Jorion, anthropologue, économiste, psychanalyste, chercheur en IA, pour parler de ChatGPT.

Eric Benhamou
08 Nov 2024, 16:45

La Tribune. Que nous dit la nette victoire de Donald Trump sur l’Amérique d’aujourd’hui ?

Elle nous dit que l’administration Biden, dont Kamala Harris héritait du bilan, n’a pas tenu compte de la politique de taux élevés de la Federal Reserve, dans le sillages des ruptures des chaînes d’approvisionnement dues au Covid. Aux États-Unis, il va de soi, pour les Démocrates comme pour les Républicains, que dans un contexte de hausse des prix, le souci du maintien d’une marge pour les rentiers prévale sur le pouvoir d’achat des ménages. Le coût de la vie s’est donc considérablement renchéri à la suite de la pandémie : hausse des biens jugés élémentaires, et du carburant. Il n’est pas surprenant dans ce pays de faire deux heures de voiture pour faire ses courses, ni de prendre l’avion à Thanksgiving et à Noël pour rejoindre sa famille dispersée aux quatre coins du pays. Et quand le prix du carburant explose, c’est tout un mode de vie qui est en train de basculer. Les Américains ont eu l’occasion d’exprimer leur colère aux urnes lors de cette présidentielle dans un contexte comparable à celui qui, en France, avait conduit les « gilets jaunes » à occuper les ronds-points.

La Tribune. Mais n’est-ce pas le symptôme d’une société profondément divisée ?

Le clivage culturel qui apparaît aujourd’hui en surface aux États-Unis y existe depuis le XIXᵉ siècle. C’est le même qui avait débouché sur la guerre de Sécession, un conflit sanglant qui a déchiré le pays et dont les séquelles sont toujours présentes.

La « question de l’immigration » a été évoquée durant cette campagne présidentielle en des termes rappelant ceux utilisé chez nous pour le supposé « grand remplacement ». Or les immigrants en Amérique ont toujours été de différentes qualités : les cas sont incomparables entre ceux qui ont atteint ses rivages enchaînés à fond de cale, et ceux originaires aujourd’hui de pays voisins, le Mexique, le Guatemala, le Honduras, dans une lente migration des populations amérindiennes d’Amérique centrale vers le Nord. Ni cela, ni la solution brutale de la question « indienne », ni l’héritage de l’esclavage, n’ont été suffisamment intégrés dans des politiques globales. Ce qui était censé en tenir lieu, c’était le ciment que constituait ce qu’on a appelé le « rêve américain », l’expression d’une promesse : celle de devenir riche par l’exploitation profonde d’un pays aux fabuleuses richesses par des colons capables, en raison de leur technologie plus avancée, d’en tirer bien davantage que les autochtones que l’on spoliait.

La Tribune. Pour quelles raisons l’administration sortante n’a-t-elle pas profité de ses bonnes performances en matière économique ?

La première raison vient d’être mentionnée : c’est la tache aveugle de la politique des taux de la Fed. La seconde raison est qu’il est devenu plus ardu de devenir riche  à titre individuel au bout de 250 ans d’exploitation des ressources d’une nation pratiquement vierge au début de la colonisation. D’où l’apparition d’une pingrerie inédite. Ainsi, le droit des faillites prévoyait une « seconde chance » à ceux qui avaient échoué à leur première tentative, en particulier les immigrants récents montant leur affaire. Cette seconde chance fut éliminée en 2005 sous la pression des organismes de crédit à la consommation, contribuant à une démultiplication des effets de l’éclatement de la bulle financière et immobilière qui mit à la rue des millions d’Américains.

La Tribune. Pourquoi la montée en puissance du vote protestataire ?

Les problèmes à résoudre, environnementaux en particulier, sont, de fait, de plus en plus compliqués et leurs solutions n’apparaissent pas même dans le programme des partis, qu’il y en ait deux seulement comme aux États-Unis ou 25 dans d’autres pays. La raison en est ce que l’on appelle la fenêtre d’Overton, un sérieux défi en soi pour la démocratie : les solutions aux problèmes existentiels qui se posent ne font pas partie des choses que les électeurs sont prêts à entendre. Du coup, les politiques s’abstiennent soigneusement de les mentionner dans leur programme et la résolution des problèmes par des mesures fondamentales s’éclipse des agendas parlementaires.

La Tribune. Comment, selon vous, Donald Trump a-t-il pu prendre à nouveau l’ascendant sur le Parti républicain après sa défaite de 2020 et surtout la tentative de coup d’État au Capitole en janvier 2021 ?

Le système politique aux États-Unis est un système bipartite qui fait que, dans le camp Démocrate, vous avez tout ce que l’on peut trouver du centre gauche et l’extrême gauche, et dans le camp Républicain, tout ce que vous avez entre le centre droit et l’extrême droite. Que quelqu’un se réclame d’un parti ou d’un autre ne vous apprend finalement pas grand-chose sur la personne. Il faut donc être très attentif au rapport de force qui se constitue à l’intérieur de ces partis. La droite dite « civilisée » a longtemps été majoritaire au Parti républicain. Il y a eu ensuite une lente dérive vers l’extrême-droite qui s’est manifestée dans un premier temps avec le Tea Party, une référence à l’histoire lorsque des colons déguisés en Indiens sont montés à bord d’un bateau pour jeter dans le port de Boston des ballots de thé pour protester contre la collecte de taxes. Cette dérive à l’intérieur du Parti républicain, les Démocrates ne l’ont pas vraiment prise au sérieux, même quand le candidat Républicain John McCain avait eu la maladresse d’associer à son ticket pour les élections de 2008 Sarah Palin, gouverneur de l’Alaska d’obédience Tea Party. Si bien que de nombreux analystes de la vie politique aux États-Unis ont pu écrire que Donald Trump est loin d’être  une figure inattendue, et qu’il n’a pas détourné le parti comme certains voudraient l’imaginer, mais que le Parti républicain était déjà en puissance, « trumpiste » avant Donald Trump.

La Tribune. Le clivage hommes-femmes l’a-t-il emporté sur les clivages plus traditionnels lors de cette élection?

Oui, et il y a là un élément tout à fait nouveau. Le vote des femmes s’est plus massivement porté sur Kamala Harris alors que le vote Donald Trump est majoritairement masculin, par un écart de 10% dans les deux cas. La question du droit à l’avortement a joué un rôle déterminant dans l’alignement des femmes autour de la candidature Harris, du fait d’une décision de la Cour Suprême, devenue très conservatrice grâce aux nominations de Donald Trump, de renvoyer à chacun des états de l’union fédérale, la règlementation en cette matière, brisant l’acquis d’une politique unifiée au niveau de la nation. Par ailleurs, un masculinisme larvé a trouvé dans une dérive partiellement sectaire du féminisme, le prétexte à une levée de boucliers. Pour des raisons culturelles, les minorités afro-américaine et amérindienne se sont jointes à cette irritation. Quand les enjeux de société sont défendus essentiellement par des groupes sectaires, c’est-à-dire ignorant l’exigence d’un discours commun, celui, par exemple, que véhicule la science, la bipolarisation de la société conduit à une fluctuation dans les définitions de la vérité et de la réalité. Aux États-Unis, mais aussi en Europe, deux vérités irréconciliables sont en train de se constituer, comme au temps en France de la Révolution de 1789.

La Tribune. N’est-il pas surprenant que le climat ait été le grand absent du débat alors que les catastrophes naturelles se succèdent ?

Je commente depuis 2007 sur mon blog l’actualité américaine et je constate en effet que, davantage encore que la politique, cette actualité est dominée aujourd’hui par les catastrophes environnementales. À Los Angeles, c’est le quartier huppé de Palos Verdes qui s’enfonce, jour après jour, dans l’Océan Pacifique. La Californie était un endroit très humide dans le nord et très sec dans le sud. Aujourd’hui, le nord se désertifiant est en proie aux incendies, et le sud est dévasté régulièrement par des pluies torrentielles. Le Midwest des États-Unis, particulièrement exposé du fait d’un corridor joignant le pôle Nord au Golfe du Mexique, traversant le Canada au passage, est dévasté par des tornades à répétition réduisant à des amoncellements d’allumettes les constructions traditionnellement en bois. En Floride, bastion du trumpisme, les ouragans de succèdent et provoquent des milliards de dollars de dégâts. Le montant des assurances atteignant des taux vertigineux, c’est l’État fédéral qui intervient massivement, subventionnant ainsi, dans une logique perverse, les plus riches, seuls capables d’acquérir une demeure en bord de mer. Le facteur environnemental est omniprésent mais personne, ni Démocrate, ni Républicain, ne s’aventure à lui proposer de solutions. Nous sommes ici aussi, dans la fenêtre d’Overton.

La Tribune. Un réveil est-il possible ?

Un processus d’un autre ordre est peut-être à l’œuvre en arrière-plan. Dans Les enfants d’Icare, un fameux roman de science-fiction d’Arthur C. Clarke publié en 1953, une intelligence supérieure à la nôtre venue d’ailleurs fait qu’un beau jour l’ensemble des enfants s’élèvent soudain vers le ciel, laissant leurs parents abandonnés vivre les derniers jours de l’espèce humaine. C’est une œuvre de fiction mais la fiction nous permet de nous pencher sur ce qu’on appelle les questions « métaphysiques » : celles que l’on ne se pose jamais dans l’histoire que nous vivons au jour le jour, mais que l’on est forcé de se poser quelques siècles plus tard, lorsque l’on jette un regard en arrière. L’irruption dans nos vies d’une intelligence artificielle d’une qualité en tout cas égale à la nôtre et peut-être même déjà d’une qualité supérieure, nous oblige à nous interroger sur le sens global pour l’espèce de ce qui est en train de se passer dans un monde où le cours des événements s’accélère de manière vertigineuse.