Illustration par DALL·E à partir du texte.

Le mois dernier (du 6 au 9 avril), j’ai proposé ici une série de 6 billets où je quadriloguais avec GPT-4 et une version dédoublée de Claude 3 à propos de la conjecture P vs NP, une question classique d’informatique théorique relative à la relation – pour autant qu’il en existe une – entre la complexité de la solution d’un problème et la complexité de la vérification qu’une solution a bien été trouvée.

Vous avez sans doute vu ce qui s’est passé : « M. Jorion, votre blog était le lieu de rendez-vous de personnes s’efforçant de résoudre de grands problèmes de société (je vous en remercie !) mais il s’est métamorphosé en un club restreint de mathématiciens fascinés par des casse-têtes abscons. Je vous ai accompagné·e jusqu’ici mais je suis forcé·e aujourd’hui de vous dire adieu : bonne chance à vous dans vos coupages de cheveux en quatre ! ».

J’ai été décontenancé par ces paroles de bon sens, et je n’ai pas publié la suite.

Mal m’en a pris : c’est à ce moment-là que j’ai commencé à recevoir des mails du genre : « M. Jorion, où ailleurs croyez-vous que l’on trouve des discussions – et des avancées – sur des questions véritablement fondamentales comme sur votre blog ? Que vous ont dit ensuite GPT-4 et Claude 3 (je bous d’impatience de l’apprendre !) ? ».

Tout cela pour vous annoncer que je suis allé asticoter mes comparses sur la question de l’émergence.

Vous avez dû comprendre que la chose qui nous sidère dans les progrès des Grands Modèles de Langage (LLM) est le fait que des tas de choses qui nous semblaient absolument distinctes (par exemple : comprendre le sens d’un mot, maîtriser la syntaxe d’une phrase, comprendre le sens global d’une phrase, respecter les règles de la logique, se mettre à la place d’un interlocuteur, exprimer ses sentiments), et pour lesquelles nous avons découvert des règles claires rendant compte de leur fonctionnement séparé, sont en fait acquises « les doigts dans le nez », l’une après l’autre, par ces LLM, pour nulle autre raison que la croissance en taille de leur système.

Toutes ces remarquables capacités émergent, l’une après l’autre, quand on augmente, tout simplement, les moyens à la disposition du système. Nous n’étions pas préparés à penser que l’intelligence émerge spontanément d’un système dès qu’il a atteint une certaine grosseur, nous pensions qu’un ingrédient supplémentaire était indispensable, que nous appelions « complexité ». Que l’intelligence apparaisse comme sous-produit de la complexité, pourquoi pas ? mais de la simple grosseur ! il y avait là comme un éloge intolérable de … l’obésité, qui constituerait une qualité en soi !

Comprenons-nous pourquoi la taille change tout ? Non. Et il n’y a pas de raison de s’en offusquer : quand on passe d’un milliard de données à 100 milliards, on a besoin d’un télescope pour regarder ce qui se passe, et s’armer alors d’un microscope apparaît très logiquement, hors de propos. Claude Roux écrivait ici tout à l’heure : « C’est là qu’est le hic… Personne ne le sait vraiment. »

Mais c’est là aussi que Pribor.io trouve toujours sa raison d’être. Si l’on adopte une approche « bottom-up », du bas vers le haut, par opposition à l’approche « top-down », du haut vers le bas, des LLM, on évite d’être aux abonnés absents quand un effet d’émergence a lieu : il a opéré sous nos yeux et l’on peut dire ce qui s’est passé.

Le logiciel d’IA que j’ai programmé de 1987 à 1990 pour British Telecom s’appelait ANELLA, pour Associative Network with Emergent Logical and Learning Abilities : « … à capacités émergentes de logique et d’apprentissage ». Il m’a fallu les 34 années qui séparent 1990 de 2024 pour comprendre exactement comment la logique émergeait d’une simple suite de mots. C’est qu’il s’agissait du produit d’une alchimie complexe entre l’univers des mots et celui du monde tel qu’il est.

Je vous expliquerai cela un jour prochain, je me contente de vous le résumer aujourd’hui sous une formule sibylline : « Les faits d’émergence ont lieu dans la langue quand nous contraignons tout ce qu’elle permet par ce que le monde interdit lui de son côté ». Exemple : la langue n’interdit pas aux objets de tomber du bas vers le haut, mais le monde lui : Oui ! Lacan (qui se payait notre pomme avec délectation mais avait cependant compris beaucoup de choses) appelait cela « points de capiton », comme dans un matelas : pour que la chaîne des signifiants, les mots mis à la queue-leu-leu, servent à quelque chose, il faut qu’ici et là, ils collent au Réel, à la réalité profonde des choses. Il n’est pas nécessaire que cela ait lieu souvent (le monde étant très généreux envers nous : il nous a offert cette facilité que nous vivions la plupart du temps confortablement dans un nuage), mais il faut que cela ait lieu de temps à autre ici et là.

Ne vous étonnez donc pas si dans la suite de cette nouvelle série, GPT-4, Claude 3, LLaMA 3 et moi, nous nous interrogeons sur l’émergence, en vue de craquer ses mystères. Faites-nous confiance : cela participe de la Singularité et non du coupage de cheveux en quatre dans laquelle l’humanité se complaît depuis qu’ayant inventé le langage, elle ne cesse de … se saouler de mots !

Illustration par DALL·E à partir du texte.

DALL·E : « Voici les illustrations que vous avez demandées. Elles représentent M. Jorion dans son environnement intellectuel, en train de discuter avec des modèles d’IA avancés, entouré d’un mélange d’éléments classiques et modernes. On voit un groupe quitter les lieux, frustré, tandis qu’un autre attend avec impatience de nouvelles discussions sur des questions fondamentales. »

malervy

15 décembre 2023 14h15

Donc, Paul Jorion,
C’est quoi vos pronostics ?
Biden réelu et guerre civile ?
ou Trump réelu et .. la même chose.

Paul Jorion

15 décembre 2023 14h47

Comme c’est parti, guerre civile vers mai/juin. Bien avant les élections.



Illustration par DALL·E à partir du texte.

La bonne nouvelle, c’est que le compte-rendu était excellent. La mauvaise nouvelle, c’est que 13 ans plus tard aucun parti, ni de gauche, ni de droite, ni même du milieu, n’ait repris quoi que ce soit que je recommandais dans son programme. Ce n’est pas grave, je republierai ce compte-rendu tous les 13 ans. Jusqu’à ce que les choses changent !

• Le Monde des livres

« Le Capitalisme à l’agonie », de Paul Jorion : le spectre de Karl Marx

L’auteur déploie une analyse très fine des mécanismes historiques et psychologiques où s’affrontent notamment la liberté et l’égalité, l’éthique et la propriété.

Par Alain Faujas Publié le 07 avril 2011 à 15h28, modifié le 07 avril 2011 à 19h32

Voici un livre au titre sensationnel – Le Capitalisme à l’agonie – qui débute franchement « marxiste » et par la critique implacable de ce qui, selon Paul Jorion, sociologue, spécialiste de la formation des prix et chroniqueur au « Monde Economie », n’est pas « un système économique, mais une tare de notre système économique ».

Il déploie ensuite une analyse très fine des mécanismes historiques et psychologiques où s’affrontent notamment la liberté et l’égalité, l’éthique et la propriété. Mais l’auteur se sépare de Marx et de son spectre en ce qu’il ne distingue pas deux classes d’acteurs (capitaliste et prolétaire), mais quatre : le capitaliste, l’entrepreneur, le salarié et le marchand. Dans la lutte implacable pour la captation du surplus dégagé par leur activité conjointe, c’est le salarié qui perd à tout coup, car l’intérêt versé au capital et les positions de force des trois autres acteurs concentrent peu à peu la richesse et le patrimoine dans les mains d’un tout petit nombre.

Ce n’est donc pas la baisse tendancielle des profits qui tuera le capitalisme, comme le croyait Marx, mais l’accumulation outrancière du capital, car l’intérêt versé aux capitalistes les enrichit toujours plus et les investisseurs substituant les machines au travail, le pouvoir d’achat et la consommation se tarissent. Il ne reste plus que le crédit pour maintenir la demande, jusqu’à ce que le paiement des intérêts de celui-ci achève d’appauvrir la cohorte des salariés. Le jeu s’arrêtera quand il n’y aura plus assez de joueurs.

Faisant un long détour par la crise actuelle qu’il voit comme les prémices de l’effondrement, l’auteur met surtout en pièces la spéculation dont il décrit par le menu les turpitudes et les stupidités, les produits financiers « pourris », les modèles mathématiques et les ordinateurs chargés de grappiller des milliards de centimes en moins d’une seconde en détraquant sciemment l’offre et la demande.

Non, dit Paul Jorion, la spéculation ne met pas de l’huile dans les rouages du marché, comme ses tenants le prétendent, mais elle y met le feu. Parce que les Bourses sont devenues des maisons de jeu légales et dangereuses, peut-on les contraindre pour autant ? Sacrifier la liberté à la vertu ? La propriété à l’éthique ? Le brillant renfort de Marat, Robespierre, Hegel, Freud ou Lacordaire, comme celui de l’anthropologie et de la psychologie des profondeurs ne lui permettent pas de trancher.

Proche de John Maynard Keynes, Paul Jorion s’en distingue en ce qu’il ne croit plus à la possibilité de parvenir au plein-emploi qui remettrait le travailleur au centre et l’économie sur ses pieds. Il appelle donc à « un changement de civilisation ». Pour réussir cette mutation, sa préférence va à l’instauration d’un système « où les revenus proviendraient d’une autre source que le travail », ce qui supposerait la création d’un « revenu minimum universel ». Et ce qui supposerait encore plus une intervention de la puissance publique pour mieux répartir les richesses – sans pour autant tomber dans la dictature – à savoir la fiscalité.

Il énonce quatre principes : « ne pas imposer le travail qui constitue sans conteste l’activité humaine la plus utile et la plus digne d’être encouragée » ; « imposer substantiellement les revenus du capital » (dont les stock- options) ; « imposer de manière dissuasive les gains du jeu » (y compris les opérations financières) ; « éliminer les rentes de situation ». Autrement dit, il n’est point question de révolution, mais de « remettre les compteurs à zéro », de gré ou de force. Le capitalisme n’est pas vraiment à l’agonie, mais il a une fièvre de cheval et Paul Jorion fait partie des médecins qui se pressent à son chevet.

LE CAPITALISME À L’AGONIE

de Paul Jorion. Fayard, 348 p., 20 €.

Alain Faujas

Illustration par DALL·E à partir du texte.

Animation dans l’article de Isomorphic Labs

Bonjour Monsieur Jorion,

Je me permets de vous envoyer ce lien.

Les médias parlent beaucoup (trop) de ChatGPT et des générateurs d’images, mais pas assez des avancées médicales que permet l’IA.

Quand vous parlez de « dieux » à venir avec l’IAG, les avancées de l’IA dans le domaine médical, confirmeront probablement ces prédictions :

AlphaFold 3 prédit la structure et les interactions de toutes les molécules constitutives de la vie – Isomorphic Labs

L’IA semble tout à fait en capacité d’ingurgiter les quantités colossales de données liées aux « mouvements de masse » de humains. Dans un premier temps une nouvelle science qui pourrait en découler serait la prédiction des mouvements de capitaux et donc des variations des bourses mondiales.

L’IA ne serait-elle pas en mesure de prédire les mouvements complexes de décisions des boursicoteurs à travers le monde, rendant le « jeu » de la bourse totalement truqué ? Je pense qu’à l’avenir, les utilisateurs de l’IA dans le domaine de la finance pourraient être poursuivis pour délits d’initiés. Plus largement, le système de financement des entreprises par le système des actions risque d’être fortement perturbé. La chute du capitalisme se fera-t-il pas l’IA ?

Si on avance plus loin dans les projections de l’IA, tel Harry Seldon avec sa « psychohistoire » dans le roman Fondation de Isaac Asimov, pensez-vous que les données concernant de vastes ensembles d’individus puissent prédire certaines actions de ces groupes de personnes ?

Animation dans l’article de Isomorphic Labs

Illustrations par DALL·E (+PJ)

Le contexte d’un commentaire/billet publié précédemment mettant en scène le naufrage du Titanic, comptant plus que pour du beurre, l’argent du beurre… La vision compulsive – diffusée jusqu’à la limite de l’overdose, sans jamais la dépasser, paraît-il, pour tous les batraciens « télégéniques » à qui fut offerte « l’aubaine » d’être « vue à la télé » – sur tous les canaux audiovisuels (de chaînes publiques/privées diffusant de l’info en continu) du débarquement de la flamme olympique à Marseille… et de l’engouement ou envoutement (?) des « foules » s’y amassant… qui m’a inspiré la tragédie de cette situation.

Comme si chacune des chaînes avaient eu sa propre réalité alternative racontant pareil évènement si éphémère, devant éclipser la réalité des faits ordinaires, du quotidien du commun des mortels … bouleversé par les signaux de moins en moins faibles du dérèglement climatique, de l’effondrement politique, démocratique « sociétal » d’un pays… de continents… ce qui me semble avoir rendu spectaculaire dans leurs récits… comme moment « immémorial »… c’est leur constance à avoir encore réussi à paraître soi-disant répondre qu’à la demande des cerveaux reptiliens de « téléspectateurs(trices) ».

Comme si dans la réalité… leurs narrations mythologiques, mystifiées, de cet instant olympique qui n’eut d’intemporel que d’avoir réussi à chasser, un moment durant du moins, d’autres actualités plus dramatiques… de ce monde… comme si ces narrations n’avaient pas cherché en réalité qu’a réécrire l’Histoire, en direct live, accessible en un clic… qu’à réécrire la « légende » quoi… du côté obscur et spectaculaire… d’un orchestre jouant sa dernière symphonie sur le pont d’un navire en perdition…

Illustration par DALL·E (+PJ)

J’ai mis investissements entre guillemets pour tenir compte du fait que rien ne distingue en général les crypto-monnaies de jetons de casino et que dans la langue courante, on n’appelle pas un acheteur de jetons de casino « investisseur » mais « joueur ». Le juge qui a récemment condamné l’ex-patron de FTX, Sam Bankman-Fried, à 25 ans de prison, a fait allusion à l’univers du casino dans sa réponse hier quand on lui a demandé si les remboursements pourraient le conduire à revoir la sentence, quand il a dit : « Un voleur qui emporte son butin à Las Vegas et mise avec succès l’argent volé n’a pas droit à une réduction de peine ».

Et si j’ai écrit que « rien ne distingue en général les crypto-monnaies de jetons de casino », c’est que diverses formules ont été mises au point pour attribuer à certaines de ces cryptos des caractéristiques qui les rapprochent, soit de monnaies, comme la parité avec le dollar dans le cas des « stablecoins », soit d’actions, grâce aux versements de dividendes, comme c’était le cas pour le FTT, la crypto émise par FTX, la défunte bourse de Bankman-Fried.

Qu’est-ce qui a permis au liquidateur, John J. Ray III, autrefois liquidateur de la firme Enron, de récupérer les sous ? Il a commencé par aller voir le cercle rapproché de FTX, dont les parents de Sam, et les a fortement encouragés à contribuer au fonds de soutien des « investisseurs » floués lors de l’effondrement de la firme dans les premiers jours de novembre 2022. Il a ensuite réalisé les investissements de la bourse crypto – de vrais investissements ceux-là – dans des start-ups, dont certains étaient très judicieux, et en particulier celui de FTX dans Anthropic, la compagnie d’IA qui a conçu le Grand Modèle de Langage (LLM) qu’est « Claude 3 ». Le liquidateur a enfin bénéficié du spectaculaire rebond du marché des cryptos depuis novembre 2022, la cote du bitcoin ayant depuis triplé, ce qui lui a permis de liquider le trésor subsistant de FTX en cryptos pour des sommes considérables.

Que faut-il penser de cette troisième source pour se refaire ? Elle souligne que la pyramide a repris des couleurs, que la machine de Ponzi tourne à nouveau à plein régime, et que les nouveaux « investisseurs » permettent aux anciens de sauver leur culotte. Du moins ceux qui avaient mis leur déculottée aux pertes et profits car ceux qui avaient préféré accepter l’offre de fonds-vautours de racheter leurs créances envers FTX pour quelques cents du dollar, ceux-là auront juste contribué à engraisser encore davantage des établissements qui ne le méritent peut-être pas tout à fait (« Dallas, ton univers impitoyable, Dallas, glorifie la loi du plus fort … » )

Rassurez-vous donc braves gens : le casino reste ouvert, les joueurs s’y pressent à nouveau en foule tous les soirs, et j’espère que vous aurez retenu la leçon : si vous êtes ratiboisé la semaine prochaine ou la semaine suivante, tenez-bon car les nouveaux « investisseurs » qui vous renfloueront un jour prochain se pressent déjà au portillon !