Ah ouais, quand même, on en est là !

À ce point immergé dans notre propre stupidité.

Durant la dernière vague de chaleur, je suis tombé sur un article dans la presse nationale belge vantant les mérites d’une application permettant de mieux survivre à la canicule. Il suffisait d’entrer sa position et quelques données techniques sur son habitation (volume, type d’isolant, exposition…) et l’application vous disait quand ouvrir et fermer vos fenêtres pour garder un maximum de fraîcheur.

Cet article m’a frappé. Ni le journaliste ni l’auteur de l’app ne se rendait compte à quel point le principe était complètement irrémédiablement débile. D’une connerie sans nom.

Car, pour conserver autant que possible la température de votre logement, il suffit de tout fermer quand l’air est plus chaud dehors et de tout ouvrir quand l’air est plus frais dehors. Si vous avez deux thermomètres, le tour est joué.

J’ai beau me creuser la tête, je n’arrive pas à trouver un seul cas de figure différent. Et si un cas très spécifique existe (baie vitrée par exemple), ce n’est pas une app qui va pouvoir vous aider.

Dans l’article, l’auteur de l’application reconnaissait n’avoir aucune formation de développeur et d’avoir « vibecodé » tout le bazar. Lui-même n’a donc aucune idée de comment fonctionne son app, même approximativement. Et le résultat est là : sans avoir testé l’app moi-même, je peux garantir que l’app ne fonctionne pas, qu’elle ne fait qu’afficher des recommandations purement aléatoires.

Et le journaliste ne s’est posé aucune question.

Ah ouais, quand même, on en est là !

Un outil pour les idiots

Si le créateur de l’app avait été un entrepreneur et avait engagé un développeur, il aurait été forcé de se confronter à des questions telles que « sur quelles bases scientifiques nous basons-nous pour le calcul ? ». Mais, grâce aux chatbots, plus besoin de cela. On peut désormais faire semblant de réaliser nos idées les plus stupides sans garde-fou. Je dis bien « faire semblant » car, comme le prouve l’exemple, au final cela ne marche pas.

Comme le dit Cory Doctorow: les patrons adorent les chatbots non parce qu’ils font le travail, mais parce qu’ils disent toujours oui et trouvent toutes vos idées géniales. C’est peut-être pour ça que je n’aime pas les chatbots: quand quelqu’un trouve toutes mes idées géniales, je me dis qu’il réfléchit encore moins que moi au sujet !

Un autre cas avait fait le buzz : une personne qui avait patiemment développé une app à travers ChatGPT, pendant des semaines. App qu’elle demandait à ChatGPT de faire tourner pour la déboguer à travers des captures d’écran générées par ChatGPT. Au final, quand cette personne avait voulu accéder au code source, ChatGPT avait fini par reconnaître qu’il n’y avait pas d’app, pas de code source, que tout était inventé en direct.

Cory Doctorow a mis le doigt sur un point crucial de cette bulle IA : si les chatbots devaient soudainement disparaître demain, rien ne changerait à part quelques collégiens qui devraient réapprendre à copier les uns sur les autres pour leurs devoirs. Les états s’empressent de vouloir développer une « IA souveraine », mais si demain Trump bloquait ChatGPT et Claude dans toute l’Europe, l’impact serait nul. Voire positifs argueront certains.

• Pluralistic: Why businesses lie about AI (01 Aug 2026) (pluralistic.net)

Comparez cela au chaos total si, soudainement, Trump bloquait Outlook, Whatsapp ou Gmail dans toute l’Europe.

Non, l’IA n’est pas la nouvelle bulle Internet

Comme le dit Cory, la bulle Internet s’est construite sur des employés qui voulaient utiliser Internet pour être plus efficaces alors que leurs patrons leur interdisaient. Des milliers de nouvelles entreprises apparaissaient chaque jour pour tenter de coloniser ce nouvel espace. La bulle IA, au contraire, est imposée par les patrons et j’ai déjà entendu de première main des témoignages de gens qui prétendent que le code qu’ils ont écrit manuellement a été généré, juste pour faire plaisir à leur boss. Certains des employés m’ont personnellement raconté faire tourner les chatbots sur des questions sans intérêt juste pour montrer à leur patron qu’ils ont utilisé des tokens.

Une personne a même reçu une réprimande pour n’avoir pas utilisé assez de tokens. Donc pour avoir fait son travail en utilisant moins d’argent que prévu.

Ah ouais, quand même, on en est là !

Et, malgré tout le ramdam, nous n’avons pas encore la moindre success-story d’une entreprise qui aurait fait fortune grâce à un produit au moins partiellement conçu par l’IA.

Si l’IA était une ruée vers l’or, des milliards seraient utilisés pour nous convaincre que les nouvelles pelles intelligentes sont la panacée, les blogs seraient remplis de témoignages comme quoi la pelle intelligente fait vraiment gagner du temps pour planter ses bégonias dans son jardin de banlieue, mais personne n’aurait encore trouvé la moindre pépite d’or. Toute la bulle tiendrait sur le fait que « Vu comme on creuse, on va forcément trouver de l’or et si un jour on trouve de l’or, mieux vaut être habitué à utiliser une Pelle Intelligente (TM) pour en profiter ».

Chose marrante, certains patrons qui poussent l’utilisation de l’IA commencent à se demander pourquoi leurs employés font de la merde.

• Shopify CEO Who Pushed Staff to Use AI Is Now Horrified by What He's Wrought (futurism.com)

Le culte de l’idée

Le problème majeur, je l’ai déjà expliqué, c’est que nous sommes biberonnés au concept de « La grande idée ». Il n’est pas un film d’action, d’aventures ou d’espionnage qui ne repose sur la découverte ou le vol d’un objet représentant « une grande idèe ». Hitchock appelle d’ailleurs ces objets des « McGuffin ».

• De la mystification de la Grande Idée (ploum.net)

Or, je me répète, l’idée seule ne vaut rien. Strictement rien ! Et une idée doit être confrontée, discutée, mise en balance pour s’affiner, se transformer et, après bien des efforts, exister.

Comme le soulignait très bien Marcello Vitali-Rosati dans « Éloge du bug », cette croyance imprègne la philosophie occidentale depuis Platon : il y a les penseurs-décideurs et les exécutants. Rien d’étonnant donc qu’un produit qui vous fait croire que vous êtes un décideur avec accès à une puissance d’exécution ait du succès. Marcello compare cette croyance au génie de la lampe d’Alladin qui, sous prétexte d’obéir à Alladin, le manipule en réalité à sa guise.

• Qu’est-ce que l’outil va faire de moi ? (ploum.net)

Décrire une idée dans ses moindres détails revient, en réalité, à la réaliser. Il est tellement compliqué de faire des spécifications exactes d’un logiciel qu’on a littéralement inventé des règles pour traduire ces spécifications en langage machine. Cela s’appelle « un langage de programmation ». Et si vous n’êtes pas capable de programmer, vous n’êtes tout simplement pas compétent pour demander à un chatbot de le faire à votre place.

Cela fait 60 ans que nous avons des langages de programmation, cela fait 60 ans que l’on tente de trouver un moyen de se passer des programmeurs (genre avec des schémas graphiques, avec des "langages de spécification"). Mais c’est impossible : les idées humaines sont par définition imprécises et floues, un ordinateur ne peut pas faire quelque chose de précis à partir d’idées floues.

Les chatbots sont un produit qui prétend réaliser votre idée sans la discuter, en acceptant tout. Les chatbots sont donc, essentiellement, une arnaque parfaite pour ce que Ed Zitron appelle les « business idiots » et que j’appelle les « Juliuses ».

• Mon collègue Julius (ploum.net)

Le résultat issu d’un chatbot est soit non-fonctionnel, ce qui est parfois marrant, soit fonctionnel, ce qui est terrifiant. Parce que cela signifie que des centaines voire des milliers de décisions n’ont pas été prises. Les choix que vous n’avez pas vus ont été aléatoirement faits par le génie d’Alladin, un algorithme opaque d’une grande entreprise américaine. Si cela ne vous terrifie pas, c’est que vous n’y avez pas réfléchi assez.

Des outils incompétents pour personnes compétentes

Nombre de projets Open Source que je fréquente sont désormais envahis de contributions générées par chatbots. J’ai été témoin d’un pseudocontributeur qui disait, en substance « voici un patch pour corriger le bug XXX. Je l’ai généré et n’étant pas codeur, je n’ai pas la compétence de savoir s’il fonctionne ».

Reconnaissons à cette personne d’être honnête et transparente. Mais si j’avais cette personne en face de moi, j’aurais envie de lui demander si elle avait réfléchi deux minutes à ce qu’elle fait. Quelle est la valeur qu’elle espère ajouter au projet ? Si résoudre le bug était juste une question de demander un patch à un chatbot, ne serait-ce pas fait depuis longtemps ?

Ah ouais, quand même, on en est là !

Il faut être honnête : j’ai été témoin de cas où je reconnais l’utilité des chatbots. Mais, sans exception, il s’agissait à chaque fois d’une personne compétente. D’une personne qui aurait pu réaliser le travail sans chatbot et a réussi à gagner un peu de temps. De l’ordre de quelques minutes à quelques jours selon ses dires. Sûrement moins, mais passons…

• AI Isn’t Breaking Work. It’s Already Broken. (calnewport.com)

Dans 100% des cas que j’ai entendus, il faut préciser qu’il s’agissait soit de prototypage très expérimental, soit de réaliser une tâche parfaitement absurde, mais administrativement nécessaire. J’ai moi-même codé, à la main, un générateur aléatoire de timesheets lorsque j’ai été soumis à ce régime.

Force est de constater que si vous vous posez la question de développer une app et que vous n’avez pas envie de concevoir un prototype, un petit test vibecodé pourrait éventuellement vous permettre de "tester".

Mais comme le démontre amplement l’exemple de l’application anti-canicule, même le prototypage nécessite un minimum de compréhension du problème, de compétence, bref, d’intelligence.

L’effet Tetris

Une intelligence qui nécessite de l’attention, de la concentration.

Vous vous souvenez de vos heures passées à jouer à Tetris ? Le soir, en vous endormant, est-ce que vous ne voyiez pas des pièces tomber devant vos yeux ? Moi j’ai eu ça très fort en jouant à démineur sur mon 386 et en écoutant en boucle un CD de 2unlimited (oui, je sais, mais il y a prescription). Lorsque j’entends 2unlimited aujourd’hui, 35 ans plus tard, je revois des carrés de démineur devant mes yeux.

Ce que nous apprend cette expérience c’est à quel point notre cerveau est déformé par ce à quoi nous donnons notre temps et notre attention. Ce qui peut être une bonne chose lorsque c’est intentionnel.

Mais la notification qui vient de vous interrompre est-elle intentionnelle ? La 7ème vidéo Youtube que vous regardez durant votre « pause » est-elle intentionnelle ? Et ce n’est pas parce que c’est libre que c’est mieux. Ce enième toot mastodon sur le réchauffement climatique est-il intentionnel ?

Non ? Pourtant, il déforme votre cerveau comme le faisait Tetris ou chez moi, démineur…

• Attention is all you have (alicegg.tech)

Du coup, je n’ose pas imaginer l’état du cerveau des gens qui chattent avec une IA toute la journée, ne s’interrompant que pour les notifications de leur smartphone. Surtout si ces personnes ont du pouvoir.

Ah ouais, peut‑être que ça explique pourquoi on en est là !

• Photo par Basile Morin

Fuir le numérique ou bien le reconquérir ?

Le numérique est-il intrinsèquement mauvais ?

Comme le souligne Sandra, le minimalisme numérique ne vient pas du fait que le numérique soit mauvais en soi, mais juste qu’on a réussi à le rendre le pire possible sur tous les niveaux. Au niveau physique : on fait tout sur un petit écran trop brillant sans aucune sensation tactile et qui nous force à plier la nuque, au niveau psychologique avec l’addiction et l’optimisation pour les pertes de temps ainsi qu’au niveau économique : votre smartphone ne vous appartient pas vraiment, vous n’avez aucun contrôle dessus et, pire, il sert à vous espionner. Et vous allez racheter exactement le même rectangle noir tous les ans ou tous les deux ans.

• Minimalism vs Digital Minimalism (idiomdrottning.org)

Car comme le dit très bien Solderpunk, le créateur du protocole Gemini, nous croulons sous les appareils électroniques de mauvaise qualité qui envoyés au rebut (ou dans un tiroir) parce que « plus supporté par la société qui les a produit ».

Le contrôle de nos appareils nous pousse à en racheter de nouveaux, mais modifie également nos pensées au point de considérer que s’il n’y a plus de mise à jour, l’appareil se transforme soudain en presse-papier. Nous sommes tellement formatés à obéir aux grandes entreprises que nous en perdons toute créativité et toute compétence réelle avec des appareils qui sont des miracles de technologie.

• Lateral Thinking with Withered Technology (solderpunk)

Des miracles de la technologie qui fonctionne contre nous et non pas pour nous.

CodeTiger achète un robot « intelligent » et décide de bloquer l’envoi de données vers le fabricant. Ce qui entraîne à chaque fois une panne après quelque jour. Fâché, iel décide d’investiguer les entrailles de l’appareil : le robot est en fait un ordinateur tournant sous Linux qui envoie toutes ses données au fabricant, y compris la configuration de la maison, les habitudes des occupants, les codes wifi. On s’y attendait un peu. Mais, en plus, il est piloté à distance !

Une fois qu’il cesse d’envoyer ses données, quelqu’un envoie une commande pour désactiver l’appareil volontairement !

• The Day My Smart Vacuum Turned Against Me (codetiger.in)

Note: l’immonde illustration générée n’existait pas lorsque j’ai bookmarké ce site.

La fuite ?

Ce n’est pas un hasard si de plus en plus d’experts du numérique se tournent vers le retrocomputing ou le technopunk.

• La complainte du technopunk ringard (ploum.net)
• Un manifeste Offpunk (ploum.net)

Par exemple, le vénérable et très minimaliste navigateur web Dillo, relancé en 2024, après une petite décennie d’abandon.

Mais à quoi peut servir un navigateur qui ne supporte pas le JavaScript ? Bobby Hiltz explique comment il s’est mis à l’utiliser de plus en plus pour faire des recherches, lire les blogs et même écouter de la musique sur Bandcamp !

• Dillo Web Browser (bobbyhiltz.com)

Et non, ça ne scale pas. Le technopunk s’en fout de la mise à l’échelle ou de convaincre les investisseurs, il veut juste que ça fonctionne pour lui et ses potes.

• Against scale (tante.cc)

Cette même population fuit également de plus en plus la nocivité intrinsèque des réseaux sociaux.

Car suivre nos proches sur les réseaux sociaux serait en fait une mauvaise idée. Si les réseaux peuvent rapprocher des inconnus aux intérêts similaires, ce qu’ils ont fait à leurs débuts, ils peuvent également éloigner des gens proches dont les intérêts spécifiques ou les opinions diffèrent. Ils emprisonnent des groupes d’humains pleins d’énergie et de motivation dans un carcan consumériste (dédicace aux groupes Facebook qui se disent "anticapitalistes").

• Du risque de transformer nos amitiés IRL en relations parasociales (lalunemauve.fr)

Alors, certes, quitter Whatsapp n’est pas évident. Mais c’est possible.

• Résolution de la rentrée : quitter WhatsApp (www.baudelot.eu)

C’est par contre plus facile de quitter X…

C’est marrant, car ça me fait penser à ma nouvelle humoristique « Le dernier espoir » dans laquelle je mets justement en scène un handicapé numérique qui tente de lutter contre l’espionnage de toutes ces plateformes alors que sa famille essaye de le convaincre de les rejoindre. La nouvelle est dans le recueil « Stagiaire au spatioport Omega 3000 et autres joyeusetés que nous réserve le futur », disponible dans toutes les bonnes librairies, sur le site de l’éditeur (sans DRM) ou dans les archives d’Anna la pirate.

• Stagiaire au spatioport Omega 3000 (pvh-editions.com)

Un problème politique et social

Le pire, c’est qu’on ne vous ment (presque) pas : tout est dans les conditions que vous avez acceptées.

Nicolas Vivant insiste sur ce point : en cliquant "J’accepte", nous marquons notre accord pour être espionnés, mais, également, nous prétendons avoir l’accord de nos amis pour qu’elleux soient espionnés.

C’est notamment le cas de Whatsapp qui envoie toutes les infos de votre carnet d’adresses à Meta.

• Nous ne lisons pas les conditions d’utilisation, et c’est problématique (grenoble.ninja)

Bien que n’ayant plus de compte Meta sous quelque forme que ce soit, il existe un profil avec mon numéro de téléphone, tous les noms sous lesquels je suis renseigné dans les carnets d’adresses, un graphe de contacts qui permet de me situer précisément dans le tissu social. Sans compter les infos que j’ai données lorsque j’étais jeune et naẗf.

• Le suicide de mon compte WhatsApp (ploum.net)

Le plus effrayant, c’est que le fait que j’aie supprimé tous mes comptes doit certainement me faire apparaître dans une liste particulière qui peut-être utilisée pour tenter de me cibler avec des pubs qui vont me convaincre, puis pour s’assurer de me pourrir subtilement la vie et, enfin, pour me mettre sur la liste de "potentiels terroristes" le jour où le gouvernement de mon pays se mettra à suivre cette mode mondiale du fascisme.

Si j’étais Meta, par exemple, et que j’avais des infos sur un "réfractaire" à Meta et Google, je demanderais à Google de faire en sorte que les messages qu’il envoie via SMS se perdent un peu plus souvent. Que ses appels sonnent un peu plus dans le vide.

Nicolas oublie de préciser qu’il avait été estimé que si nous devions lire les conditions d’utilisation de tous les logiciels que nous utilisons, et leur mise à jour, 24h par jour n’y suffirait pas. L’acceptation des conditions d’utilisation est donc une pure fiction.

Le problème n’est donc pas que nous ne lisons pas les conditions d’utilisation. Le problème est que cette fiction permet aux entreprises de faire n’importe quoi. « Bien sûr que nous allons enlever son premier né pour boire son sang ! L’utilisateur a accepté ! »

Et il suffit d’une seule personne dans vos cercles sociaux qui accepte ces conditions en votre nom pour vous faire espionner.

Autrement dit, ce n’est pas de la faute de l’individu, c’est un problème 100% politique.

La preuve, c’est l’impact qu’a eu le RGPD dans le monde. Alors, certes, il n’est pas idéal et, en réalité, ne fonctionne pas vraiment.

• GDPR is a failure (nikolak.com)

Mais, quand même, le fait que tout le monde déteste le GDPR est un signe que c’est un pas dans la bonne direction. Il ne fonctionne pas vraiment, mais il fait très très peur aux grandes entreprises.

• matduggan.com

Reconquérir notre indépendance

Il est temps de réactiver vos comptes "indépendants" que vous n’utilisez pas, car "moins facile", "moins de personnes", "moins de dopamine",… Votre site perso, votre compte sur le Fediverse, vos expérimentations sur Gopher ou Gemini…

• Eternal 2020 (or not) (midnight.pub)
• Creating a Blog in Gemini:// (brennan.day)

Et surtout, de le faire avec vos petites mains, votre petit cerveau et toutes vos maladresses humaines.

Car quand vous publiez un billet de blog ou un post sur les réseaux sociaux qui a été généré par un chatbot, vos lecteurs s’en rendent compte. Très vite. Et ils arrêtent de vous lire instantanément. Et ils arrêtent de vous lire pour toujours.

Croire que ça ne se voit pas, c’est comme un fumeur qui pense que parce qu’il a éteint sa clope avant de rentrer dans une pièce, il n’empeste pas. C’est juste que le monde autour de vous est juste trop poli pour vous le dire franchement.

Comme le dit Bryan Cantrill, si vous pensez que personne ne va le remarquer, c’est que soit vous n’avez pas lu vous-même ce que vous postez, soit vous êtes devenu tellement incompétent en termes de lecture (pas d’écriture, de lecture) que vous n’êtes plus capable de lire correctement.

• The revolt of the reader (bcantrill.dtrace.org)

Comme je le disais, si vous ne prenez pas le temps de l’écrire, pourquoi devrais-je prendre le temps de le lire ?

• Soyez humains, communiquez ! (ploum.net)

Et si il n’y que la « performance » qui compte pour vous, vous êtes en train de détruire votre réputation. Pareil avec les illustrations générées. Le moteur de recherche Kagi permet de signaler les contenus qui sont du « slop » de manière à les cacher. Petit à petit des réseaux vont se mettre en place pour exclure les contenus générés. Et la réputation que vous êtes en train de construire aujourd’hui aura un effet demain. Plus vite que vous ne le pensez…

J’utilise personnellement le filtre AI Blacklist pour uBlock Origin. Il m’a arrêté bien des fois lorsque je suivais un lien. Et vous savez quoi? Je ne l’ai jamais regretté jusqu’à présent !

• AI uBlock Origin Blacklist (github.com)

D’ailleurs, il est grand temps de mettre vos filtres uBlock à jour vu qu’OpenAI tente désormais d’espionner votre comportement en ligne, même si vous êtes déconnecté de votre compte ChatGPT. J’avoue être bien content de n’en avoir jamais créé, même « pour tester ».

• ChatGPT now knows what you do on other websites via ad collector (www.buchodi.com)

Évitez le slop, évitez d’en générer et tentez de créer et de communiquer le plus loin possible des grandes plateformes privatrices. Bref, cultivez votre indépendance !

Vous allez voir, on y prend vite goût !

• Illustration : La Liberté guidant le peuple, de Delacroix

Soyez humains, communiquez !

Pourquoi le moindre humain écrira toujours mieux que le chatbot le plus perfectionné.

Dans ma vie, j’ai écrit plusieurs millions de mots, sur des myriades de sujets et pour des dizaines ou des centaines d’audiences différentes. Rien que ce blog en fait 250.000. J’estime également en lire plusieurs millions chaque année.

Bref, j’ai une relation profonde et intime avec l’écriture et la lecture. C’est ma passion, mon métier et même une manière de vivre. Je suis capable, en me concentrant, de lire particulièrement vite. À une époque, je pouvais lire "photographiquement". De même, j’ai l’écriture très facile. Lancez-moi sur un sujet et je peux discourir pendant des pages et des pages sans effort.

À celleux qui me demandent comment écrire, je n’ai qu’un conseil : réduisez la friction entre votre cerveau et les mots en apprenant la dactylo (mes passages au Bépo puis à Ergol ont été des étapes incroyables dans mon processus d’écriture). Pour le reste, il suffit de prendre goût au fait d’écrire.

• Le bépo sur le bout des doigts (ploum.net)
• Ergo‑L (ergol.org)

Écrire c’est très facile si on accepte de se laisser aller, si on prend confiance en soi.

Essayez, vous verrez !

La concision fait la qualité de l’écriture

Bien écrire, c’est évidemment beaucoup plus difficile, en tout cas pour moi. Mais l’essence de « bien écrire » est très simple. Il faut que chaque mot ait une utilité.

Bien écrire, ce n’est pas écrire beaucoup. Au contraire ! Bien écrire, c’est couper, supprimer pour aller à l’essentiel. Chaque mot doit être une manière d’amener subtilement votre idée, votre émotion, votre raison d’écrire à se clarifier dans votre cerveau et dans celui du lecteur. L’écriture est une forme de télépathie. La qualité de l’écriture est la mise au point, la netteté.

C’est la raison pour laquelle les textes générés par chatbots/IA/pouetpouetGPT me sont insupportables. Ils sont creux, longs, verbeux.

Même les résumés automatiques sont une catastrophe. Ils trahissent le cheminement de l’auteur, ils se trompent régulièrement sur les points subtils, mais cruciaux et, comble de la bêtise, ils sont souvent plus longs que le texte original qu’ils sont censés résumer. Un résumé ou un surlignage est intrinsèquement personnel. Il doit vous permettre de vous rappeler votre expérience de lecture.

Et ce n’est pas une question de qualité du modèle. Non PouetPouetGPT 42.3 n’est pas révolutionnaire ! Il ne peut pas l’être.

Parce qu’il ne peut pas inventer l’information. Il ne fait que diluer le prompt que vous lui donnez, le mettre en forme selon ses standards, l’agglomérer à des milliards de statistiques. Mais il ne peut pas lire dans vos pensées et deviner ce que vous voulez me dire.

Le message utile sera toujours plus court que le prompt pour l’obtenir

Si vous demandez à PouetPouetGPT d’envoyer un mail à Ploum pour savoir comment il va, la seule information valable, la seule écriture qualitative est: 

Salut, Ploum, comment ça va ?

Tout le reste n’est que du bruit. De la mauvaise écriture (et je m’y connais en mauvaise écriture). C’est juste que la mise en page, l’orthographe, le respect de certains styles peuvent donner l’apparence que c’est « bien écrit ». Ça ne l’est pas. Ça ne le sera jamais parce que « bien écrire » c’est avant tout « bien communiquer ». Et rajouter du bruit ne permet pas de bien communiquer.

L’équation est simple : un message bien écrit sera toujours plus court que le prompt équivalent. Les agents d’aide à l’écriture exploitent le manque de confiance. « J’écris mal, je vais demander à l’IA ». L’apparence du résultat fera encore plus baisser l’estime de l’auteur qui, pour couronner le tout, pratiquera de moins en moins l’écriture et sera de moins en moins au clair avec ses propres idées.

• Ne rien avoir à penser (ploum.net)

Imaginez une conversation téléphonique. Le réseau est mauvais. On vous entend mal. Vous décidez alors de mettre de la musique à fond en arrière-plan parce que la musique est jolie. Avez-vous amélioré votre capacité à communiquer ?

Et, surtout, pensez-vous que c’est respectueux de votre interlocuteur ?

Lorsque l’écriture n’est plus le fruit d’un effort intellectuel

Jusqu’il y a peu, lorsque je tombais sur un billet de blog, lorsque je recevais un email, je partais du principe qu’un humain avait fait l’effort de l’écrire. Je faisais donc l’effort de le lire, au moins rapidement. J’abordais tout texte avec cette question en tête : « Qu’est-ce que l’auteur essaye de me dire ? »

Ce n’est aujourd’hui plus le cas. Je dois traiter chaque email, chaque site web inconnu comme étant potentiellement généré et n’ayant demandé aucun effort humain. Dans le doute, je vais désormais m’abstenir de lire et de répondre. Après tout, si vous n’avez pas pris le temps de l’écrire, je prends comme une insulte que vous pensiez que je puisse prendre le temps de lire.

• I Don’t Want to Interact With Stochastic Parrots (ploum.net)

Bien entendu, je n’ai pas de détecteur IA parfait. Je me fie à mon instinct. Mais, comme je l’ai dit en introduction, celui-ci est particulièrement développé pour l’écrit. Un message qui porte une énorme attention au style, à l’orthographe, qui est long, mais qui est particulièrement pauvre en information est soit généré, soit écrit par quelqu’un qui fait du remplissage et ne vaut guère mieux (typiquement, un marketeux).

Mon expérience de prof joue aussi peut-être : les textes générés ressemblent de manière frappante aux examens que je fais passer à des étudiants qui ont beaucoup de charisme, mais qui n’ont rien compris. Ils brodent, tournent autour du pot, tentent de camoufler leur ignorance avec une assurance déconcertante. Mais aucun prof ne s’y trompe : l’étudiant sera recalé ! Et encore plus sévèrement que l’étudiant qui avoue son ignorance de manière transparente.

Un humain qui écrit très peu et a du mal à structurer ses idées ne fera pas autant d’efforts pour faire "de belles phrases" bien creuses. Ça n’a aucun sens ! Au contraire, les personnes les moins à l’aise avec l’écriture ont tendance, malgré leurs maladresses de style bien excusables, à donner beaucoup d’informations, à avoir envie d’exprimer des choses.

Et, oui, vous pourriez certainement générer un message qui me tromperait. C’est peut-être déjà arrivé. Mais, pour être sûr de votre coup, générer le prompt vous demandera sans doute beaucoup plus de travail que d’écrire le message directement. Ce qui est fondamentalement stupide, non ? Quelle est la finalité de tout ça ? À un certain point, votre grossièreté devient de la malveillance.

De nos belles et humaines maladresses

La maladroite phrase d’une personne à peine lettrée aura toujours plus de valeur, sera toujours une meilleure manière de communiquer que l’apparence formelle d’un message généré. Et même le modèle PouetPouetGPT le plus parfait au monde ne pourra jamais rien y changer.

Si vous pensez que la version 42.3 s’est justement grandement améliorée, que je devrais tester, c’est juste que vous vous êtes habitué à l’outil, que vous cédez à la normalisation, que vous avez atteint votre propre seuil d’incompétence. Que vous n’avez pas compris à quoi servent l’écriture et la lecture. Que vous êtes en train de perdre votre confiance en vous et votre capacité à écrire.

Alors, par pitié, continuez de penser, d’écrire. Ne déléguez pas votre libre arbitre. Et si vous voulez communiquer avec moi, acceptez vos maladresses, vos fautes et votre humanité. Un simple correcteur orthographique peut aider à améliorer la lisibilité et votre confiance en vous. Mais ce n’est pas nécessaire lorsqu’on communique informellement entre humains.

Respectez votre correspondant : soyez humain !

• Détail d’une statue de scribe de la Vème dynastie égyptienne (photo par Rama)

I Don’t Want to Interact With Stochastic Parrots

My AI policy is "I don’t want any kind of interaction with that thing." And this should be all you need to know.

I don’t care if you call it AI, LLM, chatbot, or whateverGPT. I simply don’t want to interact with it in any form. If you interact with me, make sure to never send me any output from those nor to use it as a "source" to justify one of your arguments.

I’m one of those people deeply interested in all the extraordinary stuff other humans have to say. Unfortunately, life is already too short to hear them all. I need to make a lot of choices. That’s why I will not tolerate any attempt to steal the little time I’ve on this planet by making me interact with stochastic algorithms trained to produce tons of "average," non-human content.

The direct consequence of my choice is that I will refuse to interact with humans who take pride in making themselves a meat interface between me and the algorithm they’ve chosen to replace their free will.

I will not read your website, I will ignore your emails and I will happily walk away from real-life conversations as soon as it is clear that I’m not talking to a fully sentient Homo sapiens sapiens but to an empty shell who has happily delegated their cognitive abilities to an external proprietary tool designed to be some sort of "random average garbage."

I will not read the text

The very essence of writing is what makes you think. When you write, even something as mundane as a short email, you transform a bunch of contradictory neural stimuli into an ordered thought.

If you don’t care to write it, there’s no reason I should waste one single second reading it. The effort should be on your side first.

I don’t mind mistakes, typos, or badly formed sentences. In fact, I subtly appreciate them when we interact because they are part of you, they tell a lot about yourself. I’m not a literary agent, I will not judge your way of writing: I’m there to exchange ideas, knowledge, and experiences.

If you find yourself typing a prompt to express your idea, then just send me that prompt. I’m not interested in what an algorithm would do with your prompt, I want to know what you asked in the first place. I care about you, the human.

You may find it hard to express yourself, to write what you think: remember that the less you practice, the worse it will be. Prompting might feel easier. It does not make it right.

If it is from an algorithm, it is not you. Only you can write what’s inside yourself.

I will not look at the pictures

Generated images. Seriously. They all look hideous.

When I spot one in a given context, I immediately have a feeling of cheapness, bad taste, and poor culture. Like this fancy restaurant of a luxury hotel I saw in a big European city. It had a huge AI generated picture on its main building: a kid eating malformed fries with his six-fingered hand and putting them in his skull through his cheek. Or this other restaurant which had a very nice menu, full of pictures of Italian cities. Until the kid’s menu which, was shockingly out of place and totally unnecessary. It also showed a kid awkwardly eating a pizza even though there was no pizza on the kid’s menu.

If you don’t have the resources to pay for an artist, you probably don’t need a picture at all. If you are making a poster, write what is important to know instead of burying it in a gloomy generated picture. If you write a blog post, I will not read if it is illustrated by generated pictures.

A website illustration, if any, conveys an emotion, a feeling. I sometimes spend more time finding a good illustration for a post than writing it. If I don’t find a satisfying picture, I don’t put any.

The first feeling conveyed to me by a generated picture is an uncanny unease, an obnoxious emotion that immediately makes me want to leave. It also tells me enough about the author not to want to know more. It might be a kind of overreaction. But as I said, there’s too much to read anyway so it’s a good first filter.

No, that picture is not pretty. No, it is not funny. It doesn’t share any human feeling, any artistic expression. You like it because you had fun generating it. But it is wasting my time.

I will not run the code

I don’t want to run generated code on my computer.

Good code is knowledge. Even in a purely productivity-oriented business, every line of code should reflect the choice of an employee knowing the business and choosing a way to solve a business problem.

Reality is, of course, different. I’ve worked with enough different codebases to know that proprietary software is simply badly coded. Each line is written assuming "I will not be there anymore to deal with it in a few years." But at least we know that each line, as bad as it can be, was added by a human for a reason. LLMs move the needle from "no need to care in a few years" to "no need to care right now." You cannot assume anything about generated code. Maybe it was simply hallucinated and, by chance, it compiled.

Which means that, as soon as generated code is added to a project, the whole project becomes unmaintainable by humans. You can’t understand the code because there’s nothing to understand in the first place!

It follows that the whole project now needs LLMs for any change which, will make it even worse from a human perspective. We end up adding more and more lines of code nobody understand where the problem has always been "There are too many lines of code and too few people understand them."

I’m convinced that accepting generated code will lead most projects to become broken beyond all hope of repair in only a few years. "Carefully reviewing" will soon not be enough. Unfathomable code will eventually slip in and gradually destroy the whole project. I predict that the projects too important to be left to rot and die will take decades to recover from those couple years of "assisted productivity."

We need to remember that what we call "code" is merely a specification of the software we want. Those specifications will be given to the compiler to make the real software. The role of a coder is to take vague, imprecise, and contradictory specifications from a manager or customer and then make sure to remove any ambiguity. This could be done by clarifying with the customer or by silently making choices. History and mathematics have demonstrated that humans cannot make unambiguous and non-contradictory specifications without using a formal language designed expressly for that purpose. Natural languages simply cannot remove ambiguities and this may be an evolutionary feature.

Removing the coder and replacing them with a tool designed to pretend to agree to anything said could never produce good, maintainable software. It may produce a small throwaway script. It may find security holes more efficiently than fuzzing. But it will never be able to build something useful and reliable for the long term.

Which is what I expect from software.

I want to be able to trust software enough to invest time in learning it. That has always been one of my main arguments for using open source: if a free software is good enough, I trust that there will always be people to maintain it or to fork it if needed. If I have a problem with a free software, I can always look at the code to understand what the humans who designed it wanted to do. I may also modify it. This is not theoretical: I’ve done that with countless pieces of software in the last 20 years. I rely on it!

For that reason, I will carefully avoid running any openly "vibecoded" tool, and I’m trying to focus my efforts on projects that actively try to distance themselves from the current bubble.

I will not listen to the discussion

"I’ve asked ChatGPT and…"

That’s it. No need to say more. All those years speaking about "fake news" and "checking your sources" just to blindly repeat a random series of letters assembled by a stochastic algorithm? Seriously?

I don’t care about your credentials, I don’t care about your experience. With a couple of words, you gladly announced that you are obliterating them and refusing all forms of free will. Goodbye!

That’s not very friendly, I know. I never pretended to be. And I didn’t start it.

I will not grade the student report

Across the last years, I’ve not managed to find one single student who astonished me with their use of a chatbot. In every single case I’ve met, the use of a chatbot made my student perform worse. Sometimes spectacularly like, this student who contributed to a project on Github but, when asked, could not even tell me what the project was about.

On the opposite, forcing the student not to use any AI makes them better every single time. No exception. It also vastly improved their self-confidence.

• Giving University Exams in the Age of Chatbots (ploum.net)

It is not a matter of "learning to use the tool". You cannot learn to use a proprietary stochastic tool which can be changed at any time. You don’t need to "learn to chat" (and if you do, not in my course). What the "tool" is really doing is making you lose the essential ability to learn, making you lose your self-confidence. As John Scalzi points out: playing Guitar Hero is fun. But even thousands of hours of playing Guitar Hero will not enable you to play "Happy Birthday" on a real guitar.

• Generative “AI”: The Guitar Hero of Creativity (whatever.scalzi.com)

I consider that my students are in my class to learn. Chatbots are actively preventing any kind of learning. That’s why, from now on, I make it a strict policy that anything my students are submitting should be entirely produced by them.

It can be short. It will be imperfect. It will be full of mistakes. It may even be wrong. The report will have fewer bullet points and emojis. But it will be yours, and that’s what I want to see.

I will not technologically "enforce" this rule. Cheating has always been part of university. If you are smart enough not to be caught, you probably deserve to pass. But it will probably require a lot more effort on your side than simply writing your own goddamn report with your bloody fingers on a keyboard.

I will not judge what you do in private

AI/chatbots/LLMs are known to have a terrible impact on your brain. They are bad for you, for the whole economy, for the political atmosphere, and for the environment. They consume huge resources, destroy the whole Internet and our ecosystem.

But they are addictive, I get it. They make you feel productive (which, studies have demonstrated, is largely a feeling). I consider them a kind of drug.

• AI Isn’t Breaking Work. It’s Already Broken. (calnewport.com)

They may also be useful when you are forced to accomplish a stupid one-time task you don’t want to do but is required. We all have to deal with our share of bullshit jobs, I get it.

Using AI is like a shameful drug addiction or a weird sex fetish. If you want to use it privately or between consenting adults, it’s up to you. As long as you don’t brag about it, I will not judge.

Just make sure that I don’t have to interact with it.

• Human made logo by Matt Kindt (commons.wikimedia.org)

I Don’t Have a Smartphone…

• Tradução para português por Berlim

…or, at least, I wish I didn’t.

"I don’t have a smartphone," is what I tell people and professionals nowadays. This allows me to cut the crap about companies insisting that I install their app or restaurants wishing that I scan a QR code to access their menu on a small screen.

"I don’t have a smartphone" is, according to my experience, the easiest explanation, the shortest way to force people to get their shit together and take the required actions to allow me to live without being glued to a small screen dependent on a huge American megacorporation.

When I buy something, from a small kitchen appliance to a car, I’m now forced to get formal confirmation by the seller that I will be able to use it without installing one, two or three different apps. I kept the count: in the last year alone, I had to argue against the installation of 18 smartphone apps. Just in my toilet, I’m supposed to have an app for the seat, an app for the flush and one for the ventilation.

It is quite fascinating because if you assume using each app for only 3 minutes per day (which basically means opening, closing and does not include doing the upgrade every other day or debugging some problems), that’s nearly 1 hour of your day! 22 full days of your year (assuming 16 waking hours per day).

What installing your app means

When you ask someone to install your app or to scan your QR code, you make the following assumptions:

1. That person owns a smartphone (which is at least a couple hundred dollars).
2. That person has the smartphone on them right now.
3. The smartphone is in working condition.
4. It has enough battery to install your app, use it then finish the day.
5. It has enough storage left for your app.
6. It has enough network coverage.
7. That person has enough data left on their data plan.
8. They have a valid and connected Google account (or, an Apple one).
9. They are comfortable with taking out the phone and dedicating some time and attention to the screen right now while not paying attention to all those notifications that the phone surely gathered since its last use.
10. They are willing to accept all the conditions of your apps, including sending you personal data, registering an account, etc.

When you think about it, this is an awful lot of assumptions.

Just regarding point 8: your Google account could be terminated right now, without reason. It happens every day. It could happen to you. Or an American president could decide your country should not have that service anymore.

• Et si vos comptes disparaissaient demain ? (ploum.net)

If only one of those 10 assumptions is false, for whatever reason, the person will not be able to use your app. You will have to deal with it.

People always tell me I’m weird for not installing the app but, looking at this list, I find it weird that you even find people to install it in the first place!

But here we are… Those 10 assumptions have become the new commandments everyone should obey.

Why I will tell you I don’t have a smartphone

Ten assumptions that are a bit too long to explain to a vendor or a worker. So, instead of arguing about the time lost and my quest to be Google free, I took the stance of answering, "I don’t have a smartphone."

Reactions vary. Pure salesmen try to convince me that you can’t live without the app, that I need to do the mandatory "update" Why? If it’s connected, it can do its update alone. If it is offline and it works, it doesn’t need any update and updates have a higher probablility to worsen my situation than to be helpful. If it is offline and it doesn’t work well, why should I buy it in the first place?

On the other hand, real workers, those with dirty hands, often smile at me and tell me I’m right or that they wish they could not have a smartphone. On one occasion, a worker installing an appliance told me: "Oh, we will get along well!"

Which tells you something important: nobody wants the app. People install the app because they believe it is mandatory in some sort of way. Because they are afraid of missing out on something. Because they are told so by the salesman. But they just don’t want it. In fact, when pressed, most salesmen even have a hard time justifying why I should install the app.

Also, I was strongly addicted. My relationship with my phone was not healthy.

• How I fought my smartphone addiction (ploum.net)

So "I don’t have a smartphone."

But it is not true.

Mudita Kompakt, my not-so-dumb-phone

My main driver is a Mudita Kompakt, a small minimalist smartphone with an e-ink device. I’ve spoken at length about it in the following piece:

• Une vie sans notifications (ploum.net)

The main point is that, despite being an e-ink device and being totally Google-free, the Mudita is an Android smartphone. I can install apps and, yes, I love the smartphone concept for the tools I choose. I have Signal (well, I use Molly to connect to Signal). I also have the app of my bike GPS. I don’t use it often but when I’m lost far from everything and it starts raining, I launch the Komoot app, ask for the shortest way home and upload it to my bike computer.

That’s very useful innovation!

I also use Comaps, an online calendar and the local train schedule app.

So, seriously, I do really like the smartphone idea. It’s just that I don’t have any browser or "social" app on it. And I don’t want anything else than what I have.

I wish I could say it is all I have, that I’m a true minimalist.

But it is not true.

The secondary desk phone

Somewhere on my desk, I keep an old FairPhone 3 that I repaired after it took a deep plunge into the ocean. It runs the Google-free /e/OS operating system.

But why? The reason is simple: sometimes, you are forced to use an app. Those apps may even check if your phone truly uses Google. So /e/OS has a solution to fake it (microG). The main use case is banking apps.

I highly prefer to do banking on my computer. But, having been brainwashed enough by Google, banks think I cannot be trusted to do banking on a computer I own while doing it on a small piece of glass that I keep in my pocket is "safe." Logging in on banking websites requires me to authenticate on a smartphone that checks for Google services.

It is not only banking: this secondary phone is very useful to test apps without cluttering my main phone. I’ve learned, thanks to my teenagers, that Strava will not launch without Google services. But it will also refuse to login with the fake microG. The solution is thus to launch Strava with microG enabled, to disable microG while keeping Strava running, to log into the app then to re-enable microG. A similar problem happens when using filters on Snap. Living without Google is not always painless.

At least, I can say I’m Google-free.

But this is not true.

The third, real android phone

I still keep in a drawer an old OnePlus 5 I bought in 2017 with a pristine Android system. The screen is cracked, the USB connector is wobbling but it works. It is still connected to a Gmail account I created in 2001 (invitations were still required!) and that I didn’t even open for the last 10 years.

This phone is sometimes necessary. Like when a known bug in /e/OS prevented my banking app from working for several months. Anecdotally, this phone is also the thinnest, the lightest, the best screen I’ve ever seen. It also takes the best pictures (without any AI). It demonstrates that current smartphones are worst in every aspect compared with those of 10 years ago. The only exception being the CPU: that phone has a very hard time loading Anubis-protected webpages. Everything else is fine. It is hard to have this phone in your hand and not consider we are heavily scammed when we buy a modern phone.

In my country, businesses and governments are pushing hard to mandate the use of "Itsme", a proprietary authentication app developed by a commercial joint venture with the explicit intent to extract personal data and sell them commercially (yes, that was explicit in their conditions when they launched the service). I’ve always refused to register and use that service but it is becoming incredibly hard to find alternatives.

New EU regulations may also push more apps to check for the "Google Play Integrity" to ensure that they are running on a true Google owned Android.

I’m fighting hard but I foresee a moment when we will all be officially forced to have a Google account. If you have children, you are also forced to have a Meta account as everything school related now happens through Whatsapp.

So I’m living Meta-free because my wife volunteered to handle the Whatsapp groups. I’m living Google free because, deep in a drawer, there’s still a solution for the day when I could not work it out without Google.

Who could have predicted

I’m European. The whole continent is assumed to have a Google and a Meta account. To always have in their pocket a Google or Apple certified and remotely controlled piece of hardware. It is even sometimes assumed to have a Microsoft account (like that time when the platform to be reimbursed from a cancelled ticket assumed a Sharepoint login).

This is frightening. We are putting all our eggs in the same basket. And our milk, our water, our house, our furniture and our loved ones. In an electrical-auto-closing basket remotely controlled by a foreign entity that openly spies on us and wants to extract as much money as they can. For some reason, it is considered weird not to like the basket.

At least, some are trying to build alternatives

• Why there’s no European Google? (ploum.net)
• The Privacy Respecting European Phone (jolla.com)
• Delta Chat, decentralized secure messenger (delta.chat)

At the same time, European politicians are focusing on "not seeing" this elephant in the room while dedicating huge money and effort to promote "European AI" or "European Blockchain." Seriously. They are so blind to easy, innovative and existing solutions (Peertube, Mastodon, European mail hosting,…) that I’m starting to suspect that being dumb doesn’t explain it all, that they are truly corrupted.

In the meantime, I do my small part. I defend my small hill. I’m an Offpunk.

• Offpunk Manifesto (blog.ayom.media)

And when requested anything about an online service or a smartphone, I answer:

I don’t have a smartphone!

• Picture of a broken phone by Ashwin Kumar

L’onanisme des utilisateurs de chatbots

Quand bien même les chatbots ne seraient pas les produits de gigantesques entreprises centralisées qui cherchent à nous exploiter en pourrissant nos cerveaux et Internet tout en étant une catastrophe écologique et sociale, je ne les utiliserais pas.

Quand bien même l’outil serait éthique à tous les points de vue, je le détesterais !

Le guitariste et le joueur de Guitar Hero

John Scalzi explique enfin pourquoi je n’aime pas ça. Parce que ç’est littéralement une perte de temps, un jeu vidéo qui ne sert à rien.

• Generative “AI”: The Guitar Hero of Creativity (whatever.scalzi.com)

Il prend l’analogie de Guitar Hero : oui, c’est fun. Mais, fondamentalement, c’est inutile. Vous n’apprenez rien ! En demandant à un chatbot de répondre à une question, de produire un texte ou une image, vous n’avez littéralement rien appris. Les études le montrent : un étudiant qui répond à une question d’un prof en utilisant ChatGPT est incapable de répéter cette réponse quelques minutes plus tard. L’investissement intellectuel est nul. L’étudiant est comme une interface transparente entre le chatbot et le prof.

Je l’ai vécu lors d’un examen où j’avais autorisé l’usage de l’IA : un étudiant a été incapable de répondre à une question alors que la réponse était affichée sur son écran.

• Giving University Exams in the Age of Chatbots (ploum.net)

Mais, comme Guitar Hero, jouer avec un chatbot est amusant, voire addictif.

Je le comprends très bien. J’ai pris une demi-heure pour jouer avec la génération d’images de Lumo, le chatbot de Proton. Je lui ai demandé une couverture de Bikepunk et j’ai itéré en notant les défauts. J’avais plein de choses à dire sur l’output (notamment que, quoi qu’on fasse, une jeune femme à vélo doit obligatoirement porter un crop top). C’était très marrant de voir que quand j’ai précisé que je voulais que le personnage masculin ressemble à Thierry Crouzet, il a soudainement acquis une musculature impressionnante. Ce n’est pas que Thierry n’est pas musclé en vrai, mais, quand même, j’évite d’éternuer trop fort dans sa direction.

Et là, vous voyez le truc : c’était amusant. Ça me donnait envie de partager les différentes images.

Mais, en réalité, quand on n’est pas dans le délire, c’est juste nul. C’est comme regarder un pote jouer à Guitar Hero : il s’éclate, mais c’est un peu emmerdant pour le public. Voir c’est gênant. Un peu comme si vos amis vous racontaient à quel point leurs dernières séances masturbatoires étaient jouissives.

L’utilisation de l’IA est un plaisir solitaire. Je n’ai rien contre le fait que ça vous amuse, mais, par pitié, ne le partagez pas avec moi !

On ne gagne pas du temps en poussant sur un bouton

Les gens disent gagner du temps avec l’IA, mais ils n’améliorent pourtant pas leur productivité. Le paradoxe viendrait que le temps pris à utiliser l’IA lui-même ne serait, intuitivement, pas pris en compte.

• AI Isn’t Breaking Work. It’s Already Broken. (calnewport.com)

C’est un paradoxe bien connu des bons managers : le management prend du temps et de l’énergie. Souvent plus que faire les tâches soi-même. Si tu engages un jardinier pour tondre ta pelouse, tu dois trouver le jardinier, le contacter, convenir d’un rendez-vous, négocier un tarif puis, une fois qu’il est là, lui expliquer le travail, vérifier qu’il a bien compris et puis vérifier qu’il a fait tout correctement.

Outre l’argent que ça coûte, cela n’est clairement pas une tâche anodine. En fait, si c’est juste pour faire une seule fois un petit jardin, c’est beaucoup plus rentable de tondre ta pelouse toi-même. Le bénéfice ne se fait sentir que lorsque tu as confiance et que tu as un accord pour que le jardinier vienne une fois par mois tondre une grande pelouse, sans même avoir besoin de te prévenir.

Les jeunes parents connaissent tous cela : junior veut absolument aider au montage du meuble Ikea, mais, honnêtement, ça te prend cinq fois plus de temps que de le faire tout seul.

On en est là avec l’IA. Parfois on gagne un peu de temps (une vraiment grande pelouse à tondre), parfois on en perd (l’armoire Ikea), mais l’attrait de la nouveauté fait que c’est fun. Un peu comme le fait de regarder un jardinier travailler depuis son salon en lui donnant des ordres. Cela donne un sentiment de puissance. C’est littéralement masturbatoire.

Le problème c’est que la rentabilité à long terme de notre jardinier se base sur le fait de créer une confiance, un automatisme. Et là, on est face à une entreprise de jardinage qui a un monopole mondial, qui augmente ses tarifs arbitrairement et envoie, à chaque fois, un nouvel ouvrier qui ne connait pas votre jardin, mais fait semblant du contraire. En plus, il est sous ecstasy.

Vos outputs de chatbots sont de la pollution

Mon principal grief, c’est que les utilisateurs des chatbots sont persuadés d’avoir une compétence ou une valeur ajoutée quelconque. J’en ai été témoin de première main : les projets open source sont noyés de contributions générées. Souvent, les utilisateurs sont de bonne foi : ils ont réellement trouvé un bug et plutôt que de le rapporter, ils demandent à un LLM de générer un patch.

Parfois, ils poussent le vice jusqu’à faire écrire le rapport de bug par le LLM. Ils sont très fiers.

Fier de quoi ? D’avoir cliqué sur l’icône Claude ou ChatGPT ?

Et c’est une catastrophe : parce que le mainteneur doit désormais tenter de comprendre dans tout ce charabia et ce jargon quel est le problème de base. Au lieu d’avoir un utilisateur qui se plaint, parfois un peu maladroitement, nous sommes face à une machine qui réinterprète tout et il faut deviner ce que l’utilisateur avait en tête. En gros, il faut essayer de déduire le prompt.

Ce n’est déjà pas évident de se comprendre entre humains en communication directe alors si un chatbot sert d’intermédiaire…

Ou cette connaissance à qui je pose une question et qui m’envoie la réponse de ChatGPT. Comme si c’était d’une aide quelconque. Parce que si je demande quelque chose à quelqu’un, c’est vraisemblablement parce que je ne trouve pas de réponse facile et que je pense que cette personne a une expertise du domaine. Me renvoyer la réponse de ChatGPT est à la fois injurieux (tu n’en as rien à foutre de m’aider) et hautain (tu penses que je ne suis pas capable de faire une recherche Web).

Que ce soit clair : un output de chatbot n’est pas fait pour être partagé. Si vous souhaitez le faire, alors partagez juste le prompt, ce sera beaucoup plus efficace.

De plus en plus d’artistes professionnels se plaignent : plutôt que d’avoir des instructions claires, les clients leur envoient des « idées » générées par IA. Et les artistes doivent deviner ce que veulent leurs clients.

Le chatbot, c’est comme la masturbation : pratiquez-le seul ou dans un cercle restreint d’adultes consentants. Jamais en public. Jamais en présence de personnes non consentantes. Jamais dans un cadre professionnel.

Apprendre de ses expériences

Mais le principal problème, outre l’opacité de la communication, c’est ce que dit Scalzi avec Guitar Hero ou comme le montre l’analogie de la masturbation : vous n’apprenez rien.

Vous ne saurez pas jouer bon anniversaire à la guitare même après des centaines d’heures de Guitar Hero. Vous ne rencontrerez jamais un partenaire amoureux en vous masturbant. Ce n’est pas un jugement de valeur : c’est juste que ces activités n’ont pas le moindre rapport entre elles !

L’énorme majeure partie des patches que je reçois pour mes projets Open Source me prennent plus de temps à relire et à intégrer que si je le faisais moi-même. Pourtant, j’apprécie cela, car je sais que la personne a dû fournir un effort pour comprendre mon code. Elle a appris. Et, petit à petit, elle va être de plus en plus à l’aise pour faire des changements plus importants tandis que moi, j’aurais appris à lui faire confiance. Je peux également poser des questions sur les choix techniques qui ont été faits, en discuter, remettre en question mes propres perspectives, mes propres choix.

Accepter un patch n’est jamais un gain de temps, c’est un investissement sur le futur. C’est également une manière de faire grandir deux personnes.

Ce qui n’est pas le cas avec les patchs générés. C’est même exactement le contraire : accepter un patch généré va introduire dans le projet du code qui fonctionne peut‑être aujourd’hui, mais que personne ne comprend et, surtout, dont on ne peut même pas présupposer qu’il a une logique.

Si vous n’avez rien appris en utilisant un chatbot et si la personne qui reçoit l’output n’apprend rien, pourquoi le faire tout court ?

Un tas de débris aléatoire n’est pas une maison

Vous vous souvenez de l’expérience de pensée qui dit que si on assied assez de chimpanzés qui tapent aléatoirement sur des machines à écrire, on va finir par générer du Shakespeare ou du Proust ?

Et bien c’est exactement ce que font les chatbots avec le code : ils génèrent presque aléatoirement des morceaux de code jusqu’à ce que le code en question réponde superficiellement à la question. Ça fonctionne, parfois, ici et maintenant, mais, bien entendu, ça va craquer de partout dès qu’on bouge quelque chose.

Un peu comme si on construisait une maison en jetant aléatoirement des poutres et des briques jusqu’à ce que, ô miracle de la loi des grands nombres, l’édifice de matériau dégage un espace assez grand pour qu’on l’appelle "chambre" avec une ouverture appelée "porte". Ce serait cool.On prendrait des photos.

Mais pensez-vous sérieusement que cette "maison" tiendrait face à la première pluie, au premier souffle de vent ou à la première vibration d’un camion sur la route ?

De la même façon, communiquer par écrit est une compétence qui se travaille. C’est même plus important que cela : l’écrit permet de structurer ses propres pensées. Tant que vous n’avez pas écrit vos idées, elles ne sont pas réelles, pas claires.

Tant que vous n’avez pas fixé votre idée sur un support, elle ne vaut rien. Et si ce n’est pas vous qui la fixez, ce n’est pas votre idée.

• Votre idée ne vaut rien (ploum.net)

En déléguant l’écriture de vos emails et de vos rapports, non seulement vous perdez la compétence communicationnelle, mais, pire, vous perdez simplement vos idées.

Les singes bientôt remplacés ?

Dans le cliquetis des milliards de machines à écrire actionnées par les singes, une feuille tomba soudainement sur le sol. Un entrepreneur s’en saisit et lut : « Longtemps, je me suis couché de bonne heure… »

— Ça y est, hurla-t-il ! Nous avons réussi ! Ce singe écrit du Proust !

Le singe en question fut mis sur un piédestal, choyé, dorloté. Mais les entrepreneurs avaient beau faire, il n’écrivait plus que du charabia sans signification.

— Dommage, fit un entrepreneur. Peut-être n’est-ce pas la bonne approche.
— Et si nous remplacions les singes par des utilisateurs de ChatGPT ?
— Pas bête. Statistiquement, ça devrait fonctionner…
— Et puis, on ferait des économies de bananes !