L’illusion de Claude

– Source : The Claude Delusion

L’un des aspects les moins souvent évoqués du fait de devenir athée est la manière dont cela modifie notre perception d’un coucher de soleil. Si l’on croit en un Dieu tout-puissant et omniprésent, les couchers de soleil font partie des créations délibérées de Dieu, ce qui signifie que les magnifiques couleurs qui se réfractent dans le ciel s’assombrissant ont été choisies pour produire cet effet.

Contempler un coucher de soleil avec une foi religieuse, c’est faire l’expérience de l’acte intentionnel d’un autre esprit. Contempler ce même coucher de soleil sans foi, c’est regarder quelque chose de saisissant, de beau, et pourtant vide ; non pas vide d’émerveillement ou de beauté, mais vide de but. Personne n’a suspendu ce soleil dans le ciel, personne n’a choisi ses couleurs alors qu’il s’enfonçait. Il peut toujours être beau, mais c’est une beauté d’un genre fondamentalement différent.

Il existe un coucher de soleil qui se situe à mi-chemin entre un coucher de soleil religieux et un coucher de soleil athée : la représentation d’un coucher de soleil par un artiste. Celle-ci reflète les choix d’une autre personne, d’un autre esprit, et, à tout le moins, cet esprit se parlait à lui-même, essayant de puiser quelque chose de l’intérieur de son esprit pour le transposer à l’extérieur de celui-ci.

Très souvent, l’esprit qui a orchestré la capture de ce coucher de soleil voulait dire quelque chose à d’autres personnes, peut-être même à vous (pensez à un être cher qui vous envoie une photo de coucher de soleil prise avec son téléphone). Ce tableau ou cette photo n’est peut-être pas divin, mais il est certainement intentionnel. Contempler un tableau représentant un coucher de soleil — ou même une photo d’un coucher de soleil — revient à contempler quelque chose que quelqu’un a choisi de créer. On ne se trompe pas par inadvertance en créant une peinture représentant un coucher de soleil. Les peintures de couchers de soleil ne sont pas le fruit du hasard. La peinture d’un coucher de soleil a quelque chose à dire.

Déchiffrer les intentions est une préoccupation instinctive de notre esprit. C’est ce qui nous empêche de mourir dans un accident de la route, c’est ce qui nous permet de gagner au poker. C’est la clé de l’amour et de l’éducation des enfants, d’une gestion efficace et de la « gestion vers le haut ». C’est pourquoi nous nous mettons en colère contre les gens, et pourquoi nous leur pardonnons. C’est pourquoi notre cœur bat la chamade par empathie pour les personnages d’un livre ou à l’écran. C’est le point de départ automatique et irrésistible de chaque rencontre avec un poème, une chanson, un livre ou une sculpture. C’est la différence la plus fondamentale entre la sculpture d’un arbre et un arbre : l’arbre a poussé tout seul, tandis que la sculpture a été réalisée, délibérément, par une autre personne dotée d’un autre esprit.

Ce réflexe d’attribuer une intention explique pourquoi l’IA est si controversée, si fascinante et si eerie. Mark Fisher définit l’« eeriness » comme « la présence de quelque chose là où il ne devrait y avoir rien, ou l’absence de quelque chose là où il devrait y avoir quelque chose » :
https://www.programmablemutter.com/p/large-language-models-are-uncanny

Contempler un texte ou une image générés par l’IA, c’est contempler une chose qui a été extrudée, et non choisie. Vous pouvez, par inadvertance, demander à l’IA de générer un prompt pour un coucher de soleil, et celle-ci n’incarnera aucune intention de la part de qui que ce soit.

Ce n’est pas quelque chose que nous avons l’habitude de vivre. Lorsque nous voyons un tableau, nous l’interprétons instinctivement comme ayant un peintre. Lorsque nous lisons un livre, nous attribuons instinctivement une intention d’auteur à ses mots. Lorsque nous conversons, nous élaborons instinctivement une théorie sur l’esprit qui guide notre interlocuteur.

Mais nous ne pouvons pas faire cela avec l’IA. Quiconque comprend le fonctionnement des systèmes d’inférence statistique sans théorie que nous appelons « IA » (à l’heure actuelle) comprendra qu’il s’agit de systèmes incapables de former une intention, qui n’ont rien avec quoi former une intention :
https://pluralistic.net/2026/09/18/surprise/#wow-signal

Malgré tout, il est difficile (voire impossible) d’échapper au réflexe d’attribuer une intention à des choses qui semblent avoir des agents. Pensez à votre réaction émotionnelle automatique et inévitable face aux personnages fictifs que vous rencontrez dans la littérature. Éprouver de la tristesse ou de la joie pour des personnes imaginaires, c’est bizarre. Ils ne sont pas réels, et vous savez qu’ils ne sont pas réels, et pourtant vous pouvez vous retrouver ému aux larmes par leur sort.

Cette expérience esthétique de la littérature découle d’une manipulation consensuelle de notre réflexe consistant à attribuer un esprit humain à des choses qui sont généralement le produit de l’intention humaine. Lorsque nous faisons l’expérience de la volonté d’une autre personne — ses paroles ou ses actes —, nous essayons de comprendre qui elle est, ce qu’elle ressent et pourquoi elle agit ainsi :
https://genius.com/David-byrne-and-ghost-train-orchestra-she-explains-things-to-me-lyrics

Nous agissons ainsi même lorsque nous ne sommes confrontés qu’aux indices laissés par les paroles ou les actes d’autrui, comme lorsqu’un ami décrit une rencontre avec un inconnu. Pour votre esprit réflexif, toujours à la recherche d’intentions, l’auteur qui décrit les actes de personnages imaginaires est un signal irrésistible qui déclenche votre empathie et vous pousse à vous mettre à la place des personnages de l’histoire :
https://locusmag.com/feature/cory-doctorow-stories-are-a-fuggly-hack/

« Discuter » avec une IA revient à entretenir un dialogue avec un personnage de fiction, qui n’est pas plus réel que les personnages imaginaires d’un roman. En effet, le chatbot est moins réel que le personnage, car ce dernier est le fruit d’un autre esprit, tandis que les paroles du chatbot sont le résultat d’opérations mathématiques complexes menées sur une immense base de données regroupant tous les mots prononcés par les humains, classés selon leur fréquence relative les uns par rapport aux autres. Lorsque ces calculs mathématiques donnent naissance à quelque chose de beau ou de saisissant, c’est comme un coucher de soleil : aussi saisissant soit-il, il est vide de sens. Personne n’a choisi ces couleurs. Personne n’a choisi ces mots.

En d’autres termes, lorsque nous interagissons avec une IA, nous hallucinons la personne qui se trouve de l’autre côté de l’interaction. Ces hallucinations sont bien plus courantes et bien plus lourdes de conséquences que toutes les « hallucinations » générées par l’IA (que l’on désigne plus justement par « erreurs » ou « défauts »).

Heureusement, pour la plupart d’entre nous, l’intensité de ces hallucinations s’estompe avec le temps, et à mesure que cette intensité diminue, la nature même de ces hallucinations change également. Tout comme la plupart d’entre nous n’ont aucun mal à considérer les émotions suscitées par le sort de personnages littéraires imaginaires comme moins marquantes et moins « réelles » que celles que nous éprouvons face au sort de personnes réelles que nous connaissons, pour la plupart d’entre nous, l’expérience du contenu généré par l’IA s’est estompée à force de répétition.

Mes premières rencontres avec des textes et des images générés par l’IA ont suscité un émerveillement, né de la tension entre la partie de mon esprit qui savait qu’il s’agissait du produit d’opérations mathématiques, et celle qui insistait sur le fait qu’un tableau doit avoir un peintre, qu’un paragraphe doit avoir un auteur et qu’une conversation doit avoir un interlocuteur. En repensant à l’émerveillement que j’ai ressenti à l’époque, je me rends compte qu’il était en grande partie motivé par la qualité du résultat par rapport à mes attentes quant à ce que pouvaient valoir des phrases et des images dérivées mathématiquement.

La nouveauté de cette expérience m’a poussé à évaluer le résultat de la machine selon une courbe : « L’émerveillement ne réside pas dans le fait que l’ours dansant danse bien, mais dans le fait qu’il danse tout court. » Mais avec la répétition, le stimulus est revenu à la moyenne. Ces résultats souffrent d’un manque de relief peu convaincant. La fluidité de la prose et des contenus multimédias générés par l’IA les rend insupportablement banals. C’est du bricolage.

Dans la mesure où l’IA me surprend encore, cette surprise concerne l’étendue de cette fluidité dans notre monde réel. Le fait que l’IA puisse utiliser la prédiction statistique pour répondre à des questions ou mener des conversations nous apprend quelque chose d’important sur la régularité de notre monde réel. Cela ne prouve pas que la prédiction statistique soit synonyme de compréhension :
https://pluralistic.net/2026/09/18/surprise/#wow-signal

Bien sûr, plus on en sait sur un sujet, moins les réponses de l’IA sont convaincantes. Être un expert, c’est connaître les subtilités de son sujet : les chefs savent distinguer une pincée d’épices, les peintres remarquent les coups de pinceau, les danseurs peuvent décomposer la chorégraphie en mouvements individuels.

L’autre jour, quelqu’un s’est émerveillé devant moi de la qualité des commentaires éditoriaux que lui fournit l’IA sur sa prose, affirmant qu’un prompt du type « Dis-moi ce qui me manque » génère des suggestions « qui raviraient un professeur d’université ayant donné un sujet de dissertation ». En tant que personne ayant enseigné à de nombreux écrivains et donné de nombreux retours, je pense que cet individu surestime considérablement l’enthousiasme qu’un professeur d’université pourrait ressentir en voyant les retours générés par l’IA qu’il reçoit sur sa dissertation.

Le fait est que les auteurs non experts commettent généralement le même type d’erreurs dans leurs textes, et que la plupart des cours d’écriture consistent à offrir des conseils répétitifs, quasi identiques, à des auteurs qui commettent les mêmes erreurs de débutants que leurs pairs passés, présents et futurs ont commises, commettent et commettront.

La maîtrise des bases d’une bonne écriture est une question de pratique et de retours, et la plupart de ces retours sont routiniers. Ce qui fait un excellent professeur d’écriture — et ce qui contribue à former de grands auteurs — c’est de repérer les aspects non conventionnels du travail d’un étudiant, susceptibles d’être développés pour former une voix unique et puissante. N’importe qui peut vous aider à franchir les étapes faciles pour devenir un meilleur auteur. Seul un bon professeur peut vous aider à trouver et à affiner la texture qui fera de vous un auteur unique.

Cette texture est particulièrement difficile à trouver dans les textes de débutants, car ceux-ci regorgent surtout d’erreurs tout à fait banales dues au manque d’expérience, des erreurs que l’IA peut éviter de manière fiable lorsqu’elle génère du texte. Mais la prose générée par l’IA ne possède aucune de ces traces d’unicité, et elle est incapable de les repérer. Ces traces se trouvent à un nombre de décimales si élevé que l’IA les arrondit systématiquement avant de commencer ses calculs.

Plus nous rencontrons d’IA qui ont gommé ce type de texture auquel nous sommes sensibles, moins nous sommes enclins à y voir une intentionnalité, et moins elles nous semblent inquiétantes. La plupart d’entre nous devenons lentement mais sûrement des « athées de l’IA », et les couchers de soleil nous apparaissent davantage comme le produit non intentionnel de la physique que comme le fruit délibéré d’un esprit.

Deux grands obstacles se dressent face à cet « athéisme en matière d’IA ». Premièrement : pour la plupart d’entre nous, l’incapacité à comprendre quels types d’intentionnalité interviennent dans quelles parties d’activités qui nous sont inconnues nous pousse facilement à supposer que, chaque fois que nous voyons une tâche accomplie dans le monde, elle doit être intentionnelle, et qu’elle doit donc avoir un agent intentionnel. En d’autres termes : la plupart d’entre nous ne fréquentons pas les conventions de hackers, nous avons donc du mal à saisir l’idée d’un piratage sans hackers :
https://pluralistic.net/2026/09/12/god-in-the-box/#llms-are-fake

Mais il existe un deuxième obstacle qui empêche une partie restreinte mais importante de l’humanité de comprendre que les chatbots ne sont pas des personnes : les milliardaires pour qui presque tout le monde n’est pas une véritable personne. Ces solipsistes considèrent les chatbots comme équivalents (voire supérieurs) aux humains, car ils ne pensent pas non plus que la plupart des humains soient pleinement des personnes :
https://pluralistic.net/2026/05/13/vibe-governance/#k-hole

Pendant la quasi-totalité de l’histoire de notre espèce, les choses qui semblaient nécessiter une intention avaient toujours un auteur. À de nombreuses époques et en de nombreux lieux (et même aujourd’hui, pour beaucoup de gens), il est naturel et bénéfique d’agir comme si le monde naturel possédait une certaine forme de personnalité et d’intention, et méritait donc une considération morale. Le mouvement en faveur des « droits de la nature » a fait de grands progrès en étendant la personnalité aux animaux et aux écosystèmes.

Mais attribuer la personnalité juridique à des chatbots n’a rien à voir avec le fait de l’attribuer à la nature. En effet, cela est fondamentalement incompatible avec les « droits de la nature ». Pensez à cette abomination qu’est la « personnalité juridique des entreprises » : en étendant la personnalité juridique à cette construction humaine, nous avons créé un monde où des formes de vie artificielles — les sociétés à responsabilité limitée — peuvent détruire la nature et conduire les animaux à l’extinction. Si nous étendons la personnalité juridique à ces modèles d’IA qui ravagent le climat et goulotent l’eau, leur personnalité juridique exigera le sacrifice des animaux, du monde naturel et de notre propre bien-être :
https://pluralistic.net/2026/04/15/artificial-lifeforms/#moral-consideration

Les chatbots sont des merveilles mathématiques, et cela suffit. Ils n’ont pas besoin d’être des personnes. Les confondre avec des personnes (ou même simplement les traiter comme telles) nous empêche de distinguer ce qu’ils peuvent apporter d’utile du gaspillage, de la laideur et de l’erreur qu’ils ont tant tendance à répandre dans le monde.

Je pense qu’il est impossible de créer un chatbot à l’aide des techniques que nous appelons actuellement « IA » et qui ne « délire » pas. Cependant, il est à la fois possible et nécessaire que nous cessions de délirer au sujet de l’IA.