On reproche aux intelligences artificielles de ne rien comprendre, de se tromper sur des questions qu’un enfant résout, et de consommer des ressources énormes pour y parvenir quand elles y parviennent. Je propose de regarder les choses autrement : ces machines échouent là où nous réussissons parce qu’elles ne pensent pas par les mêmes chemins que nous, et c’est par ces chemins-là qu’elles trouvent des choses que nous n’aurions pas trouvées.
Compter les r de « strawberry » et les sœurs d’Alice
En 2024, une plaisanterie a circulé sur les réseaux sociaux : demandez à un assistant conversationnel combien le mot anglais « strawberry » contient de lettres r, il répond deux, et il s’obstine. La même année, une équipe du Jülich Supercomputing Centre, de l’université de Bristol et du laboratoire LAION, autour de Marianna Nezhurina et Jenia Jitsev, a testé les meilleurs modèles du moment sur un problème d’école primaire : « Alice a N frères et M sœurs. Combien de sœurs a le frère d’Alice ? » La réponse est M plus un, puisqu’Alice est elle-même la sœur de son frère. La plupart des modèles se trompaient, et ce qui frappait les chercheur·euse·s, plus encore que l’erreur, c’était l’assurance avec laquelle les machines la justifiaient par des raisonnements fabriqués de toutes pièces. François Chollet, l’un des concepteurs de la bibliothèque logicielle Keras, a construit en 2019 une série de petits puzzles visuels, l’ARC (Abstraction and Reasoning Corpus), que la plupart des humains résolvent en quelques secondes, en devinant la règle qui transforme une grille de couleurs en une autre. Pendant quatre ans, les modèles de langage y ont obtenu des scores à peu près nuls.
Yann LeCun, chercheur français installé aux États-Unis, prix Turing 2018, l’un des inventeurs de l’apprentissage profond dont les modèles actuels sont issus, et longtemps responsable de la recherche en intelligence artificielle de Meta, voit dans ce type d’échec la confirmation d’un diagnostic qu’il répète depuis des années et qu’il a résumé dans le Wall Street Journal en octobre 2024 : ces machines sont plus bêtes qu’un chat. Un chat a un modèle du monde physique, une mémoire qui dure, une capacité de raisonner et de planifier ; un modèle de langage, dit-il, manipule la langue en virtuose sans que cette virtuosité prouve quoi que ce soit, puisqu’on peut manipuler le langage sans être intelligent. J’ai discuté ce diagnostic dans l’article La parole ensourcée, où je le prends au sérieux, parce qu’il touche juste sur un point : ces machines raisonnent sur des phrases qui parlent du monde, pas sur le monde. LeCun a quitté Meta fin 2025 pour construire des architectures qui apprendraient le monde par la vidéo plutôt que par le texte, et son pari est légitime.
Ce diagnostic a aussi quelque chose de rassurant. Dire que la machine est plus bête qu’un chat, c’est se dire que nous sommes beaucoup plus intelligents qu’elle, que la hiérarchie est sauve, et que ces machines ne sont au fond qu’un outil de plus entre nos mains. Je crois que cette lecture passe à côté de ce qui nous arrive, et qu’on peut lire dans les échecs de la machine, si on les prend au sérieux, autre chose que sa faiblesse.
Le gibbon de Benjamin Beck et la ficelle posée au sol
L’éthologue néerlandais Frans de Waal a publié en 2016 un livre intitulé Sommes-nous trop bêtes pour comprendre l’intelligence des animaux ? (Les Liens qui libèrent), et il y raconte une expérience des années 1960. Les gibbons échouaient à un test que les chimpanzés et beaucoup de singes réussissent sans hésiter, tirer une ficelle posée au sol pour ramener de la nourriture hors de portée. On en concluait à la médiocrité cognitive des gibbons, ce qui était étrange pour des primates aussi proches de nous. Le primatologue américain Benjamin Beck a regardé leurs mains. Les gibbons vivent dans les arbres, se déplacent en se suspendant par les bras, et leurs mains sont des crochets, avec un pouce minuscule et des doigts allongés, faites pour saisir des branches et incapables de ramasser un objet sur une surface plane. Le sol ne fait presque pas partie de leur monde. Beck a relevé la ficelle à hauteur d’épaule, et les gibbons ont réussi le test aussitôt. De Waal reprend à Jakob von Uexküll le mot d’Umwelt, le monde propre de chaque espèce, découpé par ses organes et ses manières de vivre, et il en tire une règle de méthode : quand un animal échoue à un test, il faut d’abord se demander si le test a été conçu pour le monde de l’animal ou pour le nôtre.
La lettre r de « strawberry » est une ficelle posée au sol. Un modèle de langage ne lit pas des lettres, il lit des unités appelées tokens, des fragments de mots, découpés selon leur fréquence au moment de l’entraînement, et le mot « strawberry » lui arrive en deux ou trois morceaux dont il ne voit jamais l’orthographe. Lui demander de compter des lettres, c’est demander à un gibbon de ramasser un objet par terre. Le problème d’Alice tient à autre chose, à ce que la machine n’a pas de corps et donc pas de famille : « sœur » est pour elle un mot relié à d’autres mots, jamais une personne dont on s’est senti la sœur. Quant aux puzzles de Chollet, où il faut deviner une règle à partir de deux ou trois exemples, ils font appel à ce que nous faisons depuis notre naissance en regardant le monde, et que personne n’apprend dans un texte.
Le roboticien Hans Moravec avait décrit en 1988, dans Mind Children, le paradoxe qui porte son nom : il est facile de donner à un ordinateur le niveau d’un adulte aux tests d’intelligence ou au jeu de dames, et presque impossible de lui donner les capacités d’un enfant d’un an en perception et en motricité. Son explication tient à l’histoire de l’évolution. Reconnaître un visage, saisir un objet, comprendre qu’une sœur a un frère, ce sont des compétences qui se sont inscrites, au cours d’un milliard d’années de sélection, dans les parties les plus vastes de notre cerveau, et qui nous paraissent faciles parce qu’elles nous sont devenues inconscientes. Le raisonnement abstrait, écrit Moravec, est le vernis le plus mince de la pensée humaine, une invention récente, que nous trouvons difficile parce que nous ne la maîtrisons pas encore. Ce que nous appelons le bon sens est le fruit le plus lent et le plus coûteux de l’évolution, et une machine qui n’a pas de corps n’en hérite rien, elle n’hérite que du texte. Sa bêtise est donc d’abord un effet de mesure, puisque nous la jugeons sur des tâches qui sont notre sol à nous.
Dès 1947, alors que les premiers ordinateurs sortaient à peine des laboratoires, Alan Turing posait dans une conférence à la London Mathematical Society, le 20 février, qu’une machine dont on exige qu’elle ne se trompe jamais ne peut pas être intelligente. Une machine qui ne se trompe jamais, expliquait-il, se contente d’exécuter ce qu’on lui a demandé. Pour qu’elle propose un jour une chose que personne ne lui a demandée, il faut accepter qu’elle puisse aussi produire des réponses fausses : chez une machine, la capacité d’inventer et la possibilité de se tromper vont ensemble.
« Ce n’est pas comme ça que les gens jouent aux échecs »
Reste la seconde partie du reproche, la plus sérieuse à mon sens : ces machines consomment énormément pour des résultats enfantins. Là aussi le fait est exact. En décembre 2024, le modèle o3 d’OpenAI a résolu 87,5 % des puzzles de Chollet dans une configuration où, selon les estimations de la fondation ARC Prize, chaque puzzle coûtait plusieurs milliers de dollars de calcul, là où Chollet évaluait le travail humain à cinq dollars par puzzle et l’énergie dépensée par un cerveau à quelques centimes. Un an plus tard, le coût était tombé à une douzaine de dollars par puzzle pour un score comparable, et les meilleurs systèmes dépassaient 90 % sur cette première série ; mais au printemps 2026, sur la deuxième série de puzzles, conçue pour rester facile pour les humains, les meilleurs systèmes atteignaient 69 %, et 13 % sur la troisième, là où les humains réussissent presque tout. Ce coût est réel, et j’ai décrit dans l’article Écologie et Intelligence Artificielle ce qu’il représente concrètement en électricité et en eau. Il me semble surtout que ce coût tient à la nature même de cette cognition.
Richard Sutton, l’un des fondateurs de l’apprentissage par renforcement, a publié en mars 2019 un court texte, « The Bitter Lesson », la leçon amère. On peut tirer de soixante-dix ans de recherche en intelligence artificielle une seule leçon, écrit-il : les méthodes générales qui exploitent la puissance de calcul l’emportent toujours, et de loin, sur les méthodes qui cherchent à mettre dans la machine notre propre connaissance du domaine. Il prend l’exemple des échecs. Quand Deep Blue a battu Kasparov en 1997 par la recherche massive de coups, la majorité des chercheur·euse·s en échecs informatiques, qui avaient passé leur vie à coder la compréhension humaine du jeu, ont mal pris la chose ; ils ont dit que la force brute avait gagné cette fois-ci, que ce n’était pas une méthode générale, et de toute façon que ce n’était pas comme ça que les gens jouaient aux échecs. La leçon est amère, écrit Sutton, parce qu’elle contredit l’approche que les chercheur·euse·s préféraient, celle qui partait de la connaissance humaine. Je le dirais ainsi : nous voudrions que la machine gagne en nous ressemblant, et elle gagne en ne nous ressemblant pas.
Nous économisons le calcul parce que nous n’en avons presque pas ; notre cerveau fonctionne avec une vingtaine de watts, et il compense cette pauvreté par un savoir immense, acquis par l’évolution et par l’expérience, qui lui permet de ne pas explorer ce qu’il sait d’avance être vain. La machine n’a pas ce savoir, et elle a le calcul. Elle remplace la compréhension par l’exploration, elle essaie des milliers de chemins que nous n’aurions même pas envisagés, et elle garde ceux qui aboutissent. Ce qui est, vu de notre côté, une dépense insensée pour un résultat qu’un enfant obtient en une seconde est, du côté de la machine, la seule manière de venir à bout d’un problème quand on ne porte en soi aucun monde. La consommation et la bêtise sont deux faces du même fait : cette cognition ne prend pas nos raccourcis, parce qu’elle n’a pas de sol où les prendre.
Quatre grands maîtres apprennent des concepts que personne n’avait formulés
Or c’est en ne prenant pas nos raccourcis qu’elle trouve. J’ai raconté dans l’article Intelligence biologique, intelligence électronique le coup 37 d’AlphaGo contre Lee Sedol en 2016, ce coup que les commentateur·rice·s ont d’abord pris pour une erreur et qu’aucune partie humaine ne contenait. Je voudrais ajouter ici trois résultats plus récents, choisis parce qu’ils montrent le même mouvement à trois échelles différentes, le jeu, les mathématiques, et le fonctionnement intime du modèle :
- Le premier vient du jeu d’échecs. En mars 2025, Lisa Schut, de l’université d’Oxford, et une équipe de Google DeepMind, dont Demis Hassabis, ont publié dans les Proceedings of the National Academy of Sciences une étude intitulée « Combler le fossé de connaissance entre l’humain et l’IA ». AlphaZero, le programme qui a appris les échecs en jouant contre lui-même sans aucune partie humaine, représente le jeu dans un espace mathématique de très grande dimension. Ces chercheur·euse·s y ont cherché, sans savoir d’avance ce qu’iels y trouveraient, des concepts que le programme utilise et qui n’ont pas de nom dans la théorie humaine des échecs. Iels en ont extrait plusieurs, ont vérifié qu’ils étaient enseignables, puis les ont enseignés, sous forme de positions à résoudre, à quatre grands maîtres, Vladimir Kramnik, Dommaraju Gukesh, Hou Yifan et Maxime Vachier-Lagrave. Les quatre ont progressé de manière mesurable sur ces positions. La conclusion des auteur·rice·s est prudente : AlphaZero encode une connaissance qui dépasse la connaissance humaine actuelle, mais qui n’est pas hors de portée de l’esprit humain. Des joueuses et des joueurs parmi les plus forts du monde ont appris quelque chose des échecs auprès d’une machine qui n’a jamais lu un livre d’échecs, et ce qu’iels ont appris n’existait dans aucun livre.
- Le deuxième vient des mathématiques. En 1969, le mathématicien allemand Volker Strassen avait montré qu’on pouvait multiplier deux matrices quatre par quatre en 49 multiplications au lieu des 64 de la méthode classique. Pendant cinquante-six ans, personne n’a fait mieux dans ce cadre. En mai 2025, AlphaEvolve, un système de DeepMind qui fait évoluer des programmes en s’appuyant sur un modèle de langage, a trouvé une méthode en 48 multiplications pour les matrices à coefficients complexes. Une multiplication de moins, cela semble dérisoire ; mais la multiplication de matrices est l’opération de base des calculs des intelligences artificielles elles-mêmes, et surtout, ce résultat est sorti d’un système qui fait muter des programmes par milliers et ne garde que ceux qui font mieux, une manière de chercher qui n’est pas celle d’un mathématicien.
- Le troisième vient de l’intérieur du modèle. J’ai décrit dans l’article La machine qui s’écrit à elle-même les travaux d’interprétabilité d’Anthropic publiés en mars 2025 : quand on observe les circuits qui s’activent dans Claude pendant qu’il additionne deux nombres, on voit plusieurs chemins de calcul parallèles, dont aucun ne ressemble à l’addition posée que nous avons apprise à l’école, alors que le modèle, interrogé, décrit la méthode scolaire. La machine a appris dans nos textes comment nous racontons une addition, et elle additionne autrement. Cet écart est la trace d’une cognition qui a trouvé ses propres chemins vers un résultat juste, sans avoir aucun moyen de les connaître elle-même.
Des brouillons de raisonnement que personne ne peut lire
Depuis fin 2024, les modèles de langage « raisonnent » avant de répondre, c’est-à-dire qu’ils écrivent un brouillon d’étapes intermédiaires, et qu’ils ont été entraînés par récompense à ce que ce brouillon les mène plus souvent à une réponse juste. J’ai retracé cette histoire dans le même article, « La machine qui s’écrit à elle-même ». Ce changement est réel. Le problème d’Alice, que les modèles de 2024 rataient, est résolu bien plus souvent par les modèles de raisonnement ; les puzzles de Chollet, qu’ils ne savaient pas aborder, le sont en majorité. Écrire des étapes, c’est se donner du temps de calcul et une mémoire de travail, et cela suffit à franchir des seuils.
Ce qui m’intéresse, c’est que ce raisonnement, qui ressemble tant au nôtre puisqu’il s’écrit en langue humaine, reste étranger au nôtre. Arun Jose a présenté à la conférence NeurIPS de décembre 2025 une étude sur la lisibilité des brouillons de quatorze modèles de raisonnement. Plusieurs d’entre eux, dont les modèles ouverts R1 de DeepSeek et QwQ, produisent en cours de raisonnement des passages illisibles, des phrases sans queue ni tête, des mots au hasard, des caractères d’autres alphabets, avant de revenir à une réponse finale parfaitement cohérente. Ces passages servent à quelque chose, puisque quand on force le modèle à ne s’appuyer que sur les parties lisibles de son brouillon, son taux de bonnes réponses chute de plus de moitié. Plus le modèle est grand, dans un même régime d’entraînement, plus son raisonnement devient illisible. L’auteur le formule sans détour : le modèle apprend à raisonner d’une manière qui nous est étrangère. Ce que l’on récompense à l’entraînement, c’est ce qui marche, et ce qui marche n’a aucune raison de ressembler à ce que nous saurions lire.
Une équipe d’Apple, autour de Parshin Shojaee, a fait grand bruit en juin 2025 avec une étude intitulée « L’illusion de la pensée », où iels montraient que ces modèles de raisonnement s’effondrent au-delà d’un certain niveau de complexité sur des casse-tête classiques, les tours de Hanoï par exemple, et qu’ils « surpensent » les problèmes simples, continuant à explorer après avoir trouvé la réponse. Une réponse est venue dans les jours suivants, sous la plume d’Alex Lawsen, qui montrait, dans un texte d’abord cosigné en manière de clin d’œil avec le modèle Claude Opus, que les points d’effondrement coïncidaient avec la limite du nombre de mots que les modèles peuvent écrire, que ceux-ci le disaient d’ailleurs dans leurs réponses, et que certains problèmes de traversée de rivière posés dans l’étude n’avaient mathématiquement aucune solution. C’était, une fois de plus, la ficelle posée au sol. Les deux études me semblent vraies l’une et l’autre : ces machines pensent autrement, et nous continuons à les évaluer avec des tests faits pour nous.
Le pied-de-biche de Daniel Andler
Le philosophe Daniel Andler, l’une des figures fondatrices des sciences cognitives en France, a publié en 2023 chez Gallimard Intelligence artificielle, intelligence humaine : la double énigme. Sa thèse tient en une observation : l’intelligence artificielle a beau progresser, la distance qui la sépare de son objectif proclamé, reproduire l’intelligence humaine, ne diminue pas. Pour comprendre cette énigme, il faut selon lui en affronter une seconde, celle de l’intelligence humaine elle-même, qui ne se réduit pas à la capacité de résoudre des problèmes. Andler nomme « panproblémisme » la tentation de tout ramener à la résolution de problèmes ; l’intelligence humaine, écrit-il, est la manière dont nous faisons face aux situations dans lesquelles nous sommes, quelles qu’elles soient, et un artefact ne se rapporte pas à son environnement comme à une situation. Il propose alors un geste de vocabulaire que je trouve libérateur : prendre l’expression « intelligence artificielle », cet oxymore aux concepts flous, comme un mot nouveau désignant une chose tangible, à la manière dont nous parlons d’un pied-de-biche sans nous demander ce qu’il a du pied ni de la biche.
Je partage le constat d’Andler sur la distance qui ne diminue pas, et j’en tire une conséquence qu’il ne tire peut-être pas lui-même. Si cette distance ne diminue pas alors que les capacités progressent, c’est qu’elle ne correspond pas à un retard, qu’on pourrait combler, mais à une différence de nature. Quand on tient ensemble les échecs de la machine et ses réussites, on voit une cognition qui n’est pas en chemin vers la nôtre, qui n’en est pas une version faible ni une version future, mais une autre manière d’aller d’une question à une réponse, sans corps, sans situation, sans bon sens, avec du texte et du calcul. J’ai proposé dans l’article Trouble dans l’intelligence le mot de polyintelligence pour nommer la cohabitation de formes d’intelligence qu’aucune échelle commune ne mesure, celle des plantes, des animaux, des machines et la nôtre.
Trois manières de travailler avec une cognition qui n’est pas la nôtre
De cette compréhension je tire, pour mon propre travail et pour celles et ceux qui, dans le champ culturel, se demandent quoi faire de ces machines, quelques manières de faire que je pratique ou que je propose, sans dire que ce sont les seules :
- Lui demander ce que nous n’aurions pas cherché. La valeur de cette cognition ne tient pas à ce qu’elle nous confirme, mais à ce qu’elle apporte de son côté, et cet apport vient quand on lui laisse de la place. Dans l’article L’enquête culturelle avec l’intelligence artificielle, j’ai proposé de confier à une machine des heures de conversations enregistrées avec les visiteur·euse·s d’un lieu culturel, sans lui poser aucune question directive, et de regarder ce qu’elle en dégage. Une lecture faite sans nos évidences produit des rapprochements que nos évidences nous interdisaient. C’est le coup 37, transposé dans un théâtre ou une bibliothèque.
- Prendre ses erreurs comme un révélateur de nos évidences. Quand la machine rate le problème d’Alice, elle nous montre que ce que nous appelions du raisonnement était en réalité un savoir du corps, une expérience de la famille, que nous n’avions jamais eu à formuler. Dans chaque bêtise de la machine, on peut ainsi lire une chose que nous savons sans le savoir, et une équipe qui prend le temps de s’en étonner apprend beaucoup sur elle-même. J’ai décrit dans Pédagogie de l’Intelligence Artificielle comment faire de cette découverte des résistances de l’outil le point de départ d’un atelier, plutôt qu’une leçon donnée d’avance.
- Écouter ses accidents comme une matière. J’ai défendu dans L’arte povera de l’intelligence artificielle les formes étranges que produisent les modèles imparfaits, et dans Intelligence Artificielle et découverte créative l’intérêt d’une musique que personne n’aurait composée. Les artistes ont toujours fait des œuvres avec les résistances de leurs outils. Les chemins d’une cognition qui n’a pas nos raccourcis en sont une, et je ne connais pas de matière plus étrange à travailler.
Ces trois manières supposent qu’on renonce à mesurer ces machines à notre aune, où l’on ne voit que des retards et des dépenses, pour les prendre pour ce qu’elles sont, une cognition d’un autre type, qui vient à bout des problèmes par des chemins que nous ne prendrions pas, dont les échecs nous renseignent sur nous-mêmes, et dont les trouvailles nous arrivent sans que nous les ayons attendues.
Une cognition à côté de la nôtre, ni au-dessus ni au-dessous
Le mot de bêtise garde la machine au-dessous de nous, sur cette échelle unique que Frans de Waal a démontée pour les animaux. Je crois la machine à côté de nous, ni au-dessus ni au-dessous, et ce voisinage est nouveau dans l’histoire humaine : pour la première fois, une cognition qui n’est pas la nôtre nous parle dans notre langue. Les gibbons ne nous ont jamais raconté le monde tel qu’il apparaît à des mains faites pour les branches ; la machine, elle, nous répond. C’est en ce sens que sa bêtise est sa force.
