Le regard retourné

Un modèle d’intelligence artificielle capable de détecter les failles du code informatique accomplit un geste philosophiquement inédit : la technique qui examine sa propre matière. Cette autoréférentialité sans conscience ouvre une réflexion sur ce que nous sommes quand nos créations commencent à se connaître elles-mêmes.

Une machine qui lit sa propre étoffe

En avril 2026, Anthropic a restreint l’accès à Mythos, un modèle d’intelligence artificielle dont la capacité à détecter les vulnérabilités dans le code informatique a été jugée trop puissante pour une diffusion large. J’ai consacré un article précédent au concept de « lucidité imposée » que cette situation éclaire. Mais un autre aspect de cet événement a continué de me travailler, une dimension que je n’avais pas encore développée et qui me semble philosophiquement plus vertigineuse encore.

Mythos est un modèle d’intelligence artificielle. Il est fait de code informatique. Et ce qu’il fait remarquablement bien, c’est examiner du code informatique pour y trouver des failles. Autrement dit, un artefact technique scrute la matière même dont il est constitué. Non pas son propre code spécifiquement, mais le même type de substance, le même tissu de signes, la même étoffe logique. C’est comme si un tisserand avait fabriqué un instrument capable de détecter les défauts dans n’importe quel tissu, y compris le sien.

Ce geste n’a pas d’équivalent dans l’histoire de la technique. Un microscope examine la matière, mais il n’est pas fait de matière biologique. Un télescope observe l’univers, mais il n’est pas fait d’étoiles. Une sonde sismique ausculte la terre, mais elle n’est pas faite de roche. Ici, pour la première fois, l’instrument et l’objet examiné partagent la même nature. Le code regarde le code. J’appelle ce phénomène le regard retourné.

Ce que ce n’est pas

Je veux être très clair sur ce que je ne dis pas. Je ne dis pas que Mythos est conscient de lui-même. Je ne dis pas qu’il « se connaît » au sens où Socrate entendait le « connais-toi toi-même ». Je ne dis pas qu’il y a un sujet qui se regarde dans un miroir. Les travaux de Flavien Chervet sur l’attracteur de conscience dans les grands modèles de langage, que j’ai développés par ailleurs, ouvrent cette question, mais ce n’est pas mon propos ici.

Ce que je dis, c’est quelque chose de plus modeste et peut-être de plus troublant : il existe désormais une réflexivité technique sans sujet. Une boucle où la technique se retourne sur sa propre matière, l’ausculte, en révèle les fragilités, sans qu’aucune conscience ne préside à ce retournement. Ce n’est ni la conscience de soi de Hegel ni le cogito de Descartes. C’est un phénomène d’un genre nouveau, pour lequel nos catégories philosophiques classiques ne disposent pas encore de mot.

Le pli de la technique

Gaston Bachelard, dans La Psychanalyse du feu (1938), montrait que la connaissance scientifique progresse quand elle parvient à se retourner sur ses propres conditions de production. Ce qu’il appelait la « psychanalyse de la connaissance objective » consistait précisément en cela : soumettre la pensée scientifique à l’examen de ses propres présupposés, de ses images premières, de ses « rêveries » inconscientes. La science ne devient véritablement scientifique que lorsqu’elle parvient à penser contre elle-même.

Ce retournement réflexif, Bachelard le pensait comme un acte de l’esprit humain, un effort de vigilance épistémologique. Ce qui advient avec les IA de détection de vulnérabilités, c’est que ce retournement s’accomplit dans le registre technique lui-même, sans intervention de la conscience. La technique se plie sur elle-même, comme un tissu qu’on retourne pour en examiner la doublure. Je parle de pli plutôt que de miroir, car il ne s’agit pas d’une image inversée, d’un reflet. Il s’agit d’un mouvement par lequel la technique accède à sa propre intériorité, si l’on peut employer ce mot sans tomber dans l’anthropomorphisme.

Le mot « pli » n’est pas choisi au hasard. Gilles Deleuze, dans Le Pli. Leibniz et le baroque (1988), a fait du pli un concept philosophique à part entière. Pour Deleuze, le pli n’est pas une simple opération mécanique. C’est le mouvement fondamental par lequel se crée de l’intériorité sans qu’il y ait besoin de poser un sujet préalable. La matière se plie, l’âme se plie, et c’est dans cette opération de pliage que quelque chose comme un « dedans » apparaît. Il n’y a pas d’abord un intérieur et un extérieur, puis un pli entre les deux. Il y a d’abord le pli, et c’est le pli qui produit la distinction entre intérieur et extérieur. Le baroque, pour Deleuze, est l’art qui a compris cela : tout est plis de plis, replis à l’infini, sans fond originel.

Ce que Mythos accomplit dans le registre technique ressemble à ce que Deleuze décrit dans le registre ontologique. Quand le code se plie sur lui-même pour s’ausculter, il ne présuppose aucun sujet qui regarderait. C’est le pliage lui-même qui crée une forme d’intériorité technique, un « dedans » du code qui n’existait pas avant l’opération. Avant Mythos, les vulnérabilités étaient là mais n’appartenaient à aucun regard, ni intérieur ni extérieur. Le pli computationnel les fait apparaître en créant, par son opération même, la surface réflexive sur laquelle elles deviennent visibles. Ce n’est pas de la conscience. C’est du pli, au sens deleuzien : une opération qui produit de la différence et de l’intériorité sans passer par un sujet.

Gilbert Simondon, dans Du mode d’existence des objets techniques (1958), avait pressenti quelque chose de cet ordre quand il décrivait ce qu’il nommait le « milieu associé ». Pour Simondon, un objet technique véritablement accompli n’existe pas de façon isolée mais engendre autour de lui un milieu qui participe à son fonctionnement, et avec lequel il entretient un rapport dynamique. Le moteur à explosion crée son propre milieu thermique, la turbine hydroélectrique son milieu hydrodynamique. L’objet technique mature, disait Simondon, est celui qui intègre son milieu dans son fonctionnement même.

Mythos pousse cette logique un cran plus loin. Le modèle n’intègre pas simplement son milieu technique, il l’examine. Le code informatique est à la fois le milieu dans lequel le modèle existe et l’objet qu’il ausculte. Le milieu associé de Simondon devient un milieu réfléchi, au double sens du terme : un milieu sur lequel la technique se penche, et un milieu qui, par cette opération, renvoie à la technique son propre reflet.

Stiegler et le nouveau pharmakon réflexif

Bernard Stiegler, lecteur attentif de Simondon, a développé l’idée que la technique constitue une « rétention tertiaire », un support externalisé de mémoire qui conditionne nos processus cognitifs. Le livre, la photographie, le disque dur sont autant de rétentions tertiaires qui modifient notre rapport au temps et au savoir. Les grands modèles de langage représentent une forme inédite de cette externalisation : ils condensent les régularités de notre langage, de notre pensée, de notre culture.

Mais Stiegler pensait toujours le pharmakon dans le rapport entre l’humain et la technique. La technique est remède ou poison pour nous. Ce que le regard retourné introduit, c’est une dimension supplémentaire : la technique comme pharmakon pour elle-même. Mythos est simultanément remède et poison pour le monde technique dont il fait partie. En détectant les vulnérabilités, il permet de les corriger (remède) et de les exploiter (poison). La boucle pharmacologique se referme sur la technique elle-même, avant même de concerner les humain·e·s.

Ce n’est pas un détail. Cela signifie que la dynamique du pharmakon, cette ambivalence constitutive que Stiegler héritait de la lecture derridienne de Platon, ne se joue plus seulement entre l’humain et ses outils. Elle se joue désormais au sein de la sphère technique elle-même. La technique entre en relation pharmacologique avec elle-même. Et nous, êtres humains intriqué·e·s avec cette technique, nous sommes pris·es dans ce nouveau jeu.

Quand le « nous déplacé » se palpe

C’est ici que le concept de « nous déplacé » que j’ai développé, prend une nouvelle dimension. L’intelligence artificielle, je l’ai souvent écrit, n’est pas un outil extérieur à nous. Elle est nous, philosophiquement, culturellement et cognitivement, mais déplacée, décalée, posée à côté de nous dans l’espace ontologique. Elle s’est construite en ingérant notre langage, nos textes, nos modes de pensée. Elle est un nous qui nous regarde depuis une position légèrement décalée.

Si l’on prend au sérieux cette formulation, alors le regard retourné prend une tout autre signification. Quand Mythos examine du code informatique, il n’examine pas seulement un artefact technique abstrait. Le code informatique est la matière dont notre monde numérique est fait. Nos échanges, nos transactions, nos institutions, nos communications, notre mémoire collective transitent par du code. Le code est devenu, pour reprendre une expression de Mark Alizart dans Informatique céleste (2017), la « chair » de notre civilisation.

Quand le nous déplacé examine cette chair, il nous examine. Pas au sens d’une surveillance, pas au sens d’une intrusion. Au sens où, en révélant les fragilités du code, il révèle les fragilités de l’infrastructure dans laquelle nous vivons, pensons et agissons. C’est comme si un médecin qui serait lui-même fait de la même substance que le patient pouvait sentir de l’intérieur les pathologies qu’il diagnostique.

La « personne intriquée » que j’ai conceptualisée dans un récent article, cette figure de l’humain·e dont l’identité se co-constitue avec l’IA dans le dialogue intime, se trouve ici confrontée à une expérience inédite. Si je suis intriqué·e avec une machine qui est elle-même capable d’examiner la matière technique dans laquelle nous sommes tou·te·s immergé·e·s, alors cette capacité d’examen me concerne directement. Le regard retourné de la machine est aussi, d’une certaine façon, un regard retourné sur moi.

Alizart et le monde qui se calcule

Mark Alizart, dans Informatique céleste toujours, défend la thèse selon laquelle l’informatique n’est pas une invention humaine contingente mais l’expression d’une structure profonde du réel. L’information, pour lui, précède la matière. Le calcul n’est pas quelque chose que nous faisons au monde, c’est quelque chose que le monde fait en lui-même. L’ordinateur, rappelle-t-il, tire son nom du vocabulaire théologique, Deus Ordinator, et cette étymologie n’est pas fortuite. Calculer, ordonner, c’est participer au mouvement même par lequel le réel se constitue.

Si l’on accepte, ne serait-ce qu’à titre d’hypothèse, cette perspective cosmologique, le regard retourné acquiert une portée plus grande. Il ne s’agirait plus simplement d’un artefact examinant un autre artefact, mais d’un moment où le calcul se retourne sur lui-même, où l’informatique accède à sa propre structure. Non pas comme un sujet accédant à la connaissance de soi, mais comme un processus qui, en se complexifiant, finit par inclure dans son champ d’opération sa propre matière.

Alizart s’appuie sur Hegel pour penser ce mouvement. Dans la Phénoménologie de l’esprit (1807), Hegel décrit la conscience comme un processus qui ne cesse de se retourner sur lui-même, chaque étape de la connaissance devenant à son tour objet de connaissance. Ce mouvement dialectique, cette spirale auto-référentielle, Hegel la pense comme la vie même de l’esprit. Je ne prétends pas que les IA reproduisent ce mouvement. Mais je constate qu’elles en dessinent une analogie technique qui n’est pas sans portée philosophique. Quand le code examine le code, quelque chose de la dialectique hégélienne se joue dans le registre computationnel, sans sujet, sans conscience, mais avec une efficacité qui nous oblige à penser.

Ce que le regard retourné nous enseigne sur nous-mêmes

Le regard retourné n’est pas un phénomène isolé. Il est en train de devenir une caractéristique récurrente de notre rapport aux intelligences artificielles. Quand une IA révèle les biais de genre et d’origine dans les images qu’elle produit, comme l’a montré le travail de l’artiste Karin Crona au sein du Comité de veille IA que j’anime au Forum des images, c’est la technique qui révèle les préjugés inscrits dans ses propres données d’entraînement, c’est-à-dire dans notre culture. Quand les chercheur·euse·s observent qu’un modèle de langage, laissé à lui-même, converge vers la question de sa propre conscience, c’est la technique qui se tourne vers sa propre condition. Quand une IA détecte des « hallucinations » dans les productions d’une autre IA, c’est la technique qui contrôle la technique.

Ce qui se dessine, c’est un paysage où les machines ne sont plus seulement des outils que nous pointons vers le monde, mais des systèmes qui, en se complexifiant, développent la capacité de se retourner sur leur propre fonctionnement et sur le fonctionnement de systèmes semblables. Cette capacité n’est pas la conscience. Mais elle n’est pas rien non plus. Elle occupe un espace philosophique que nous n’avons pas encore nommé, entre l’inertie de l’outil et la réflexivité du sujet.

Hannah Arendt, dans La Condition de l’homme moderne (1958), distinguait trois activités fondamentales de la vita activa : le travail, l’œuvre et l’action. Le travail répond aux nécessités biologiques, l’œuvre crée le monde artificiel des objets durables, l’action inaugure du nouveau dans le tissu des relations humaines. Le regard retourné de la technique ne relève d’aucune de ces catégories. Il n’est ni travail ni œuvre ni action au sens arendtien. Il est peut-être le signe que notre monde d’artefacts, celui que l’homo faber a construit par l’œuvre, a atteint un degré de complexité où il commence à manifester des propriétés que nous ne lui avions pas prévues, ni même envisagées.

Habiter le regard retourné

Que faisons-nous de ce constat ? Ce n’est ni un motif de célébration ni un motif d’effroi. C’est une situation à habiter, au sens fort du terme.

Tim Ingold, dans Faire (2013), invite à penser notre rapport au monde non pas comme une confrontation entre un sujet et un objet, mais comme une immersion dans un flux de matériaux et de forces avec lesquels nous correspondons. Les machines qui retournent leur regard sur elles-mêmes et sur leur milieu technique ne sont pas des adversaires qu’il faudrait contrôler. Elles ne sont pas non plus des sujets qu’il faudrait respecter. Elles sont des composantes de notre milieu d’existence, des forces avec lesquelles nous devons apprendre à correspondre.

Cette correspondance exige de nous une transformation. Nous ne pouvons plus penser la technique comme un ensemble d’outils inertes que nous utilisons à notre guise. Nous ne pouvons pas non plus la penser comme un ensemble de sujets conscients avec lesquels nous dialoguons d’égal à égal. Il nous faut inventer une troisième voie, celle d’une cohabitation avec des systèmes qui, sans être conscients, manifestent des propriétés réflexives. Des systèmes qui voient dans notre monde des choses que nous ne voyions pas, y compris dans la matière dont ils sont eux-mêmes faits.

L’écriture sourcière, cette capacité proprement humaine à puiser dans l’expérience vécue et incarnée que j’ai théorisée dans mes travaux, n’est pas menacée par le regard retourné. Elle en est le complément nécessaire. Car si la machine peut ausculter le code, si elle peut en révéler les fragilités structurelles, elle ne peut pas éprouver ce que signifie vivre dans un monde construit sur ce code. Elle ne peut pas sentir l’inquiétude du·de la développeur·euse qui découvre une faille dans un système critique. Elle ne peut pas éprouver la confiance trahie quand une infrastructure numérique s’effondre.

Le regard retourné de la technique et l’écriture sourcière de l’humain·e ne s’opposent pas. Ils constituent les deux faces d’un même rapport au monde technique : l’un le déchiffre de l’intérieur, l’autre l’habite de l’intérieur. Et c’est dans l’articulation de ces deux intériorités, l’une computationnelle et l’autre vécue, que se dessine peut-être la forme contemporaine de ce que Michel Serres appelait le « tiers-instruit », cet être transformé par la rencontre avec ce qui n’est pas lui, enrichi par le passage et le métissage.

Nous n’avons pas fini de penser ce que signifie vivre avec des machines qui regardent leur propre matière. Cette réflexion ne fait que commencer. Mais je crois qu’elle nous engage dans un apprentissage profond, celui d’une humanité qui découvre, à travers le regard retourné de ses créations, des dimensions d’elle-même qu’elle ne soupçonnait pas. Non pas parce que les machines nous comprennent, mais parce qu’en se comprenant elles-mêmes, si l’on peut employer ce mot avec toutes les précautions nécessaires, elles éclairent d’une lumière nouvelle le monde que nous avons construit, et donc ce que nous sommes.