La lucidité imposée

Les capacités croissantes des modèles d’intelligence artificielle et des ordinateurs quantiques rendent transparentes les fragilités de nos constructions techniques. Face à cette mise à nu, le réflexe du séquestre est toujours temporaire. Ce qui s’impose, c’est une élévation collective.

D’où je parle

En avril 2026, l’entreprise Anthropic, qui développe l’intelligence artificielle Claude avec laquelle je travaille quotidiennement, a restreint l’accès à son dernier modèle, nommé Mythos, à seulement une cinquantaine d’entreprises sélectionnées. La raison invoquée est que ce modèle est particulièrement performant pour détecter les vulnérabilités dans le code informatique. Trop performant, en fait, pour être mis à disposition de tous : une telle capacité, entre les mains de pirates, pourrait devenir une arme redoutable.

J’aurais pu passer sur cette information comme on passe sur un fait divers technologique. Mais elle m’a arrêté, parce qu’elle touche à quelque chose de profond dans notre rapport aux machines pensantes. Elle dit ceci : il existe désormais des formes d’intelligence artificielle si puissantes qu’il faut en restreindre l’accès. Non pas parce qu’elles sont défectueuses, mais parce qu’elles fonctionnent trop bien. Le danger ne vient plus de l’erreur de la machine. Il vient de sa lucidité.

L’intelligence qui voit à travers

Dans mes travaux précédents, j’ai agréé à l’idée, commune maintenant, que l’intelligence artificielle transforme l’intelligence elle-même en commodité, comparable à l’électricité au début du vingtième siècle. Mais ce que révèle l’épisode Mythos, c’est qu’une commodité peut aussi être une substance dangereuse. On ne séquestre pas l’électricité. On séquestre les matières fissiles. Lorsqu’une capacité cognitive devient suffisamment puissante pour percer les protections que nous avons construites autour de nos infrastructures numériques, elle change de statut. Elle passe de l’outil au regard.

Un outil agit sur le monde. Un regard le dévoile. Mythos ne fabrique rien, ne construit rien, n’attaque rien en lui-même. Il voit. Il voit les failles dans le code, c’est-à-dire les fragilités cachées dans la matière même dont notre monde numérique est fait. Et c’est cette capacité de vision qui inquiète, bien plus qu’une capacité d’action.

Gaston Bachelard, dans La Formation de l’esprit scientifique (1938), montrait que le progrès de la connaissance ne procède pas par accumulation mais par rupture. Ce qu’il nommait les « obstacles épistémologiques » sont les certitudes que nous prenons pour des évidences et qui nous empêchent de voir la réalité telle qu’elle est. Chaque avancée scientifique consiste à traverser un de ces obstacles, à rendre visible ce qui était invisible. L’esprit scientifique, pour Bachelard, est fondamentalement un esprit qui accepte de voir ce qu’il préférait ne pas voir.

Les modèles d’IA comme Mythos accomplissent quelque chose d’analogue dans le domaine technique. Ils traversent un obstacle épistémologique collectif : celui de la sécurité par l’obscurité. Pendant des décennies, une part importante de la sécurité informatique a reposé sur le fait que les failles étaient difficiles à trouver. La complexité du code servait de protection. Ce n’était pas de la robustesse, c’était de l’opacité. Et voici qu’une machine dissipe cette opacité en quelques minutes.

Le séquestre, ce geste toujours provisoire

La première réaction face à cette lucidité nouvelle est le séquestre : restreindre l’accès, contrôler la diffusion, sélectionner les destinataires. Ce geste est compréhensible. Il est même nécessaire dans l’immédiat. Mais l’histoire des technologies nous enseigne qu’il est toujours provisoire.

Dans les années 1970 et 1980, l’Europe a tenté d’endiguer l’arrivée des magnétoscopes et magnétophones japonais, par crainte du piratage des œuvres audiovisuelles. Des barrières douanières ont été érigées. Elles n’ont tenu que quelques années. Les magnétoscopes et magnétophones se sont diffusés, le piratage s’est développé, et c’est la loi qui a dû s’adapter, notamment avec l’exception pour copie privée en 1985 et la rémunération qui l’accompagne. Le même schéma s’est reproduit avec le MP3 dans les années 2000, avec le peer-to-peer, avec le streaming. Sony, qui éditait des contenus musicaux protégés, a même développé des technologies de protection qui empêchaient ses propres clients d’utiliser les disques qu’ils avaient légalement achetés, avant de devoir y renoncer face au rejet massif du public, car ils développaient aussi les technologies qui permettaient de contourner leurs propres protections !

Le schéma est toujours le même. Une capacité technique nouvelle menace un équilibre existant. On tente de la contenir. La contention échoue. Et ce qui finit par se produire, c’est une transformation de l’ensemble de l’écosystème, qui doit s’élever pour intégrer la nouvelle donne. La question n’est jamais de savoir si la technologie se diffusera, mais comment le monde se transformera quand elle se sera diffusée.

L’ordinateur quantique, ou le même vertige à plus grande échelle

Ce que Mythos fait au code informatique, l’ordinateur quantique menace de le faire à la cryptographie tout entière. En mars 2025, des chercheur·euse·s chinois·es ont présenté le processeur quantique Zuchongzhi 3.0, capable de réaliser en quelques minutes des calculs qui prendraient des milliards d’années aux superordinateurs les plus puissants. En avril 2026, l’équipe Google Quantum AI a démontré qu’il faudrait moins de 500 000 qubits pour casser la cryptographie à courbe elliptique qui protège la plupart des blockchains, soit vingt fois moins que les estimations précédentes. L’horizon n’est plus théorique. Il se situe peut-être à 2029.

La blockchain, invention majeure de la dernière décennie, repose tout entière sur un pari : la difficulté computationnelle de certaines opérations mathématiques. Ce qui protège un portefeuille de bitcoins, ce n’est pas un mur, c’est la lenteur des ordinateurs classiques face à certains calculs. L’ordinateur quantique dissipe cette lenteur. Il rend transparent ce qui était opaque. Là encore, le même motif : non pas une attaque, mais un dévoilement.

Et là encore, le séquestre est la première réponse. Les ordinateurs quantiques sont encore confinés dans quelques laboratoires. Mais les physicien·ne·s qui travaillent dans ce domaine savent que cette exclusivité ne durera pas. Comme les premiers ordinateurs occupaient des salles entières il y a 50 ans, avant de tenir dans nos poches aujourd’hui, les machines quantiques finiront par se miniaturiser et se démocratiser. Et quand cela se produira, il ne sera plus question de protéger la blockchain par l’obscurité, il faudra que l’ensemble de la cryptographie s’élève vers des protocoles résistants au calcul quantique. Ce travail est d’ailleurs déjà en cours. Mais le changement est plus fondamental que cela.

Bachelard et la formation de la lucidité technique

Ce qui m’intéresse dans ces deux situations parallèles, ce n’est pas la dimension sécuritaire, sur laquelle d’autres sont bien plus compétent·e·s que moi. C’est la structure anthropologique qu’elles révèlent.

Bachelard distinguait dans ses travaux deux mouvements complémentaires de la connaissance : la rupture avec les certitudes anciennes, et la reconstruction sur de nouvelles bases. L’esprit scientifique, disait-il, se forme « contre un premier savoir ». Il ne s’agit pas simplement d’apprendre du nouveau, mais de désapprendre ce qui nous empêchait de voir. Dans Le Nouvel esprit scientifique (1934), il écrivait que la science contemporaine pense « contre le cerveau », c’est-à-dire contre nos intuitions premières, contre ce qui nous semble naturel et évident.

Les technologies de dévoilement computationnel, qu’il s’agisse de l’IA ou du calcul quantique, produisent exactement ce type de rupture. Elles nous obligent à penser contre nos certitudes techniques. Nous pensions que la complexité du code nous protégeait. Nous pensions que la difficulté mathématique de certains calculs garantissait la sécurité de nos échanges. Ces certitudes étaient des obstacles épistémologiques. La puissance computationnelle les traverse, et nous devons reconstruire sur de nouvelles bases.

Ce que Bachelard n’avait pas anticipé, c’est que cette rupture ne serait plus le fait de l’esprit humain seul, mais d’une machine. C’est une IA qui voit les failles du code, pas un·e chercheur·euse. C’est un ordinateur quantique qui dissout la cryptographie, pas un·e mathématicien·ne. La lucidité n’est plus seulement humaine. Elle est partagée avec nos machines, et parfois, comme dans le cas de Mythos, elle est d’abord machinique avant d’être humaine. Nous voilà dans la position paradoxale d’êtres qui doivent apprendre de la lucidité de leurs propres créations.

La technique qui se retourne sur elle-même

Bernard Stiegler, dans La Technique et le Temps (1994), a montré que la technique n’est pas un simple instrument au service de l’humain, mais un pharmakon, à la fois remède et poison, qui participe à la constitution même de ce que nous sommes. La technique nous fait autant que nous la faisons. Cette thèse, que j’ai déjà mobilisée dans mes travaux sur l’IA, prend ici une coloration nouvelle.

Car ce que Mythos accomplit, c’est un retournement de la technique sur elle-même. Un modèle d’IA, c’est-à-dire un artefact technique, examine du code informatique, c’est-à-dire un autre artefact technique, et en révèle les failles. La technique se regarde dans un miroir et y découvre ses propres fragilités. Ce n’est pas de la conscience, je me garderai bien de ce mot. Mais c’est une forme d’autoréférentialité technique qui mérite qu’on s’y arrête.

Stiegler parlait de « prolétarisation » pour décrire la perte de savoir que la technique peut produire : quand la machine fait à notre place, nous perdons le savoir-faire correspondant. Le GPS nous fait perdre le sens de l’orientation, le correcteur orthographique érode notre maîtrise de la langue (et ouvre aussi à de nouveaux espaces créatifs, ne simplifions pas, mais ce n’est pas le sujet ici). Mais ce que nous observons ici est un phénomène différent : ce n’est pas un savoir-faire que nous perdons, c’est un savoir-voir que la machine possède et que nous ne possédions pas. Mythos voit dans le code ce que les développeur·euse·s humain·e·s ne voyaient pas, ou voyaient trop lentement. Ce n’est pas une prolétarisation, c’est une augmentation de la lucidité collective par le truchement de la machine.

Mais une augmentation ambivalente, comme toujours avec le pharmakon. Car cette lucidité est à double tranchant : entre les mains de celles et ceux qui défendent les systèmes, elle permet de les renforcer ; entre les mains de celles et ceux qui les attaquent, elle permet de les détruire. D’où le séquestre. D’où aussi son caractère provisoire.

Mark Alizart et l’informatique comme dévoilement

Mark Alizart, dans Informatique céleste (2017), propose une thèse provocante : l’informatique n’est pas un simple outil inventé au vingtième siècle, c’est une structure profonde du réel. Derrière la matière, qu’elle soit inerte ou vivante, il y a de l’information. Le mot « ordinateur » lui-même, rappelle Alizart, vient du vocabulaire théologique : Deus Ordinator, le Dieu qui ordonne le monde. L’informatique, dans cette perspective, ne fait pas que calculer. Elle révèle l’ordre caché des choses.

Si l’on suit cette intuition, ce que font les modèles d’IA lorsqu’ils détectent des vulnérabilités dans le code n’est pas simplement un exploit technique. C’est un moment de dévoilement, au sens fort du terme. Le code informatique est la matière dont notre monde numérique est fait. Quand une IA en révèle les failles, elle met à nu la structure cachée de notre habitat technique. Elle accomplit ce que Heidegger nommait l’aléthéia, le dévoilement du vrai, mais dans le registre du calcul plutôt que dans celui de la parole.

Alizart voit dans l’informatique la possibilité de restaurer une forme d’unité perdue entre l’humain et le monde. Ce qui m’intéresse dans cette perspective, sans en reprendre la totalité, c’est l’idée que la computation n’est pas un regard neutre posé sur un monde extérieur, mais une manière pour le monde de devenir transparent à lui-même. Les vulnérabilités du code n’ont pas été créées par Mythos. Elles étaient là, cachées dans l’opacité de millions de lignes de programmation. Ce que la machine fait, c’est rendre le monde technique lisible à lui-même. Et cette lisibilité est irréversible.

La lucidité imposée comme condition anthropologique

J’en arrive au concept que je souhaite proposer : la lucidité imposée. Ce terme désigne le processus par lequel la puissance computationnelle croissante rend inévitablement transparentes les fragilités de nos constructions, qu’elles soient techniques, économiques ou institutionnelles, nous contraignant non pas à les cacher mieux mais à les dépasser.

La lucidité imposée n’est pas une propriété des machines. C’est une condition dans laquelle les machines nous placent. Elle se distingue de ce que j’ai précédemment nommé la « lucidité partagée » dans mes travaux sur la sycophantie des IA. La lucidité partagée est un idéal relationnel, une pratique délibérée d’honnêteté dans l’échange entre humain·e et machine. La lucidité imposée est une contrainte structurelle. On ne la choisit pas. Elle advient parce que la puissance de calcul franchit un seuil au-delà duquel ce qui était caché ne peut plus l’être.

Ce concept permet de penser ensemble des phénomènes qui semblent distincts : la détection automatisée de vulnérabilités logicielles, la menace quantique sur la cryptographie, mais aussi, à un niveau plus large, la capacité des IA à analyser des corpus de données que nul·le humain·e ne pouvait embrasser, à repérer des structures invisibles dans le langage, dans les images, dans les flux financiers. À chaque fois, le même mouvement : une opacité qui servait de protection se dissipe, et il faut reconstruire autrement.

Gilbert Simondon, dans Du mode d’existence des objets techniques (1958), défendait l’idée que le progrès technique véritable ne consiste pas à ajouter de la complexité mais à produire de la « concrétisation », c’est-à-dire une intégration plus profonde entre les différentes fonctions d’un objet. Un moteur progresse quand ses composants coopèrent mieux, non quand on en ajoute de nouveaux. La lucidité imposée force précisément ce type de concrétisation : on ne peut plus empiler des couches de protection sur des structures fragiles, il faut repenser les structures elles-mêmes.

L’élévation collective, ou les mutations que nous ne prévoyons pas

Ce qui me frappe, en observant les réponses historiques aux technologies de dévoilement, c’est que l’issue n’est jamais le séquestre durable. L’issue est toujours une transformation. Mais je voudrais être précis sur la nature de cette transformation, car elle va bien au-delà d’une simple montée en gamme technique.

Prenons l’exemple de la musique, que je connais bien. Quand le MP3 est apparu, on a d’abord cru qu’il s’agissait d’un problème de piratage, et que la réponse serait juridique ou technique : de meilleures protections, des poursuites contre les contrevenant·e·s, des verrous numériques, la loi Hadopi (2007), d’une confondante bêtise et d’une coupable inutilité pour le futur de l’économie des pratiques artistiques, toujours en vigueur aujourd’hui. Rien de tout cela n’a fonctionné. Ce qui s’est produit, c’est quelque chose que personne n’avait prévu : le MP3 a changé la nature même de ce qu’est la musique. L’album, cette forme qui structurait la création musicale depuis les années 1960, s’est disloqué au profit du single et de la playlist. L’écoute s’est individualisée, algorithmisée. La relation entre un·e artiste et son public s’est recomposée autour du streaming, des réseaux sociaux, du concert devenu source principale de revenus. Ce n’était pas un « upgrade ». C’était une mutation de l’écosystème tout entier, y compris de la façon dont les musicien·ne·s composent, produisent et pensent leur art.

On avait déjà observé ce phénomène avec l’arrivée des synthétiseurs dans les années 1970 et 1980. Le synthétiseur n’a pas simplement ajouté de nouveaux sons à la palette existante. Il a transformé ce que « jouer de la musique » veut dire. Des musicien·ne·s qui ne savaient pas lire une partition ont pu créer des œuvres majeures. De nouveaux genres entiers sont nés, de la musique électronique à la techno, parce que l’instrument avait changé la relation entre le geste et le son. Puis les samplers sont arrivés et ont produit la même secousse : la matière sonore elle-même, le son enregistré d’un autre, est devenue un matériau de composition. Le hip-hop en est né. La question « qu’est-ce qu’un·e auteur·rice ? » s’en est trouvée bouleversée.

L’intelligence artificielle prolonge ce mouvement. Des outils comme Suno ou Udio permettent aujourd’hui à des personnes sans formation musicale de produire des morceaux d’une qualité sonore professionnelle. Ce n’est pas, là non plus, un simple perfectionnement. C’est une redéfinition de ce que « créer de la musique » signifie, qui oblige les musicien·ne·s à se reposer la question de leur singularité, de ce qu’ils et elles apportent que la machine n’apporte pas.

Je détaille cet exemple parce qu’il éclaire ce qui nous attend dans le domaine de la sécurité informatique et de la cryptographie. Quand Mythos et ses successeurs seront accessibles à tous, la réponse ne sera pas simplement de fabriquer des cryptographies plus sophistiquées, même si cela en fera partie. La réponse sera une transformation dont nous ignorons la forme. Peut-être que la notion même de « code source » sera repensée. Peut-être que la sécurité informatique cessera d’être un domaine spécialisé pour devenir une propriété intégrée à la conception même des systèmes, comme l’hygiène est devenue (ou devrait l’être, nous en avons en tous cas la connaissance) une dimension intégrée de la médecine et non plus un champ séparé. Peut-être que la relation entre humain·e·s et machines dans l’écriture du code se transformera au point que les catégories actuelles de « développeur·euse » et d’« outil » perdront leur pertinence. Je ne sais pas. Personne ne le sait. C’est précisément le propre de ces mutations : elles transforment les règles du jeu elles-mêmes, pas seulement les joueur·euse·s.

Le magnétoscope, par exemple, n’a pas simplement été toléré. Il a engendré l’industrie de la vidéo à domicile, puis celle du DVD, puis celle du streaming, chacune redéfinissant le rapport du public aux images et à la fiction. La menace quantique sur la blockchain ne sera pas non plus simplement « endiguée ». Elle forcera une reconfiguration de la confiance numérique dont nous ne pouvons pas encore dessiner les contours.

John Dewey, dans Expérience et éducation (1938), montrait que l’apprentissage véritable ne se produit pas dans le confort de la répétition mais dans la confrontation avec ce qui résiste, ce qui dérange, ce qui oblige à réorganiser ses certitudes. La lucidité imposée par nos machines est de cet ordre : un apprentissage que nous n’avons pas choisi, dont nous ne connaissons pas encore le contenu, mais qui nous transformera.

Ce que cela change pour nous

Dans mes travaux sur la place des êtres humains face à l’intelligence artificielle, j’ai souvent insisté sur ce qui nous distingue des machines : l’écriture sourcière ancrée dans l’expérience vécue, la singularité relationnelle de la rencontre, la capacité à panser nos liens avec les technologies. La lucidité imposée ne contredit pas ces analyses. Elle les complète d’une dimension que je n’avais pas encore formulée.

Car ce que cette lucidité nous oblige à reconnaître, c’est que notre civilisation technique a été construite, pour une part non négligeable, sur de l’opacité. La complexité de nos systèmes informatiques servait de protection. La lenteur de nos ordinateurs servait de rempart. L’inintelligibilité de nos codes servait de mur. Ces protections se dissolvent, une par une, sous le regard de machines que nous avons nous-mêmes créées.

Cela peut effrayer. Mais cela peut aussi libérer. Car une civilisation qui dépend de l’opacité pour sa sécurité est une civilisation fragile. Une civilisation qui construit sa robustesse sur la transparence, sur la qualité intrinsèque de ses structures, sur la solidité plutôt que sur le secret, est une civilisation plus forte. La lucidité imposée, si nous savons l’accueillir, est une invitation à passer de l’une à l’autre.

Tim Ingold, dans Faire (2013), propose de penser notre rapport au monde comme un processus de « correspondance » : non pas une maîtrise de l’extérieur mais un ajustement continu, un dialogue permanent avec les matériaux et les forces qui nous entourent. Les machines qui nous imposent leur lucidité ne sont pas des ennemies. Elles sont des partenaires exigeant·e·s qui nous obligent à correspondre plus justement avec le monde que nous avons construit.

Cette correspondance, cette exigence de justesse, est peut-être la forme contemporaine la plus concrète de ce que la philosophie appelle depuis toujours la sagesse : non pas savoir beaucoup, mais voir clairement, et avoir le courage de reconstruire à partir de ce que l’on voit. Nous n’en sommes qu’au tout début. Les transformations que la lucidité imposée produira dans nos manières de vivre, de travailler, de faire confiance et de construire ensemble restent largement imprévisibles. Ce texte se veut avec humilité être un premier repère posé dans un paysage qui commence à peine à se dessiner.