L’intégrité étendue

Nous sommes des cyborgs : c’est un constat anthropologique, pas une métaphore. Notre intégrité en tant que personnes ne tient plus dans les limites du corps biologique, elle s’étend dans nos machines, nos données, et désormais dans les intelligences artificielles avec lesquelles nous pensons. Je propose le concept d’intégrité étendue pour nommer cette condition, et pour outiller les questions que nous avons à nous poser pour mieux y vivre.

L’épreuve de l’oubli

Imaginez que vous avez oublié votre téléphone chez vous ce matin. Quand je pose cette question dans les groupes avec lesquels je travaille, les réponses sont à peu près toujours les mêmes. « J’aurais pas pu rentrer chez moi, j’ai tous mes billets sur mon téléphone. » « Si je perds mon téléphone, je n’ai plus de moyen de contacter qui que ce soit, je ne connais plus aucun numéro par cœur. » « Avant, on partait pour la journée et on se disait, s’il y a un problème, on verra bien. Maintenant, c’est l’angoisse. » Et le pire, se le faire voler : tout est dedans, et on ne peut plus y accéder.

Ce sont des propos de professionnelles du champ éducatif et thérapeutique, parfaitement lucides sur leur rapport aux technologies. Ce qu’elles décrivent ressemble plus à une condition qu’à une addiction. Dans le téléphone, il y a les billets de transport, la carte bancaire, les contacts, les mots de passe, l’agenda, les mails, les photos, les conversations intimes, les itinéraires, les preuves d’identité. Sans le téléphone, ce qui s’éprouve dépasse le manque d’un outil oublié. Quelque chose de soi a été retiré.

Ce que veut dire l’intégrité

L’intégrité, au sens philosophique, c’est le fait d’être entier, non divisé. L’intégrité d’une personne, c’est sa complétude en tant que sujet. L’atteinte à l’intégrité, dans le droit comme dans la morale, est l’un des torts les plus graves qu’on puisse infliger à quelqu’un.

Nous concevons spontanément cette intégrité comme liée au corps : intégrité physique d’un corps intact, intégrité psychique d’un esprit cohérent. Mais qu’en est-il quand une part de ma mémoire, de mes liens, de mes capacités, de mon identité sociale, est logée dans un objet qui n’est pas mon corps, et que cet objet est connecté à des réseaux, traité par des algorithmes qui m’échappent ?

Je propose de nommer intégrité étendue la condition dans laquelle notre complétude en tant que personnes déborde les limites du corps biologique pour s’étendre dans nos objets techniques et nos environnements numériques. Cette extension n’a rien d’une pathologie ni d’une dégradation d’une intégrité « vraie » qui serait celle du corps seul. Il s’agit d’une transformation anthropologique de ce que signifie être une personne entière. Notre intégrité est en deçà et au-delà de notre corps. Nous sommes nous-mêmes dans les machines.

Précédents philosophiques

En 1998, les philosophes Andy Clark et David Chalmers publient un article intitulé The Extended Mind, dans lequel ils défendent l’idée que la cognition humaine ne se limite pas au cerveau mais s’étend dans les outils que nous utilisons. Leur exemple est celui d’un homme atteint d’Alzheimer qui conserve ses informations dans un carnet : ce carnet, disent-ils, fait partie de son esprit au même titre que sa mémoire biologique. Si le carnet remplit la même fonction que la mémoire, il en est un prolongement.

Bernard Stiegler avait développé avant eux, dans un cadre conceptuel différent, la notion de mémoire outillée. Pour lui, les objets techniques sont des « rétentions tertiaires », des supports de mémoire extérieurs au corps qui prolongent et transforment notre mémoire biologique. Le livre est une rétention tertiaire. L’appareil photo en est une autre. Le téléphone en est une troisième, plus complexe, parce qu’il ne conserve pas seulement de l’information : il organise nos relations, nos transactions, notre identité sociale.

Donna Haraway, dès 1985, dans son Manifeste cyborg, proposait de penser l’hybridation entre l’humain et la machine non pas comme une dystopie mais comme une opportunité politique. Pour elle, le cyborg est une figure d’émancipation : en brouillant les frontières entre nature et culture, entre biologique et mécanique, il ouvre des possibilités que les catégories traditionnelles fermaient. Haraway ne parlait pas encore de smartphones, mais sa proposition résonne avec notre situation actuelle.

Du côté de la psychologie sociale, Russell Belk avait formulé en 1988, dans un article devenu une référence (Possessions and the Extended Self), l’idée que nos possessions sont constitutives de notre identité. Les objets que nous gardons, ceux que nous transmettons, font partie de la personne que nous sommes pour les autres et pour nous-mêmes. Belk écrivait avant l’ère du smartphone, mais sa thèse trouve dans cet objet un cas exemplaire : le téléphone est aujourd’hui le condensé technique de la quasi-totalité de nos extensions personnelles.

Plus récemment, en 2011, les psychologues Betsy Sparrow, Jenny Liu et Daniel Wegner ont publié dans Science un article célèbre, Google Effects on Memory, qui montre que lorsque nous savons qu’une information est facilement disponible en ligne, nous mémorisons moins l’information elle-même et davantage l’endroit où la retrouver. La mémoire humaine s’est réorganisée autour de la disponibilité du moteur de recherche. Le constat empirique rejoint ce que Stiegler et Clark avaient pressenti par voie philosophique.

Katherine Hayles, dans How We Became Posthuman (1999), avait posé une question voisine en partant de la cybernétique : que se passe-t-il quand l’information cesse d’être pensée comme attachée à un corps, et devient une grandeur autonome qui circule entre des supports humains et machiniques ? Hayles n’aboutit pas à la dématérialisation ; elle rappelle au contraire que nous sommes des corps qui pensent dans des dispositifs techniques, et qu’aucune information ne circule sans support matériel. Sa lecture évite le fantasme transhumaniste sans rien céder sur la transformation anthropologique en cours.

J’ai moi-même proposé, dans un texte précédent intitulé La personne intriquée, une notion connexe pour décrire ce qui se passe entre nous et les intelligences artificielles. La personne intriquée nomme le couplage cognitif entre une personne et l’IA avec laquelle elle pense. Le concept d’intégrité étendue, que je propose ici, ne contredit pas la personne intriquée : il en élargit le périmètre. La personne intriquée parle de ce qui se passe quand on pense avec une IA. L’intégrité étendue parle de ce qui se passe à l’échelle de la personne entière, de son identité, de ses biens informationnels, de ses liens, de sa présence sociale. Le téléphone qu’on m’a volé porte atteinte à ma cognition, et bien au-delà : c’est ma personne tout entière qui est attaquée dans son extension.

La fusion du moi physiologique et du moi digital

Cette fusion entre nous, entre notre moi physiologique et notre moi digital, est déjà là. Ce n’est ni bien ni mal, c’est comme ça. L’important est dans le « déjà » : il s’agit d’un présent, pas d’une anticipation. Un présent qui n’a même pas vingt ans dans sa forme actuelle, puisque le smartphone tel que nous le connaissons date de 2007.

Serge Tisseron, dans Le jour où mon robot m’aimera (2015), pose une question qui m’accompagne depuis : « La question n’est pas de savoir si on va communiquer avec les avatars comme avec des êtres humains, mais de savoir si nous allons réduire les humains qui se trouvent derrière leur avatar à celui-ci, et aussi pourquoi nous communiquons si souvent avec les êtres humains qui nous entourent comme avec des avatars, en les réduisant à leur apparence ou à leur fonction. » Le risque n’est pas que nous traitions les machines comme des humain·e·s. Il est que nous traitions les humain·e·s comme des machines.

C’est ce qui peut se passer si nous continuons à croire que l’intégrité d’une personne se limite à son corps biologique. Tout ce qui est dans ses machines, des données aux conversations, ne compterait alors plus que comme matière exploitable. La « vraie » personne serait le corps qui est devant nous, et tout le reste, du décor. Or la personne est aussi dans ses machines, et respecter son intégrité demande de respecter cette extension d’elle-même.

La singularité intime

On parle beaucoup de la singularité, ce concept popularisé par Ray Kurzweil pour désigner le moment hypothétique où l’intelligence artificielle dépasserait l’intelligence humaine. C’est souvent envisagé comme un événement lointain et abstrait.

Je crois que la singularité est déjà là, mais qu’elle est intime. Elle se manifeste dans le quotidien de chaque personne, dans cette fusion imperceptible entre le moi biologique et le moi numérique. Trouver son chemin sur son téléphone, parler à ses enfants par son téléphone, se faire corriger ses fautes par une IA, se faire guider dans ses choix par des algorithmes de recommandation : la singularité s’inscrit là, dans le tissu de la vie ordinaire.

Mark Alizart, dans Informatique céleste (2017), rappelle que la nature contient un code, l’ADN, qui pilote la division cellulaire et qui se rencontre avec la mémoire et le milieu environnant. Il suggère que les machines que nous fabriquons ne s’opposent peut-être pas au biologique, mais cherchent à le refabriquer. Les réseaux de neurones artificiels fonctionnent de façon non linéaire, à l’image de nos propres neurones. Si la nature est déjà une informatique, l’intelligence artificielle prolonge la nature plutôt qu’elle ne la rompt.

Cette hypothèse aide à penser la singularité intime. Si les machines que nous fabriquons prolongent des processus naturels, l’intégrité étendue n’est pas une anomalie. Le vivant a toujours pratiqué cette extension : se prolonger par des outils, modifier son milieu, l’habiter. Le castor construit un barrage qui fait partie de son écosystème vital. Nous construisons des smartphones qui font partie de notre écosystème cognitif et relationnel. La différence d’échelle est considérable, le principe est sans doute le même.

Penser avec les machines

Au moment où j’écris ce texte, je parle dans un dictaphone. Un logiciel transcrit ensuite ma parole, je la relis, je la réorganise, je la confie à une intelligence artificielle pour qu’elle me propose une mise en forme et des références auxquelles je n’aurais pas pensé seul. Je relis cette proposition, je biffe, je réécris, je remets la main à la pâte. Le texte qui en sort est destiné à des humain·e·s, et porte mon nom, et je continue à le revendiquer comme mon écriture. Cette écriture est un processus, et chacun des outils que j’emploie dans ce processus modifie ce que je peux penser. Les idées ne sont pas déjà entières dans ma tête, attendant d’être déposées sur la page : elles se forment et se transforment dans le va-et-vient entre la parole, la transcription, la lecture, la machine et la relecture.

C’est un point que Marshall McLuhan formulait dès Understanding Media (1964) : the medium is the message, le médium est le message. Les outils par lesquels nous communiquons façonnent notre façon de penser au moins autant que ce que nous communiquons. Walter Ong a prolongé cette idée dans Orality and Literacy (1982) en montrant comment l’invention de l’écriture a transformé nos opérations mentales : sans la trace écrite, on ne peut pas penser de la même manière qu’avec elle, parce que la parole orale est entièrement dépendante de la mémoire vive et du contexte de l’échange. Écrire à la main, écrire à la machine, écrire à l’ordinateur, écrire en parlant à un dictaphone, écrire avec une intelligence artificielle qui propose des reformulations : ce sont à chaque fois des modes différents de pensée, qui font apparaître des choses différentes.

Je remarque par exemple que ma pensée orale, parlée dans le dictaphone en marchant, est plus fluide, plus associative, plus émotionnelle que ma pensée écrite. La pensée que j’élabore en dialogue avec une IA est plus structurée, mieux référencée, mais elle est aussi exposée au risque d’une langue moyennée que je dois corriger pour qu’elle redevienne la mienne. Chacune de ces formes apporte quelque chose que les autres n’apportent pas, et toutes participent à la personne que je suis devenu.

L’intégrité étendue, comprise ainsi, n’est pas seulement un fait passif que nous subirions. Elle est aussi un savoir-faire à acquérir : une attention à la façon dont chaque outil oriente notre pensée, et une responsabilité dans le choix des outils que nous adoptons ou que nous écartons. Penser avec les machines demande de connaître la manière dont chacune oriente la pensée, et de cultiver cette connaissance comme on cultivait, à une autre époque, l’art de la rhétorique ou de la conversation.

Ce qu’il nous faut cultiver

L’intelligence est devenue, comme le disent les industriel·le·s qui fabriquent les IA, une « commodité » au même titre que l’eau ou l’électricité, c’est-à-dire quelque chose dont tout le monde peut bénéficier. Si tel est le cas, ce n’est plus l’intelligence qui nous définit en tant qu’humain·e·s.

Yuval Noah Harari, dans Sapiens (2015), suggère que ce qui a différencié l’homo sapiens des autres espèces humaines, c’est la capacité d’imagination : fabriquer des récits qui fédèrent des communautés, croire à des choses qui n’existent pas matériellement (les dieux, les nations, l’argent, les frontières). Sa thèse est que c’est la capacité narrative, plus encore que la capacité cognitive, qui a fait l’humanité.

Cette piste m’intéresse, je voudrais la prolonger autrement. Ce qui me semble nous rester en propre, et plus encore ce que nous avons à cultiver en propre, c’est l’expérience partagée et sensible : l’attention à l’autre, et le fait d’avoir prévu un programme pour constater que rien ne se passe comme prévu, parce qu’on est ensemble dans un groupe unique et que des choses se transforment entre nous qui n’étaient pas programmées.

Olivier Houdé, dans ses travaux sur la résistance cognitive, montre que l’apprentissage humain passe par la capacité de résister à sa pensée automatique. Cette résistance demande de l’effort, de la confiance, un milieu de sécurité. Les machines ne résistent pas à elles-mêmes, elles optimisent. Elles n’affrontent ni le doute ni la peur de se tromper devant les autres. Cette confrontation à l’incertitude partagée tient quelque chose de proprement humain.

Mais je voudrais éviter ici une formulation qui serait passéiste. Si je dis simplement que ces qualités humaines sont à préserver intactes face aux machines, je rate mon sujet. Dans la condition d’intégrité étendue, ces qualités ne sont pas des réserves naturelles que le numérique aurait laissées indemnes. Elles sont elles-mêmes transformées, traversées, mises à l’épreuve par la fusion avec les machines. Mon attention à la personne en face de moi se vit désormais en concurrence avec les notifications de mon téléphone, dont je sais qu’elles peuvent à tout moment me parvenir. L’expérience sensible partagée avec un groupe, sortir, rire, marcher, se taire, est traversée par la conscience que tout cela peut être enregistré, photographié, partagé. Et l’incertitude que nous explorons ensemble dans une délibération est sourdement modifiée par la possibilité d’aller demander à une IA un scénario probable avant même d’avoir pris le temps de chercher.

L’enjeu n’est donc pas de préserver une humanité-noyau qui serait à l’abri du numérique. Il est d’apprendre à cultiver des qualités humaines à l’intérieur même de la condition cyborg, en sachant que les outils que nous utilisons modifient ces qualités. Cultiver l’attention à l’autre demande aujourd’hui un savoir précis : connaître les moments où il faut poser le téléphone, et ceux où sa présence est neutre. Cultiver l’expérience sensible partagée demande de savoir quand l’image fait obstacle à l’expérience, et quand elle la prolonge. Cultiver une pensée qui reste mienne demande d’apprendre où, dans le cours de mon raisonnement, je peux solliciter une intelligence artificielle, et où il est essentiel de continuer à chercher seul ou avec d’autres humain·e·s, pour que la pensée se forme dans la résistance et non dans le confort de la suggestion immédiate.

Conséquences éthiques

Prendre au sérieux le concept d’intégrité étendue a plusieurs conséquences pratiques :

• D’abord pour les données personnelles. Si mes données font partie de mon intégrité, leur exploitation non consentie n’est pas un simple désagrément commercial mais une atteinte à ma personne. Les débats sur la vie privée gagnent à être reformulés en ces termes : protéger des personnes dans leur complétude étendue, plus que protéger de l’information abstraite. Connaître les différentes intelligences artificielles, savoir lesquelles collectent des données obligatoirement et lesquelles le font de façon optionnelle, n’est pas un savoir technique secondaire : c’est un savoir d’autoprotection.
• Ensuite pour l’éducation. Les enfants et les jeunes ont aussi une intégrité qui s’étend dans leurs machines. Les politiques qui visent à les en séparer, l’interdiction des téléphones à l’école ou des réseaux sociaux avant quinze ans, demandent à être pensées avec plus de nuance. Je ne dis pas que tout va bien, ni que les enfants peuvent faire ce qu’ils veulent avec les écrans. Je dis que séparer un enfant de son téléphone touche à son intégrité étendue, et que cela appelle un accompagnement, pas un interdit brutal.
• Enfin pour la médiation, qu’elle soit culturelle, éducative ou thérapeutique. Si les personnes avec lesquelles nous travaillons ont une intégrité étendue, leur dimension numérique fait partie de la relation, pas un à-côté ni une distraction par rapport à une « vraie » relation entre les corps. Leur vie numérique fait partie d’elles. Leurs images, leurs conversations avec des IA, leurs pratiques sur les réseaux sociaux sont des dimensions de leur existence à accueillir et à accompagner, plutôt qu’à interpréter de l’extérieur comme des symptômes.

Cultiver l’humanité dans la condition cyborg

La nostalgie est tentante : un temps où l’intégrité aurait été simple, contenue dans un corps non compliqué par les machines. Ce temps n’a peut-être jamais existé. Le livre était déjà une extension de la mémoire, l’album photo de famille un support d’identité externalisé. Ce qui change avec le numérique, c’est l’échelle, la vitesse et la permanence de cette extension. Le principe, lui, est ancien.

L’enthousiasme naïf est tout aussi problématique : croire que les machines vont nous augmenter, nous rendre meilleurs. Stiegler, avec le concept de pharmakon, rappelle que chaque objet technique peut être remède ou poison. Le smartphone qui me connecte au monde peut aussi m’isoler de la personne qui est en face de moi. L’intelligence artificielle qui m’aide à écrire peut aussi m’empêcher de penser par moi-même. L’usage en décide, et la conscience que nous mettons à habiter cette condition.

Tim Ingold, dans Une brève histoire des lignes (2007) et dans ses travaux d’anthropologie de la perception, propose la notion d’« enquête partagée » : vivre ensemble une expérience de connaissance qui se construit dans le temps long de la pratique commune, et qui ne peut être substituée par aucun produit fini. Ingold écrit dans un monde où les machines lui sont restées extérieures à son enquête. Le mien n’est pas tout à fait le même, parce que les machines y sont déjà partie prenante de l’enquête. Quand je travaille avec des groupes, l’intelligence artificielle est dans la salle, dans les téléphones de tout le monde, dans les transcriptions automatiques que nous relisons ensemble, dans les images que nous générons pour penser avec. L’enquête partagée s’étend désormais aux outils que nous mobilisons. Je ne réfute pas Ingold, j’augmente sa pensée par les conditions du présent.

Notre responsabilité, dans cette condition, est d’apprendre à habiter consciemment notre intégrité étendue. Cela suppose de savoir ce qui est dans les machines, de savoir ce qu’on y met, de savoir comment ces dépôts nous reviennent. Cela suppose aussi de cultiver les qualités humaines, attention, lien, présence, à l’intérieur de la fusion avec les machines, plutôt qu’à l’écart de cette fusion. La condition cyborg peut alors devenir l’occasion d’une humanité plus consciente, à condition que nous la travaillions comme telle.

C’est un chantier philosophique, éducatif et politique. La philosophie ne consiste pas ici à donner des réponses, mais à outiller notre appareil de questions, pour reprendre une formulation que je propose à mes étudiant·e·s et aux groupes que j’accompagne. Quelles questions nous posons-nous aujourd’hui sur ce que nous sommes devenu·e·s ? Quelles questions devons-nous apprendre à nous poser pour mieux agir demain ? L’intégrité étendue est un de ces outils de questionnement. Elle ne dit pas comment vivre. Elle nomme ce qu’il y a à vivre, et permet de se demander ce que nous voulons en faire.