L’impasse de l’objection de conscience numérique

Face au déploiement de l’IA générative, certains chercheurs et certaines chercheuses proclament une objection de conscience. Je défends au contraire l’exigence d’une présence critique et d’une autonomisation par la pratique.

Le piège d’une critique désincarnée

Plusieurs chercheurs et chercheuses, notamment au sein d’un collectif toulousain, ont récemment formulé une « objection de conscience numérique » face au déploiement de l’intelligence artificielle dans les institutions éducatives. Ce terme témoigne d’une volonté légitime de résister à l’injonction technologiste, celle qui présente chaque innovation comme nécessairement bénéfique simplement parce qu’elle serait nouvelle. Cette posture est saine dans son intention, elle manifeste un désaccord face à des orientations largement pilotées par des intérêts industriels, relayées avec trop peu de discernement sans doute par les grandes institutions françaises comme l’Éducation nationale, trop concentrées peut-être sur le fait de rester “à la page”.

Je partage pleinement la nécessité de construire un esprit critique sur l’usage de ces outils. Nous devons effectivement refuser de marcher « comme un seul être humain » vers des solutions technologiques présentées comme immédiates et salvatrices. Cette foi aveugle dans le progrès technique relève d’un obscurantisme moderniste qui substitue à la pensée critique une croyance dans la valeur intrinsèque de la nouveauté. C’est une sorte de “jeunisme numérique”. Michel Serres avait montré dans Petite Poucette (2012) comment chaque grande mutation technique transforme notre rapport au monde et exige de nous une reconfiguration de notre humanité même. Cette lucidité est indispensable. La fuite en avant n’a pas le pouvoir de régler quoi que ce soit, me semble-t-il. On croit que les êtres humains résistent au changement, mais je suis toujours étonné·e, au contraire, par la grande rapidité d’adaptation à de nouveaux usages, on l’a vu avec le smartphone par exemple, ou les QR Codes pendant la période Covid.

Mais l’objection de conscience numérique, malgré ses intentions louables, constitue selon moi une impasse philosophique et pratique. Je pense qu’elle repose sur une fiction : celle que nous pourrions nous tenir à distance de ces technologies, les observer de l’extérieur, maintenir une position de retrait qui préserverait notre intégrité critique, en n’étant pas touché·e·s par elles. Cette posture, aussi compréhensible soit-elle face à la rapidité des déploiements techniques, me semble reproduire exactement l’erreur qu’elle prétend combattre : elle reste dans l’abstraction plutôt que de s’engager dans l’expérimentation critique. Et cette abstraction est un mythe inexistant.

Les leçons d’une crise sanitaire

Nous avons vécu pendant la période Covid une situation qui éclaire d’une lumière crue ces mécanismes à l’œuvre. Une solution présentée comme « technologique » a été non pas proposée mais imposée : la vaccination avec un produit expérimental qui n’avait pas eu le temps d’être validé selon les protocoles habituels et qui était vendu à prix d’or, financé par des emprunts des États aux puissances capitalistes. Cette imposition s’est accompagnée d’un enrichissement sans précédent des grands actionnaires, qui ont pu doubler leur fortune en moins de deux ans alors qu’ils et elles étaient déjà parmi les personnes les plus riches du monde.

Les méthodes déployées illustrent parfaitement ce que Noam Chomsky et Edward Herman ont décrit dans La Fabrication du consentement (1988) : une orchestration massive de l’information, le discrédit systématique de toute voix dissidente, une défense acharnée des intérêts capitalistes par les États eux-mêmes. Ces mêmes institutions qui ont contribué à ce que la majorité des êtres humains s’abîment dans cet obscurantisme scientifique sont aujourd’hui les promotrices de l’usage effréné des intelligences artificielles. La méfiance est donc légitime, et nous avons de bonnes raisons de chercher à construire notre esprit critique vis-à-vis de tout ce qui est présenté comme une “solution”.

Mais, et c’est là que l’analogie devient instructive, ce n’est pas parce que la gestion de la crise Covid a été autoritaire, imbécile et au strict service du capitalisme par la manipulation éhontée de l’information et les mensonges d’État, qu’il fallait nier la dangerosité potentielle du virus. Il existait réellement un virus extrêmement contagieux, changeant rapidement de forme, sur lequel il fallait acquérir des connaissances et travailler la prévention, la responsabilisation de chaque individu. Ce qui était nécessaire, c’était l’autonomisation et la responsabilisation, y compris du corps médical. Au lieu de cela, l’État est devenu prescripteur, fait sans précédent dans l’histoire, et une grande partie des médecins ont renié leur serment d’Hippocrate en acceptant de ne pas soigner les personnes infectées par le virus du Covid (si ils ou elles le faisaient, ils ou elles étaient radié·e·s de l’ordre des médecins). Cette liberté de prescrire leur a été interdite, et ceux et celles qui ont soigné (certain·e·s l’ont fait, car bien des traitements existaient) l’ont fait en prétendant soigner d’autres maladies. Chaque terrain, chaque personne étant singulière, il existait une multitude de démarches de prévention et de soins possibles. Le mensonge consistait à prétendre qu’un seul produit pouvait régler de façon démiurgique cette maladie, ce qui est un mensonge scientifique, médical et épistémologique du plus bas étage, mais qui a pourtant entraîné dans sa croyance la majorité des gens, si paniqué·e·s par les discours anxiogènes qu’ils et elles étaient prêt·e·s à avaler n’importe quelle sornette pour se faire croire qu’ils ou elles pourraient ainsi moins risquer de mourir ou de faire mourir les autres. N’oublions pas que les “vaccins” contre le Covid n’ont jamais protégé de la transmission du virus, mais uniquement des formes graves pour les personnes malades. C’est l’inverse qui a été affirmé aux citoyens et citoyennes qui, de bonne foi, se sont fait inoculer (sous peine de perdre leur emploi) ces substances expérimentales non encore autorisées, mais possibles à injecter uniquement s’il n’y avait pas d’autres traitements, d’où l’interdiction de soin par les médecins et le discrédit des traitements qui pourtant fonctionnaient. Par ailleurs les effets secondaires ont été bien plus importants que tout autre vaccin.

Ce qu’il fallait, ce n’était pas mettre de côté la dangerosité du virus, mais la prendre en compte de façon informée, c’est-à-dire dans la diversité, et responsable, c’est-à-dire avec son autonomie. Paolo Freire, dans Pédagogie de l’autonomie (1996), a montré que l’émancipation passe par la capacité à penser par soi-même dans la reconnaissance de l’incertitude, non par le retrait ou l’obéissance passive. L’antifragilité que décrit Nassim Nicholas Taleb (2012) se construit précisément dans la confrontation consciente et expérimentale avec ce qui peut nous blesser.

L’illusion de la séparation

C’est exactement la même chose pour les intelligences artificielles. Se faire croire que nous pourrions vivre sans, comme le suggèrent les objecteurs et objectrices de conscience, relève de l’illusion complète. Même si nous ne voulons pas en utiliser consciemment, elles sont déjà utilisées pour nous dans bien des cas : dans le traitement de nos dossiers administratifs, dans le fonctionnement de nos téléphones portables, dans le fonctionnement des applications, des sites internet, dans la surveillance qui nous est imposée sans que nous en ayons conscience, etc.

Tim Ingold invite dans Faire : Anthropologie, Archéologie, Art et Architecture (2013) à considérer que nous ne sommes pas face aux techniques mais au sein d’elles, tissés avec elles dans un processus de « making » continu. Quiconque utilise un GPS est déjà usager ou usagère de l’intelligence artificielle. Vous trouvez cela très pratique ? Alors vous participez déjà complètement au phénomène. Se faire croire que le GPS serait différent des IA génératives actuelles n’est qu’une question de degré : les intelligences artificielles sont présentes depuis longtemps à bien des endroits de nos vies, elles font partie de nos milieux d’existence.

Hannah Arendt, dans La Crise de la culture (1961), rappelle que l’être humain est « conditionné » : nous vivons dans un monde fait d’objets et de systèmes que nous avons créés mais qui, en retour, façonnent nos conditions d’existence. Prétendre nous tenir à l’écart de l’IA, c’est méconnaître cette condition anthropologique fondamentale. Nous sommes toujours-déjà pris·e·s dans cet écheveau technologique. La question n’est donc pas de savoir si nous allons l’utiliser ou non, car nous le faisons déjà, mais comment nous allons habiter cette condition, comment nous allons nous responsabiliser face au réel, et non pas face au fantasme.

Habiter plutôt que fuir

On pourrait décider de regagner sa propre souveraineté sur son rapport au territoire et de ne pas utiliser le GPS, ce serait tout à fait louable. Mais peut-être pouvons-nous aussi être mieux conscients et conscientes de la façon dont fonctionnent les GPS, quelles sont les industries qui les opèrent, dans quelle dépendance cela nous met, ce que nous pouvons éventuellement en apprendre, et comment nous pourrions peut-être mettre en œuvre d’autres solutions techniques d’aide au déplacement plus vertueuses en termes de bien commun et de pollution spatiale.

La pensée de John Dewey dans Démocratie et Éducation (1916) nous éclaire ici : l’éducation n’est pas la transmission d’un savoir constitué mais l’expérimentation collective, la confrontation avec des problèmes réels qui exigent de nous une transformation. Apprendre, c’est faire l’expérience d’une situation problématique et se transformer dans et par cette expérience. L’objection de conscience, en se faisant croire qu’elle se tient à distance, se prive précisément de cette possibilité d’expérimentation qui seule permet le développement d’une véritable conscience critique. Elle est une fuite, pas une lutte.

Guy Debord prévenait dans La Société du spectacle (1967) que « le spectacle n’est pas un ensemble d’images, mais un rapport social entre des personnes, médiatisé par des images ». Si nous nous contentons de refuser l’IA sans en faire l’expérience créative, nous restons dans le spectacle de sa critique, nous n’entrons pas dans une transformation réelle de nos rapports sociaux et techniques. Comme je l’ai souvent constaté dans mes ateliers pédagogiques, c’est en créant avec l’IA, en explorant ses possibilités et ses limites dans un cadre collectif et réflexif, que se développe une compréhension incarnée de ses enjeux, et que naissent des capacités d’actions. Rester à l’extérieur, c’est rester dans l’ignorance de son “ennemi”.

La voie de l’autonomisation critique

Soyons donc non pas des objecteurs ou objectrices de conscience mais des utilisateurs et utilisatrices conscients·es. Qu’on le veuille ou non, nous sommes pris·e·s dans cet écheveau. Notre rôle n’est pas de prétendre nous en extraire, c’est un leurre, mais d’apprendre à le démêler pour qu’il ne nous étouffe pas. Cette posture exige infiniment plus de courage et de lucidité que le retrait : elle demande de s’informer de façon autonome et diverse, d’être responsable et conscient·e de ses propres usages, de connaître les alternatives libres et les acteurs et actrices du numérique qui ont des valeurs écologiques, d’apprendre dans cette situation de mutation de nouvelles connaissances, de nouveaux savoirs, de nouvelles façons de vivre. Intéressons-nous aux nouvelles démarches éthiques de fabrication des puces informatiques, tentons l’usage d’IA génératives Open Source que nous installons sur nos propres ordinateurs et voyons leurs résultats, utilisons des IA Open Source aussi, opérées dans des centres de données comme Infomaniak en Suisse (via leur application Euria), qui a une vraie démarche écologique dans ce domaine, depuis 25 ans.

Cela suppose une démarche que j’ai expérimentée à de nombreuses reprises dans des contextes éducatifs et culturels : partir de la création. Faire l’expérience concrète de l’outil, en explorer les possibilités dans un cadre pédagogique qui permette la réflexivité. Utiliser l’IA pour écrire des scénarios, générer des images, puis se demander collectivement : qu’est-ce que cela transforme dans notre rapport à la création ? Quelles sont les industries qui opèrent ces outils ? Quelles dépendances créons-nous ? Quelles sont nos marges d’autonomie réelles ?

Ce que décrit Michel Serres avec la métaphore du parasite (1980) s’applique parfaitement ici : l’IA est un parasite dans le système, mais le parasite n’est jamais simplement négatif, il crée du bruit qui peut devenir source d’innovation et de transformation. À condition de ne pas le subir passivement ni de prétendre l’ignorer, mais d’apprendre à composer avec lui. L’objection de conscience condamne à mon sens à subir de loin ce qu’elle refuse d’habiter, c’est-à-dire à produire l’effet inverse de ce qu’elle prône.

Vers une écologie des pratiques

L’enjeu anthropologique que représente l’IA, cette mutation que j’appelle un « nous déplacé », exige de nous une présence critique et non un retrait. Nous devons développer ce qu’Yves Citton nomme dans Médiarchie (2017) une « écologie de l’attention » qui nous permette de rester attentifs et attentives aux effets de ces technologies sur notre milieu d’existence, tout en restant engagés·es dans leur expérimentation.

Cette position n’est pas naïve. Je sais très bien que les IA sont développées par des industries dont les intérêts sont avant tout financiers, que leur impact écologique est considérable (mais qui est tout de même aujourd’hui mille fois moins polluant que l’élevage industriel), que leur déploiement participe d’une concentration de pouvoir inquiétante. Mais prétendre s’en extraire par l’objection de conscience, c’est se condamner à l’impuissance et à l’irresponsabilité. C’est laisser le champ libre à ceux et celles qui, de leur côté, ne se posent aucune question éthique, qui ne sont que des commerçants et commerçantes de bas étage. Ne leur laissons pas le pouvoir.

Je défends donc une troisième voie : ni l’adoption enthousiaste et aveugle, ni l’objection de conscience qui se tient à distance, mais l’engagement dans une pratique critique et créative. Apprendre à démêler l’écheveau pour qu’il ne nous étouffe pas suppose de mettre les mains dedans, de faire l’expérience concrète de ces outils dans des cadres collectifs qui permettent la réflexion. C’est seulement ainsi que nous pourrons développer l’autonomie et la responsabilité que réclame cette mutation anthropologique majeure, et que nous soutiendrons le développement de technologies plus éthiques, ce qui est possible, si nous prenons cette posture politique dans nos actes de tous les jours.