Les biais de confiance dans les machines

Nous proclamons notre attachement à l’autonomie humaine face aux machines, mais nos comportements quotidiens révèlent une tout autre réalité : nous leur déléguons volontiers nos décisions.

Le paradoxe de notre soumission volontaire

Les discours sur l’intelligence artificielle abondent en mises en garde : nous ne devons pas perdre notre souveraineté, les machines ne doivent pas décider à notre place, notre liberté de penser doit rester intacte. Pourtant, pour toutes les personnes que j’interroge sur leurs expériences concrètes, je constate un tableau réel bien différent : La voiture qui freine automatiquement et évite l’accident devient une alliée précieuse. Les synthèses de réunions générées par ChatGPT libèrent un temps considérable. Tout le monde ou presque utilise un GPS pour se déplacer. Etc. Nous intégrons ces outils avec une facilité déconcertante, leur attribuant rapidement une place centrale dans nos vies.

Cette contradiction entre discours et pratique révèle ce que Sherry Turkle nomme « l’effet ELIZA » dans son ouvrage Seuls ensemble (2011) : notre propension à attribuer aux machines une intelligence et une intentionnalité qu’elles ne possèdent pas nécessairement. Nous savons intellectuellement que ce sont des algorithmes, mais nous agissons comme s’ils étaient des conseiller·ère·s avisé·e·s, d’autant plus que ces conseiller·ère·s ne sont pas humain·e·s.

La philosophe Luciano Floridi parle d’une « quatrième révolution » où nous devenons des « inforgs », des organismes informationnels qui évoluent dans l’infosphère. Cette transformation s’opère non pas par contrainte, mais par adhésion progressive et volontaire à des systèmes qui nous semblent plus fiables que notre propre jugement ou celui d’autrui.

L’illusion de l’objectivité technologique

Le GPS constitue l’exemple le plus révélateur de notre abandon consenti. Nous suivons ses instructions avec une docilité remarquable, même quand notre expérience nous souffle qu’un meilleur itinéraire existe. Je connais mon quartier depuis vingt ans, je sais pertinemment que le GPS me fait faire un détour absurde, et pourtant je continue à suivre cette voix synthétique. Pourquoi cette passivité alors que c’est bien nous qui tenons le volant ?

Cette confiance aveugle relève de ce que je nomme le « biais d’autorité algorithmique ». Nous prêtons à la machine une rationalité supérieure, supposant qu’elle détient des informations qui nous échappent. Comme l’analyse Cathy O’Neil dans Algorithmes, la bombe à retardement (2018), nous sacralisons les algorithmes comme s’ils étaient neutres et omniscients, oubliant qu’ils sont conçus par des êtres humains avec leurs propres biais et objectifs, et que même s’ils apprennent par eux-mêmes, ce qui est le cas des IA avec apprentissage profond, que sont les IA génératives par exemple, ce ne sont pas pour autant des divinités au savoir ubiquitaire, les biais, erreurs et hallucinations sont nombreux.

Dans les taxis, ce phénomène autour du GPS atteint parfois son paroxysme. Certain·e·s passager·ère·s peuvent exiger que la personne au volant suive scrupuleusement le GPS, préférant l’apparente objectivité de la machine à l’expertise d’un·e professionnel·le qui connaît sa ville. On craint l’arnaque humaine, mais on choisit d’ignorer les manipulations algorithmiques potentielles. Dans le cas d’Uber par exemple, l’algorithme n’est nullement neutre, car il vise à maximiser les profits de la plateforme. Un biais systématique allongeant légèrement chaque trajet pourrait générer des millions de revenus supplémentaires. Malgré cette évidence, nous persistons à faire davantage confiance à l’algorithme qu’à la personne qui nous conduit en chair et en os, et c’est bien plus répandu qu’on le croit à l’intérieur des taxis.

La déshumanisation consentie de nos interactions

Les conducteur·rice·s de taxi, qu’ils soient indépendant·e·s ou affilié·e·s à des plateformes, subissent les foudres de leur clientèle dès qu’une initiative humaine est prise, un raccourci basé sur leur expérience. Face à cette hostilité, beaucoup abdiquent leur expertise et deviennent les exécutant·e·s dociles de l’algorithme. Nous créons ainsi un cercle vicieux où l’être humain se déshumanise pour correspondre à des attentes sociales qui valorisent la pseudo-objectivité machinique.

Ce processus fait écho à ce que le sociologue Hartmut Rosa décrit dans Résonance. Une sociologie de la relation au monde (2018) : nous pouvons perdre progressivement notre capacité à entrer en résonance avec le monde et les autres, préférant l’interaction prévisible avec les interfaces numériques. La machine devient un médiateur ou une médiatrice rassurant·e qui nous évite la complexité et l’imprévisibilité des relations humaines authentiques (alors même que la machine peut faire de grossières erreurs, mais nous les lui pardonnons bien plus qu’aux êtres humains).

Je ne postule pas que les machines soient inutiles, la collaboration humain-machine recèle un potentiel extraordinaire quand elle reste au service de notre humanité. Mais dans ce taxi, au lieu de nous méfier de la personne qui nous conduit, nous pourrions choisir de la rencontrer véritablement. Reconnaître ensemble qu’une machine s’interpose entre nous, et affirmer notre liberté d’êtres humains capables de dialogue et de décision partagée, la machine restant un outil et non une forme de dictature logée à l’endroit de l’intime, que nous nous choisissons pour nous-mêmes.

L’érosion de la confiance interpersonnelle

Le nœud du problème réside dans l’effritement de la confiance entre êtres humains. Cette crise de confiance rend d’autant plus urgente la question de l’empathie dans notre époque de mutation anthropologique. Cultiver le lien, réaffirmer notre humanité, retrouver un humanisme vivant : voilà ce qui me semble essentiel.

Comme le souligne Yuval Noah Harari dans 21 leçons pour le XXI^e siècle (2018), nous risquons de devenir une « classe inutile » non pas parce que les machines nous remplaceront, mais parce que nous aurons perdu confiance en notre propre jugement et en celui d’autrui. Cette prophétie auto-réalisatrice nous pousse à préférer systématiquement l’autorité algorithmique à l’expertise et la créativité humaines.

Le paradoxe ultime se profile déjà : les futurs taxis autonomes, dotés de voix synthétiques capables de nous consulter sur nos préférences d’itinéraire, susciteront probablement plus de confiance que les chauffeur·euse·s humain·e·s actuel·le·s. Nous apprécierons leur comportement pseudo-humaniste programmé, tandis qu’entre êtres humains, nous adoptons nous-mêmes des comportements de plus en plus machiniques, procéduraux, désincarnés.

Réinvestir notre humanité à l’ère algorithmique

Cette dérive n’est pas la faute des machines, mais notre responsabilité collective, au cœur de nos gestes quotidiens. Nous ne pouvons empêcher leur omniprésence, mais nous pouvons choisir de cultiver intensément nos liens humains. Les machines nous libèrent du temps et des efforts, profitons de cette opportunité pour réinvestir dans ce qui fait notre spécificité humaine : la capacité d’empathie, de créativité spontanée, de jugement contextuel.

Martin Buber distinguait dans Je et Tu (1923) deux modes relationnels fondamentaux : la relation « Je-Cela » (instrumentale) et la relation « Je-Tu » (authentique). Notre défi consiste à ne pas transformer toutes nos relations en rapports « Je-Cela », médiatisés par les algorithmes, mais à préserver et enrichir des espaces de rencontre « Je-Tu » véritables. Aucune machine n’a le pouvoir de nous en empêcher, il en va de notre responsabilité, et c’est toujours accessible.

L’enjeu n’est pas de rejeter les machines mais de les maintenir à leur juste place d’outils. Comme l’écrit Jürgen Habermas, nous devons préserver notre « monde vécu » (Lebenswelt) face à la colonisation par les systèmes techniques. Cela exige une vigilance constante et un effort délibéré pour maintenir vivante notre capacité de jugement autonome, de confiance interpersonnelle et d’interaction authentique. Les machines peuvent augmenter nos capacités, mais elles ne doivent pas se substituer à notre humanité fondamentale, nous devons au contraire les utiliser comme des outils pour y contribuer.