Les biais de confiance dans les algorithmes

Paradoxe : face aux IA, nous doutons de notre jugement humain tout en faisant aveuglément confiance aux algorithmes censés les détecter. Cette peur nous fragilise, alors que l’enjeu véritable est notre rapport à notre humanité, indépendamment des outils utilisés.

L’excès inconscient de confiance dans les machines

Lors d’une réunion réunissant les correcteurs du concours d’entrée pour une grande école française à laquelle je participais, il fut posé la question des intelligences artificielles et des manières de débusquer d’éventuels usages de ces dernières dans la rédaction des dossiers rendus par les candidats.

Une personne est intervenue pour affirmer que, généralement, on pouvait ressentir si un texte avait été écrit par une intelligence artificielle ou par un humain. D’autres ont réagi en mettant en avant l’utilité de logiciels et d’algorithmes permettant de détecter si l’IA avait été utilisée ou non. Ces algorithmes étaient présentés comme des outils fiables, apportant la certitude que le texte avait été généré par une intelligence artificielle, une certitude que l’humain, lui, ne pourrait atteindre.

J’ai alors pris la parole pour souligner ce qui me semblait être une contradiction. Dans ce prétendu esprit critique sur l’usage des intelligences artificielles, on en venait à faire plus confiance à un algorithme qu’à notre propre capacité de discernement pour détecter la présence d’algorithmes dans l’écriture !

J’ai trouvé cela à la fois ironique et un peu triste : ceux-là mêmes qui prônent une vigilance face à la machinisation de la pensée sont parfois les premiers à tomber dans le piège de la séduction technologique, convaincus que la machine est plus compétente que l’humain.

Réinventer notre anthropologie

Ce que je pense, en réalité, c’est que le véritable enjeu ne réside pas dans l’usage ou non de l’intelligence artificielle, mais dans notre rapport à notre propre humanité, indépendamment de l’outil que nous utilisons.

Lautréamont, dans certaines pages des Chants de Maldoror, a recopié des extraits du dictionnaire. Et pourtant, son utilisation de cette matière froide et technique est remarquable : il l’a intégrée dans son projet de poème épique de la mort, lui conférant une puissance inédite.

Je crois que ce qui anime inconsciemment bon nombre de nos réactions face à l’IA, c’est la peur. La peur d’être dominé. Et paradoxalement, c’est précisément cette peur qui nous rend fragiles et influençables. En perdant confiance en notre propre capacité de jugement, nous ouvrons grand la porte à ce que d’autres, y compris des machines, pensent à notre place.

La peur nous anesthésie, elle nous fige. C’est pourquoi il faut d’abord lutter contre cette peur, pour ne pas perdre notre ancrage. Car si nous cédons à cette peur, nous nous laissons piéger.

On pourra m’objecter qu’il existe des domaines où l’IA est objectivement plus performante que l’humain. Par exemple, dans le domaine médical, une intelligence artificielle disposant d’une immense base de données sera indéniablement plus efficace pour établir un diagnostic précis. Je ne le conteste pas. Il ne faut pas non plus que les médecins craignent d’être remplacés. Au contraire, ils doivent voir l’IA comme un outil, un moyen d’améliorer les soins et de servir l’humanité. Et même de pouvoir la développer, par exmple en ayant plus d’espace mental pour considérer le patient comme une personne et non pas comme un objet.

De la même manière, dans le domaine de l’écriture, si un auteur a su, avec talent, utiliser l’intelligence artificielle pour approfondir son sujet et produire une œuvre plus grande que ce qu’il aurait pu créer seul, alors tant mieux. Il n’aura pas perdu son humanité, il aura simplement utilisé un outil avec lucidité, conscience et créativité, pour encore plus d’humanisme.

Deux biais à dépasser dans la relation aux IA

• La confiance excessive dans ces logiciels rappelle l’illusion positiviste du XIXᵉ siècle, selon laquelle la science fournirait des certitudes absolues sur le monde. Or, comme l’a montré la philosophie des sciences, la connaissance scientifique n’est jamais univoque ni définitive ; elle est un processus d’interprétation, de falsifiabilité et de remise en question (Popper, 1934). Croire qu’un algorithme peut offrir une réponse sans faille sur l’origine d’un texte, c’est adopter une posture scientiste qui ignore la complexité du langage, de l’intention et du style.
• L’attitude de déléguer à la machine le pouvoir de dire ce qui est vrai et ce qui ne l’est pas est révélatrice d’un processus bien décrit par Hannah Arendt dans La Crise de la Culture (1961) : le renoncement au jugement propre au profit d’une rationalité instrumentale qui prétend se suffire à elle-même. En cherchant une assurance algorithmique, nous nous privons de notre propre capacité à discriminer, à contextualiser et à interpréter. Nous laissons la machine imposer son propre cadre de référence, alors même que ce cadre est une construction humaine, dépendant de choix de programmation, de biais statistiques et de conventions culturelles. Ainsi, nous faisons le choix d’abandonner notre esprit critique, c’est à dire de penser de façon informée par nous-mêmes.