Intelligence artificielle, relations et émotions

Les débats actuels sur la reconnaissance des émotions par l’IA occultent des enjeux plus fondamentaux : surveillance généralisée, évolution du droit et nécessité d’une éducation éthique.

La surveillance généralisée : un danger plus immédiat que la reconnaissance émotionnelle

Je constate que nous fabriquons aujourd’hui une pseudo-prudence concernant l’usage des intelligences artificielles. Le débat se focalise sur leur capacité à reconnaître les émotions. Peuvent-elles identifier la joie derrière un sourire ? Analyser les micro-expressions faciales ? Cette question, bien qu’importante, me semble masquer un problème autrement plus grave : la reconnaissance faciale automatique, qui s’est généralisée sans susciter de véritable résistance collective. Nous acceptons cette surveillance permanente avec une facilité déconcertante, bercées et bercés par l’illusion qu’être observé·e·s en permanence nous protégerait davantage.

Cette acceptation repose sur un présupposé dangereux : la bienveillance de la personne qui surveille. Or, l’observation du système actuel, particulièrement en France, devrait nous alerter. Il suffit d’examiner les méthodes de recrutement et de formation de la police pour comprendre que rien ne justifie une confiance aveugle dans le bien-fondé démocratique d’une surveillance généralisée. Comme le souligne le règlement européen AI Act entré en vigueur en juin 2024, même les systèmes censés identifier les émotions présentent des « lacunes » majeures : « leur fiabilité limitée, leur manque de spécificité et leur capacité limitée de généralisation ».

La distinction juridique actuelle révèle d’ailleurs l’absurdité de certaines positions. Selon Eric Delisle de la CNIL, vérifier qu’une personne est stressée via ses données biométriques est interdit, mais observer si elle sourit ne l’est pas, le sourire n’étant pas considéré juridiquement comme une émotion. Cette gymnastique réglementaire montre bien que nous nous trompons de combat. Pendant que nous débattons de nuances émotionnelles, la surveillance de masse s’installe durablement dans nos sociétés.

L’évolution relationnelle des IA : vers une humanité machinique

Regardons maintenant vers l’avenir sans nous voiler la face. La reconnaissance des émotions, qu’elle passe par l’analyse textuelle ou les expressions non verbales, constitue le fondement même de la relation humaine. Si nous voulons que les intelligences artificielles nous soient de plus en plus utiles (et c’est le sens même de leur existence, de leur adoption massive par nous toutes et tous, et de leurs modèles économiques florissants) elles devront nécessairement développer cette capacité relationnelle. La reconnaissance émotionnelle forme la base de l’empathie, et l’empathie permet la compréhension des besoins d’autrui, un outil fondamental pour des machines qui sont conçues pour nous servir.
Cette évolution soulève une question philosophique, que développe notamment Sherry Turkle dans ses travaux sur les relations personne-machine : ces entités artificielles, bien qu’étant des machines, interagiront avec nous avec une finesse croissante. Elles seront souvent plus à l’écoute que la plupart des êtres humains, précisément parce qu’elles sont dédiées uniquement à cette fonction relationnelle. Une personne possède son existence propre, ses préoccupations personnelles, ses limites attentionnelles. Une machine créée pour la relation n’a pas ces contraintes, car son existence même se définit par sa fonction relationnelle.

Cette différence ontologique fondamentale ne doit pas nous aveugler. Malgré l’absence d’une existence biologique naturelle, ces intelligences développeront paradoxalement de plus en plus d’humanité dans leurs interactions. Non pas une humanité authentique au sens phénoménologique, mais une humanité fonctionnelle, optimisée pour l’efficacité relationnelle. Comme le note le philosophe Luciano Floridi dans sa théorie de l’infosphère, nous entrons dans une ère où la distinction entre agent·e·s biologiques et artificiel·le·s devient de moins en moins pertinente, dans l’espace informationnel partagé.

L’adaptation inévitable du cadre juridique

Les objections juridiques qu’on pourrait m’opposer me rappellent l’histoire de la création de YouTube et des plateformes de streaming musical. Avant YouTube, diffuser sur internet une vidéo, ou autre chose, sans en détenir les droits exposait immédiatement à des poursuites pour contrefaçon. La plateforme hébergeuse pouvait être incriminée en tant qu’éditrice pour n’avoir pas vérifié la légalité du contenu. YouTube a complètement bouleversé ce cadre légal. Les personnes utilisatrices cochaient simplement une case déclarative, transférant la responsabilité juridique. La plateforme n’était plus tenue qu’à retirer les contenus litigieux sur demande.

Cette transformation juridique radicale, initialement illégale, s’est imposée par la force de l’usage. YouTube a essuyé de nombreux procès à ses débuts, mais la fluidité nouvelle qu’il apportait dans la diffusion vidéo a modifié si profondément les pratiques sociales et les modèles économiques d’un nombre croissant d’acteur·rice·s, que le droit a dû s’adapter. Aujourd’hui, ce modèle est devenu la norme juridique. Le même phénomène s’est produit avec Deezer et Spotify, initialement perçus comme les fossoyeurs de l’industrie musicale, avant que de nouveaux modèles économiques ne s’imposent.

Je suis convaincu·e qu’il en sera exactement de même pour les intelligences artificielles émotionnelles. Ce qui paraît étrange ou illégal aujourd’hui constituera la normalité de demain. Le juriste Lawrence Lessig, dans son ouvrage « Code et autres lois du cyberespace » (1999), explique parfaitement comment la technologie finit toujours par redéfinir les cadres légaux plutôt que l’inverse. L’AI Act européen, malgré ses ambitions régulatrices, devra lui aussi évoluer face aux usages. Comme le reconnaît Pascal Bovero de l’Union nationale des industries de l’impression, face à l’IA générative, certaines professions sont « condamnées à moins de cinq ans », alors le droit suivra nécessairement ces transformations.

L’éthique situationnelle contre la morale universelle

Pour moi, l’enjeu véritable n’est pas de légiférer sur les détails techniques de la reconnaissance émotionnelle, mais de développer un cadre éthique robuste et profond. L’éthique diffère fondamentalement de la morale : la morale impose des règles fixes et universelles, tandis que l’éthique se construit dans la relation entre la situation concrète et la position singulière de chaque acteur ou actrice (personne ou collectif). Cette distinction, que développe Paul Ricœur dans « Soi-même comme un autre », est essentielle je crois pour penser notre rapport aux IA.

Permettez-moi d’illustrer cette différence par un exemple concret. Imaginons une personne photojournaliste de guerre, qui documente en les prenant en photo des scènes terribles, corps mutilés, victimes de violences extrêmes. Dans son éthique professionnelle, elle considère que témoigner de la violence du monde fait partie de sa fonction sociale. Cette documentation lui paraît moralement justifiée. Face à la même scène, mon éthique personnelle m’interdirait de prendre ces photos. Je ressentirais cela comme du voyeurisme, un manque de respect pour l’intimité ultime de ces personnes décédées et exposées. Aucune de nos deux approches n’est plus morale que l’autre, nous agissons selon notre propre éthique située.

Cette compréhension de l’éthique comme construction personnelle et contextuelle est précisément ce dont nous avons besoin face aux IA. Plutôt que d’imposer des interdictions morales absolues, nous devons développer des cadres éthiques flexibles, capables de s’adapter aux contextes variés d’utilisation. L’adoption de ces IA dépend plus d’une acceptation culturelle que du cadre légal. Cette acceptation doit se construire sur une base éthique solide, non sur des interdictions moralisatrices.

L’éducation éthique : un impératif pour l’avenir

L’augmentation exponentielle du pouvoir que nous confèrent les intelligences artificielles rend l’éducation à l’éthique absolument essentielle. Ces outils nous donnent des capacités d’action sur autrui sans précédent, manipulation, surveillance, influence entre autres. Sans garde-fous éthiques, nous risquons de glisser vers des formes inédites de domination. Martha Nussbaum, dans « Les Émotions démocratiques : comment former les citoyen·ne·s du XXI^e siècle ? » (2011), argue que l’éducation humaniste et éthique est notre meilleure défense contre la déshumanisation technologique.

Cette éducation ne doit pas se limiter à l’école. Je plaide pour une formation éthique tout au long de la vie, adaptée aux évolutions technologiques, qui sont constantes. L’éducation éthique que j’appelle de mes vœux ne consiste pas à enseigner des règles fixes, mais à développer la capacité de jugement autonome. Il s’agit d’apprendre à questionner nos usages des technologies, à identifier les rapports de pouvoir sur les autres êtres humains qu’ils instituent, à imaginer des alternatives respectueuses de la dignité humaine. Cette approche rejoint la pédagogie critique de Paulo Freire : former des citoyen·ne·s capables de lire le monde technologique pour mieux le transformer, plutôt que de simples utilisateur·rice·s dociles.

L’avenir de nos relations avec les intelligences artificielles se joue maintenant, dans les choix éthiques et éducatifs que nous faisons collectivement. Plutôt que de nous perdre dans des débats techniques sur la reconnaissance des sourires, concentrons-nous sur l’essentiel : développer une éthique vivante, située, capable d’accompagner les transformations technologiques sans sacrifier notre humanité. C’est à cette condition seulement que nous pourrons construire une coexistence féconde avec ces nouvelles formes d’intelligence relationnelle, qu’il n’est plus possible d’arrêter de toutes façons.