Extraits choisis sur l’Intelligence Artificielle

L’Intelligence Artificielle est un sujet à la mode dans le grand public et dans les organisations depuis que ChatGPT, cet outil puissant de génération de textes structurés à partir d’une requête, est devenu public en novembre 2022. En effet, on touche du doigt en tant qu’acteurs les apports visibles de ces technologies sur nos vies. Il me semble essentiel de produire collectivement une pensée critique sur ces technologies et leurs usages, c’est à dire se mettre en capacité de penser par soi-même une distance, un pas de côté, sur ce qui nous arrive. Aller vers les nuances et non les simplismes. Pour ce faire, dans le cadre de mon travail de veille et en lien avec le Comité de veille IA que j’anime en 2024-2025 au Forum des images, j’ai rassemblé quelques extraits de livres sur le sujet qui me semblent éclairants.

Sur l’IA en général

Cette invisibilisation des coulisses de la technologie alimente le mystère qui entoure le fonctionnement des produits numériques. En conséquence, le champ lexical établi autour de ces technologies renferme une importante charge fantasmagorique. Par exemple, nous appelons « intelligence artificielle » (IA) un ensemble de technologies extrêmement variées et ayant bien plus souvent à voir avec la statistique avancée qu’avec le concept d’« intelligence » au sens propre. L’usage du mot-valise facilite son appréhension commerciale en l’assimilant à l’imaginaire populaire de l’intelligence artificielle issue de la science-fiction, mais repose sur une falsification de la réalité. Or, quand nous sommes impressionnés par les outils tels que ChatGPT, c’est d’abord parce que nous ne comprenons pas comment fonctionne ce système.

Géopolitique du numérique. Ophélie Coelho, Les éditions de l’atelier, Paris, 2023.

Les histoires nous ont réunis. Les livres ont diffusé nos idées et nos mythologies. Internet nous a promis le savoir infini. Les algorithmes ont découvert nos secrets - et nous ont divisés. Quel monde nous promet l’IA ?

Depuis cent mille ans, nous, les Sapiens, avons acquis un gigantesque pouvoir. Mais malgré nos découvertes, inventions et conquêtes, nous sommes aujourd’hui confrontés à une crise existentielle inédite. Le monde est au bord de l’effondrement écologique. Les tensions politiques se multiplient. La désinformation abonde. Et nous entrons de plain-pied dans l’ère de l’IA, un réseau d’information qui sera bientôt capable de nous dominer. […]

Cette vision naïve soutient en effet qu’en collectant et en traitant bien plus d’informations que ne pourraient le faire des individus, les grands réseaux accèdent à une meilleure compréhension de la médecine, de la physique, de l’économie et de nombreux autres domaines, ce qui les rend non seulement puissants, mais sages. […] On entend généralement par sagesse l’aptitude à « prendre de bonnes décisions », mais le sens de « bonne » dépend ici de jugements de valeur qui diffèrent d’une personne, d’une culture et d’une idéologie à l’autre. […] à y regarder de plus près, postule cette vision, les désaccords au sujet des valeurs se révèlent être le fruit soit d’un manque d’informations, soit d’une désinformation délibérée. Les racistes seraient donc des personnes mal informées, qui ignorent simplement les faits biologiques et historiques.

Nexus, une brève hsitoire des réseaux d’information de l’âge de pierre à l’IA. Yuval Noah Harari, Albin Michel, Paris, 2024.

L’intelligence artificielle (IA) permet à une machine de reconnaître une image, de transcrire la voix d’une langue à une autre, de traduire un texte, d’automatiser la conduite d’une voiture ou le pilotage d’un procédé industriel. L’expansion prodigieuse qu’elle connaît ces dernières années est liée à l’apprentissage profond qui permet d’entraîner une machine à accomplir une tâche au lieu de la programmer explicitement. Le deep learning caractérise un réseau de neurones artificiels, dont l’architecture et le fonctionnement sont inspirés de ceux du cerveau. Le cerveau humain est composé de 86 milliards de neurones, des cellules nerveuses connectées les unes aux autres. [...] Le rôle de ces neurones artificiels est de calculer une somme pondérée de leurs signaux d’entrée, et de produire un signal de sortie si cette somme dépasse un certain seuil. [...] Mais le cerveau humain garde une avance considérable. Il est beaucoup plus généraliste et malléable.

Quand la machine apprend, la révolution des neurones artificiels et de l’apprentissage profond. Yann Le Cun, Odile Jacob, Paris 2019-2023.

Sur la création artistique

Écriture, peinture, musique, voire sculpture : dans tous les cas, la machine doit être épaulée, guidée, parfois forcée, afin de saisir l’intrigue, d’énumérer les personnages, d’indiquer leur personnalité, de fournir le contexte, d’imprimer un style, etc. Et, les choix de conception reviennent à des personnes. Le geste artistique qui initie les œuvres leur échoit toujours. En cela, comme en bien d’autres choses, les machines ne démettent pas les artistes de leur initiative. Les machines ne nous dépassent pas ; elles nous épaulent et nous permettent, si nous en avons le talent, d’outrepasser nos propres capacités.

L’IA expliquée aux humains. Jean-Gabriel Ganascia, Seuil, Paris, 2024.

Sur l’éthique

[..] l’éthique se rapproche plus de la sagesse que de la raison : il s’agit de comprendre ce qu’est être bon plutôt que d’avoir un jugement correct dans une situation particulière.

Quel savoir pour l’éthique ? Action, sagesse et cognition. Francisco Varela, Editions La Découverte, Paris, 1996.

[…] ce terme de poléthique invite donc à penser une articulation forte entre éthique et politique […] il me semble également que la dimension poétique, créatrice, est probablement l’un des éléments les plus précieux et fructueux qui peuvent nourrir cette interaction afin d’ouvrir le champ des possibles et d’aider à cette « éclaircie du monde ».

Il s’agira ainsi de prendre au sérieux l’affirmation d’Ellul selon laquelle le « bluff technologique » repose notamment sur « la suppression du jugement moral avec la création d’une nouvelle idéologie de la science », en montrant comment cette suppression du jugement moral repose sur une forme de sophisme qui nous fait confondre l’artificiel et le bien et que je propose d’appeler le « sophisme artificialiste ».

Quelle éthique pour les nouvelles technologies ? Nanotechnologies, Cybergénétique, Intelligence Artificielle. Vanessa Nurock, Vrin, Paris, 2024.

Sur les métiers de demain

La plupart des entreprises font l’erreur de vouloir faire leur transformation digitale : elles supposent que leur cœur de métier ne changera pas. […] Ce biais cognitif, nous l’avons à chaque arrivée d’une nouvelle technologie : notre cerveau cherche à plaquer des schémas connus pour l’appréhender, or si cela ne correspond à rien dans nos références, nous sommes incapables d’imaginer son potentiel et ses applications ; ce n’est qu’une fois démocratisée que la valeur d’une innovation nous paraît évidente. Le rôle des disrupteurs est justement de voir cette valeur avant tout le monde. […] « Mettre l’humain au centre » comme le disent beaucoup d’entreprises aujourd’hui, n’a aucun sens si l’empathie n’est pas déjà parfaitement maîtrisée à titre individuel. Tous ceux qui ne maîtriseront pas l’empathie seront sans activité à l’heure de l’intelligence artificielle.

Disruption. Intelligence artificielle, fin du salariat, humanité augmentée. Préparez-vous à changer de monde. Stéphane Mallard, Dunod, Paris, 2018.

Sur l’éducation

Toute enquête d’ordre philosophique sur l’intelligence artificielle implique une réflexion sur l’intelligence humaine, soit directement dans le programme de la philosophie de l’esprit (l’étude des fondements de la psychologie), soit dans celui de la branche de la philosophie des sciences consacrée au sciences cognitives - les deux entreprises étant d’ailleurs très proches.

Intelligence artificielle, intelligence humaine : la double énigme. Daniel Andler, NRF essais Gallimard, Paris, 2023.