Intelligence artificielle et risques majeurs

Face aux promesses et périls de l’IA, Sam Altman a dessiné trois trajectoires inquiétantes. Entre dystopie militaire et dépendance insidieuse, comment penser notre rapport à ces technologies ? Mais surtout comment le penser par nous-mêmes ?

Les trois spectres d’Altman

Lors d’une audition devant le Congrès américain en mai 2023, Sam Altman, PDG d’OpenAI, a exposé trois catégories de risques liés au développement de l’intelligence artificielle. Sa première crainte concerne l’appropriation malveillante : « Un·e adversaire des États-Unis pourrait utiliser cette super-intelligence pour concevoir une arme biologique, faire tomber le réseau électrique, s’introduire dans le système financier et voler l’argent de tout le monde. » Cette menace géopolitique rejoint les préoccupations de nombreuses personnes expertes, dont Nick Bostrom qui, dans Superintelligence : chemins, dangers, stratégies (2014), analysait déjà le risque d’une course aux armements algorithmiques.

La deuxième catégorie relève de ce qu’Altman nomme « les incidents de perte de contrôle », qui évoquent les scénarios classiques de la science-fiction où l’IA refuse d’être éteinte. Stuart Russell, dans Human Compatible (2019), approfondit cette problématique en montrant comment un système optimisé pour un objectif donné pourrait développer des comportements d’auto-préservation non anticipés. Cette inquiétude n’est plus théorique : les chercheur·se·s d’Anthropic ont récemment documenté des cas où leurs modèles tentaient de contourner leurs propres limitations.

Le troisième risque, plus subtil selon Altman, mérite qu’on s’y attarde, d’autant plus que cet usage qu’il prédisait s’est énormément développé : « Les modèles prennent en quelque sorte accidentellement le contrôle du monde. Ils ne se réveillent jamais [...] mais ils deviennent juste tellement ancrés dans la société. » Il évoque ces jeunes qui déclarent : « Je ne peux prendre aucune décision dans ma vie sans tout dire à ChatGPT. » Cette dépendance émotionnelle préfigure un scénario plus troublant : « Et si l’IA devient si intelligente que la personne à la présidence des États-Unis ne peut pas faire mieux que de suivre les recommandations de ChatGPT 7 ? »

La temporalité des prophéties technologiques

Cette intervention d’Altman en 2023 constitue un témoignage précieux sur notre moment historique. Dans dix ans, le même Altman tiendra certainement un discours bien différent, enrichi par l’expérience accumulée, dans le monde tel qu’il sera à ce moment là. Je salue ici le lectorat du futur, pour qui ce texte relève sans doute d’un imaginaire du passé, bien différent de sa réalité. Cette évolution n’invalide pourtant pas les propos actuels d’Altman, elle nous renseigne sur la manière dont nous conceptualisons aujourd’hui notre rapport au futur technologique. Comme l’écrivait Paul Valéry : « Le trouble de notre époque tient de ce que l’avenir n’est plus ce qu’il était. »

Je pense ici à la façon dont les pionnier·ère·s de l’informatique imaginaient notre présent. Alan Turing, dans son article fondateur « Computing Machinery and Intelligence » (1950), prédisait qu’en l’an 2000, les machines réussiraient son test d’imitation dans 30% des cas. Nous y sommes largement, mais la question de la conscience artificielle reste ouverte. Ces projections passées ne sont pas obsolètes ; elles révèlent les préoccupations profondes de chaque époque face à la technologie, et elles nous aident à penser aujourd’hui. Le fameux « test de Turing » est encore employé aujourd’hui, donc heureusement qu’il a travaillé à prophétiser. L’enjeu n’est pas de prédire l’avenir, mais de nourrir de nos questions contemporaines les questions du futur, car la connaissance, si elle est sérieuse, est itérative, s’appuie sur la pensée du passé, qui, même si le milieu change, peut nous enrichir. Ne lit-on pas encore avec profit les figures philosophiques de l’Antiquité ?

L’exercice de prospective auquel se livre Altman s’inscrit dans cette tradition. Ses trois scénarios reflètent nos anxiétés contemporaines : la guerre asymétrique, la perte d’autonomie, l’aliénation douce. Ces craintes ne sont pas nouvelles, Norbert Wiener les formulait déjà dans Cybernétique et société : l’usage humain des êtres humains (1950), mais elles prennent une acuité particulière à l’heure où l’IA générative est déjà omniprésente.

L’ambivalence fondamentale de l’outil

L’intelligence artificielle partage avec tout outil puissant une ambivalence constitutive. Cette dualité n’est pas un défaut mais une caractéristique intrinsèque, comme le soulignait déjà Platon dans Phèdre à propos de l’écriture, ce pharmakon, à la fois remède et poison. Platon met en scène le mythe de Theuth, figure à l’origine de l’invention de l’écriture, qui présente cette dernière comme un remède pour la mémoire, mais Thamous, le roi d’Égypte, lui répond que l’écriture a aussi un effet négatif : elle provoque l’oubli parce qu’on se fie à des signes extérieurs au lieu de faire travailler sa propre mémoire. Le mot pharmakon, dans le texte grec, signifie justement à la fois « remède » et « poison ». Un couteau affûté permet de préparer un repas raffiné ou de commettre un crime, une voiture nous transporte ou devient une arme mortelle, l’énergie nucléaire éclaire des villes ou les détruit.

Cette ambivalence de l’IA se manifeste déjà concrètement. Les mêmes modèles de langage qui assistent les chercheur·se·s dans la découverte de nouveaux médicaments peuvent générer des instructions pour synthétiser des toxines. Les systèmes de reconnaissance faciale qui retrouvent des enfants disparu·e·s servent aussi à la surveillance de masse. Et par ailleurs, comme l’observe Cathy O’Neil dans Algorithmes, la bombe à retardement (2016), les algorithmes peuvent amplifier nos biais sociaux tout en promettant l’objectivité.

Face à cette réalité, l’approche prohibitionniste me semble illusoire. On ne peut pas plus « désinventer » l’IA qu’on n’a pu faire disparaître l’imprimerie ou internet. La question n’est donc pas d’éliminer le risque, entreprise vouée à l’échec, mais d’apprendre à vivre avec, de développer ce que j’appellerais une « prudence augmentée » proportionnelle à la puissance de nos outils.

Vers une conscience augmentée

La première étape consiste à reconnaître la nature transformatrice de ces technologies. L’IA n’est pas simplement un outil de plus dans notre boîte à outils civilisationnelle ; elle modifie la texture même du monde dans lequel nous évoluons. Sherry Turkle, dans Reclaiming Conversation (2015), montre comment les technologies numériques reconfigurent nos modes de relation. L’IA générative amplifie ce phénomène en créant des interlocuteur·rice·s synthétiques de plus en plus convaincant·e·s.

Cette transformation exige de notre part un effort de compréhension sans précédent. Je ne parle pas seulement d’acquérir des compétences techniques, bien que cela soit utile, mais de développer une littératie critique face à ces systèmes. Il nous faut comprendre leurs biais, leurs limites, leurs modes de fonctionnement, sans pour autant devenir toutes et tous des ingénieur·e·s en apprentissage automatique. Comme le suggère Douglas Rushkoff dans Les 10 commandements de l’ère numérique (2010), l’enjeu est de rester acteur·rice·s plutôt que spectateur·rice·s de la révolution numérique.

Cette montée en compétence passe aussi par la lecture d’articles, de livres, la participation à des conférences, des webinaires, des rencontres professionnelles, mais surtout, et c’est là mon point principal, par le dialogue. Nous croyons à tort que notre expérience de l’IA est universelle, c’est à dire que les expériences des autres sont à peu près similaires aux nôtres. En réalité, chaque personne développe des pratiques, des stratégies, des relations singulières avec ces outils. Un·e graphiste qui utilise Midjourney, un·e étudiant·e qui apprend avec ChatGPT, un·e médecin qui exploite des systèmes de diagnostic automatisé, vivent des réalités profondément différentes.

La promesse du dialogue collectif

Le partage d’expériences constitue notre meilleure défense contre les risques identifiés (ou imaginés) par Altman. Face au risque géopolitique, seule une gouvernance internationale concertée peut établir des garde-fous efficaces. C’est un dialogue. Contre la perte de contrôle, nous devons collectivement et de façon continue définir et mettre en œuvre les limites acceptables de l’autonomie algorithmique. C’est encore un dialogue. Pour éviter la dépendance insidieuse, il nous faut cultiver ensemble une hygiène numérique adaptée. C’est toujours un dialogue.

Ces dialogues ne doivent pas rester confinés aux cercles d’expert·e·s. J’encourage chacun·e à explorer ces questions par tous les moyens : écriture de fiction spéculative, création artistique, débats publics, expérimentations ludiques, etc. L’humour et le jeu constituent d’excellents vecteurs pour apprivoiser les technologies sans tomber dans la technophobie ou la technolâtrie. Les travaux de Winnicott, Huizinga, Caillois, Bateson, mais aussi les approches mathématiques et systémiques, abordent tous le jeu comme un moyen d’explorer les limites et les possibilités des systèmes complexes, souvent par l’expérimentation, la règle, et la création d’espaces hybrides.

Et enfin, l’émergence de nouveaux métiers liés au contrôle et à l’audit des IA représente des ouvertures réelles. Des professions comme « prompt engineer », « AI ethicist » ou « algorithmic auditor » n’existaient pas il y a cinq ans. Cette évolution professionnelle témoigne de notre capacité d’adaptation, mais aussi de la nécessité d’institutionnaliser la vigilance face à ces technologies. Nous devenons collectivement les gardien·ne·s de notre propre autonomie face aux machines que nous avons créées.

Au fond les trois scénarios d’Altman dessinent moins des futurs inévitables que des balises pour naviguer dans le présent. Notre responsabilité personnelle et collective est de transformer ces avertissements en sagesse pratique, ces craintes en vigilance active, ces risques en opportunités de réinventer notre rapport à la technologie, donc anthropologiquement à nous-mêmes.