La troisième humiliation de l'humanité
Que restera-t-il de notre conception de nous-mêmes lorsque l'intelligence artificielle sera plus douée que nous pour écrire des poèmes ou réaliser des films ?
Cela fait un peu plus de trois mois que j'ai lancé ce Substack pour partager mes écrits et réflexions avec un public francophone.
Je vous suis très reconnaissant, chers lecteurs, pour votre soutien à un travail qui me tient à cœur et qui, je l'espère, contribuera à nourrir la réflexion, le discours et la participation politiques actuels.
Si vous souhaitez que je continue à partager mes écrits en français, je vous serais reconnaissant de transmettre cette publication à trois amis et de les inviter à s'abonner.
- Yascha
Cet article a été publié sur mon Substack en anglais le 17 avril.
Une récente réunion éditoriale de Persuasion, réimaginée dans le style des films d'animation Ghibli grâce à la nouvelle fonctionnalité de traitement d'images de ChatGPT.
Récemment, un passionné de classiques a publié sur X quatre traductions d'un passage de L'Odyssée, demandant à ses followers de choisir leur préférée. Trois d'entre elles étaient l'œuvre de certains des traducteurs les plus éminents qui se soient attaqués à la tâche de rendre le magnifique langage d'Homère dans un anglais précis et idiomatique : Robert Fitzgerald, Richmond Lattimore et Emily Wilson. La quatrième était l'œuvre de l'un des principaux modèles d'intelligence artificielle : GPT4o d'OpenAI.
Le résultat du sondage était sans ambiguïté : GPT4o était le grand gagnant, avec plus de deux fois plus de votes que son concurrent humain. À en juger par le goût du grand public, les chatbots surpassent désormais les traducteurs humains les plus compétents.
Ce n'est pas une aberration. Dans un large éventail de domaines créatifs autrefois considérés comme l'apanage de l'être humain, l'intelligence artificielle rivalise désormais avec les capacités des artistes les plus talentueux.
Prenons l'exemple de la poésie. Selon un article récemment publié dans Nature par Brian Porter et Edouard Machery, deux professeurs de l'université de Pittsburgh, les personnes interrogées se sont révélées incapables de reconnaître la provenance des poèmes qu'elles devaient évaluer. Ils n'ont pas réussi à faire la distinction entre les œuvres de créateurs humains célèbres tels que Sylvia Plath, Walt Whitman et Lord Byron et les imitations générées par un chatbot, le modèle 3.5 de ChatGPT, qui n'est même plus à la pointe de la technologie.
Pire encore, les participants à l'étude ont trahi leur espèce sans le vouloir. Lorsqu'on leur a révélé la provenance des poèmes qu'ils évaluaient, ils ont préféré les originaux écrits par des humains. Lorsqu'ils ne savaient pas qui avait écrit tel ou tel poème, ils ont systématiquement préféré les imitations écrites par l'IA. « Les gens préfèrent la poésie générée par l'IA à la poésie écrite par des humains, évaluant systématiquement les poèmes générés par l'IA plus favorablement que les poèmes de poètes connus sur divers critères qualitatifs », rapportent Porter et Machery.1
La poésie est plus la règle que l'exception. En effet, comme le soulignent les auteurs de l'étude, il devient difficile de trouver un domaine dans lequel l'intelligence artificielle ne surpasse pas encore les humains : « Les images générées par l'IA sont devenues impossibles à distinguer de la réalité. Les peintures générées par l'IA sont jugées comme des œuvres d'art créées par des humains à un taux plus élevé que les peintures réelles créées par des humains. Les visages générés par l'IA sont jugés comme de vrais visages humains à un taux plus élevé que les photos réelles de visages humains, et l'humour généré par l'IA est tout aussi drôle que les blagues créées par des humains. »
Une série de questions urgentes soulevées par ces progrès étonnamment rapides de l'intelligence artificielle concerne l'avenir du travail intellectuel, en particulier dans les domaines artistiques.
Récemment, OpenAI a publié un modèle dont la capacité à générer des images a été considérablement améliorée. Du jour au lendemain, l'arrivée de cet illustrateur de poche a permis aux entreprises d'accomplir de nombreuses tâches pour lesquelles elles devaient auparavant faire appel à des designers ou des illustrateurs. Même des tâches qui nécessitaient auparavant de grandes équipes de mannequins, de photographes et de chargés de clientèle, comme la création d'une publicité professionnelle, pourraient bientôt être remplacées par des IA. Des millions de créatifs vont-ils bientôt se retrouver sans emploi ?
L'une des ironies de notre époque est peut-être que l'avancée inattendue de l'IA va bouleverser les hiérarchies de compétences que nous considérons depuis longtemps comme acquises. Il y a quelques années, l'idée répandue était que les nouvelles technologies allaient remplacer les chauffeurs routiers et les ouvriers du bâtiment ; on conseillait avec condescendance aux membres « peu qualifiés » de ces professions subalternes d'apprendre à coder. Aujourd'hui, une nouvelle réalité se profile : les professionnels « hautement qualifiés » du secteur tertiaire, notamment les médecins, les avocats et les programmeurs informatiques, mais aussi les illustrateurs et les rédacteurs, pourraient s'avérer encore plus remplaçables.
Ces transformations économiques risquent d'être profondément perturbantes. Selon la manière dont elles seront gérées, elles pourraient libérer l'humanité ou nous appauvrir tous. Et pourtant, ces dernières semaines, j'ai réfléchi à un changement intangible qui me semble, à sa manière, tout aussi important. Qu'adviendra-t-il de notre compréhension de nous-mêmes en tant qu'espèce si, un jour qui approche à grands pas, nous sommes moins doués que les machines pour des activités que nous avons longtemps considérées comme typiquement humaines, comme écrire un poème ou composer une chanson ?
La technologie a permis aux humains de soumettre une grande partie de la planète à leur volonté.
En 1500, le globe comptait moins de 500 millions d'êtres humains. La zone dominée par les établissements humains se limitait à une petite fraction des terres habitables. L'espérance de vie dans les régions les plus riches du monde était inférieure à 35 ans. Environ un nouveau-né sur deux n'atteignait pas l'âge de 15 ans.
Un demi-millénaire plus tard, les humains ont profondément transformé leur habitat. La planète Terre compte aujourd'hui plus de 8 milliards d'êtres humains. En dehors des océans et des forêts tropicales, des déserts et des sommets montagneux, les établissements humains dominent la grande majorité de la masse terrestre. Même en Afrique, qui reste de loin le continent le plus pauvre du monde, l'espérance de vie moyenne est supérieure à soixante ans. Le nombre de bébés qui succombent à la maladie, à la famine ou à la violence est infime par rapport à ce qu'il était autrefois, avec moins d'un nouveau-né sur vingt mourant avant son quinzième anniversaire. On comprend aisément pourquoi certains scientifiques ont suggéré d'appeler cette ère géologique « l'Anthropocène », l'époque où les humains sont devenus le facteur le plus important dans la formation de l'environnement.
Et pourtant, d'une certaine manière, l'humanité a été remise à sa place au cours de ses cinq cents années de triomphe. Car les mêmes découvertes scientifiques qui ont permis aux humains de soumettre la Terre à leur volonté leur ont également démontré que leur place dans l'univers n'était pas aussi centrale qu'ils l'avaient supposé. Comme l'a fait remarquer Sigmund Freud dans ses Introductory Lectures on Psychoanalysis, « Au cours de son histoire, l'humanité a dû subir de la part de la science deux grands outrages à son amour-propre naïf. »
La première humiliation de l'humanité est survenue au XVIe siècle, lorsque Copernic a affirmé que l'univers ne tournait pas autour de la Terre. Cela a contraint les humains à se confronter, selon les termes de Freud, au fait « que notre Terre n'était pas le centre de l'univers, mais seulement un minuscule grain de poussière dans un système mondial d'une magnitude difficilement concevable ».
La deuxième humiliation de l'humanité est survenue au XIXe siècle, avec les théories de l'évolution de Charles Darwin. Selon Freud, cela « a privé l'homme de son privilège particulier d'avoir été spécialement créé et l'a relégué au rang d'animal, impliquant en lui une nature animale indélébile ».
Freud a également postulé une troisième humiliation de l'humanité, qu'il considérait comme le « coup le plus dur » pour notre espèce. Il affirmait, non sans une bonne dose d'ego, que ses propres travaux sur le subconscient prouvaient « à chacun d'entre nous qu'il n'est même pas maître chez lui, mais qu'il doit se contenter des plus infimes bribes d'information sur ce qui se passe inconsciemment dans son propre esprit ».
La reconnaissance du fait que les êtres humains ne sont pas pleinement conscients de toutes leurs pensées et de tous leurs désirs est certes importante. Mais elle ne soutient pas la comparaison avec les découvertes de Copernic et de Darwin. Et sous la forme sous laquelle Freud l'a présentée, en mettant l'accent sur le ça et le surmoi, sur le subconscient et l'interprétation des rêves, elle a suivi le chemin de nombreuses autres sciences : discréditée et démystifiée par des recherches plus rigoureuses.
La troisième humiliation de l'humanité n'a pas encore eu lieu. Mais les progrès rapides de l'intelligence artificielle suggèrent qu'elle pourrait être imminente. Car qu'est-ce qui pourrait être considéré comme la troisième humiliation, la plus fondamentale, de l'humanité, si ce n'est le fait que les machines pourraient bientôt nous surpasser dans les activités créatives longtemps considérées comme typiquement humaines ?
Beaucoup de gens intelligents refusent encore d'admettre les capacités et l'importance de l'intelligence artificielle. Ils soulignent ses limites, comme sa tendance occasionnelle à halluciner. Ils affirment que, loin d'être une forme d'intelligence véritable, il s'agit simplement d'un « perroquet stochastique », un algorithme sans âme qui est entraîné à prédire le mot suivant dans une phrase ou le pixel suivant dans une photographie.
Il est peut-être inévitable que, face à des progrès aussi rapides dans certains domaines qui nous sont particulièrement chers, certaines personnes s'accrochent désespérément à n'importe quelle explication pour justifier que ces miracles ne sont pas tout à fait réels. Mais malheureusement, les arguments les plus couramment avancés ne sont finalement guère plus que des tentatives vouées à l'échec pour se rassurer. Dans quelques décennies, voire quelques années, ils seront largement reconnus comme une forme de « mécanisme d'adaptation », dans la lignée des prêtres et des moralistes qui refusaient d'accepter que les humains puissent descendre du singe.
Oui, les modèles d'IA ont encore certaines limites fondamentales, et leur tendance à halluciner en fait partie. En particulier lorsque vous demandez à ChatGPT de vous donner un fait précis ou de trouver une citation particulière, il peut inventer quelque chose pour vous faire plaisir. Mais aussi réels que soient ces problèmes, ils sont prévisibles à un stade aussi précoce de développement. Pendant des décennies, les voitures avaient des moteurs qui refusaient de démarrer la plupart du temps et tombaient en panne tous les quelques kilomètres ; aujourd'hui, vous pouvez parcourir des dizaines de milliers de kilomètres sans craindre que votre voiture vous lâche. Il est tout à fait prématuré de supposer que les chatbots IA ne résoudront jamais des problèmes tels que leur tendance à halluciner après seulement quelques années d'un développement étonnamment rapide.
L'insistance sur le fait que les chatbots IA ne peuvent pas être véritablement intelligents parce qu'ils ne sont que des algorithmes capables de reconnaître et de reproduire des modèles courants dans les vastes bases de données sur lesquelles ils sont entraînés est encore moins convaincante. Cette objection repose sur une confusion fondamentale : elle confond le fonctionnement d'un système avec ce dont il est capable.
Les neuroscientifiques ne comprennent pas encore pleinement le cerveau humain. Des slogans tels que « les neurones qui s'activent ensemble se connectent ensemble » sont, au mieux, des simplifications excessives d'un processus encore mystérieux. Mais il est clair que le miracle de notre esprit est finalement le résultat d'un arrangement complexe de matière physique. Et pourtant, personne ne nierait l'intelligence de Shakespeare au motif que ses sonnets ont été produits par des neurones échangeant des signaux électrochimiques d'une manière que nous ne comprenons que partiellement. Réduire sa créativité à la mécanique de sa biologie reviendrait à passer à côté de l'essentiel ; il s'agit, dans le langage philosophique, d'une erreur de catégorie.
Il en va de même pour l'IA. Il est vrai que les chatbots sont des systèmes conçus et que leur fonctionnement peut, en principe, être décrit de manière algorithmique. Il est également vrai que la nature de leur intelligence est probablement différente de celle des humains ; un de mes amis, éminent neuroscientifique, estime qu'elle est distincte du raisonnement des mammifères et des céphalopodes, ce qui en ferait le troisième type d'intelligence sur Terre. Mais comme dans le cas des humains, il serait erroné de penser que la description du processus physique impliqué dans leur fonctionnement diminue en quelque sorte ce qu'ils sont capables de produire.
Des mots comme « intelligence » n'ont pas de signification fixe. Si le fait d'insister sur le fait qu'une entité basée sur des algorithmes ne peut être qualifiée d'« intelligente » apaise l'anxiété de certains face aux progrès rapides de l'IA, cet argument est en fin de compte invérifiable. Mais le défi que pose l'IA à la conception que l'humanité a d'elle-même ne tient pas à la manière dont elle produit des œuvres d'art, mais à sa capacité même à le faire. Même si, arbitrairement, nous décidions collectivement de nier l'intelligence d'une entité capable de produire des poèmes aussi émouvants que ceux écrits par Whitman ou Wordsworth, nous ne pourrions échapper à la reconnaissance humiliante que les algorithmes sont capables de réaliser des prouesses créatives que nous croyions autrefois réservées aux humains.
Il reste un dernier refuge.
Les modèles d'IA pourraient bientôt se révéler capables d'écrire des poèmes que même les plus grands experts jugeraient supérieurs à ceux de leurs concurrents humains. Ce n'est probablement qu'une question de temps avant qu'un farceur parvienne à publier dans The New Yorker un poème écrit par ChatGPT, mais prétendument rédigé par un humain. (Ou peut-être que le coupable sera, plus prosaïquement, un poète établi en panne d'inspiration et ayant un loyer à payer.) Et là où les poèmes ouvrent la voie, les nouvelles, les romans et peut-être même les films ne seront pas loin derrière.
Mais l'écriture est un acte de communication. Les activités telles que la poésie ont un sens pour les humains car elles expriment des émotions authentiques qui semblent vraiment faire défaut aux modèles d'IA, malgré leur capacité à imiter la forme verbale que prennent ces émotions. Lorsque nous lisons les mots de Shakespeare ou de Whitman, une partie du plaisir réside dans le fait que cela nous permet d'être en relation très intime avec un grand esprit qui a vécu à une époque et dans un lieu très éloignés des nôtres. Toutes ces raisons expliquent pourquoi notre préférence pour les œuvres artistiques que nous croyons avoir été créées par des humains – qu'elles le soient réellement ou non – pourrait s'avérer permanente.
Mais la production de telles œuvres d'art aura-t-elle encore autant de sens qu'avant l'avènement de l'IA ? Les poètes, les romanciers, les scénaristes et, oui, les humbles auteurs de publications Substack seront-ils toujours aussi motivés à mettre toute leur âme dans le vide de leur écran si les machines que nous avons tous dans nos poches peuvent faire le travail mieux et plus vite ?
L'humanité a accepté le fait que la Terre n'est pas le centre de l'univers. Nous avons fait la paix avec nos origines animales. Nous pouvons certainement accepter le fait que les machines que nous avons créées dépasseront bientôt nos capacités dans certains des domaines artistiques qui font de nous ce que nous sommes. Mais le coup porté à notre estime collective, lorsqu'il se produira, comme cela sera probablement le cas bientôt, pourrait être le plus grave que l'humanité ait jamais subi.
Une réponse courante à cette question est que cela reflète simplement l'ignorance de la plupart des gens ; ceux qui connaissent vraiment Homère ou Whitman et s'y intéressent seraient certainement capables de faire la différence. Peut-être. Dans l'étude Nature, par exemple, la plupart des personnes interrogées ont librement admis avoir peu de connaissances sur le sujet. Mais si des travaux plus empiriques sont nécessaires pour déterminer la capacité des véritables experts à distinguer les œuvres créatives réalisées par l'IA de celles créées par des humains, les preuves existantes semblent aller dans le sens contraire. Dans l'étude sur la poésie, par exemple, les personnes interrogées ayant une meilleure connaissance de la poésie n'étaient pas plus aptes à reconnaître les contenus créés par l'IA : comme le soulignent les auteurs de l'étude, « aucun des effets mesurant l'expérience en matière de poésie n'a eu d'effet positif significatif sur la précision ».
Le faux “ghibli” qui illustre l’article me semble une parfaite illustration des limitations du l’IA: une imitation époustouflante ennuyeuse après à peine quelques semaines d’ubiquité et dépourvue de la poésie qui fait le charme des films.
Yascha, il me semble que vous faites dans cet article une assimilation directe entre création et consommation. Vous remettez en cause la suprématie de l’IA sur l’homme au prétexte que certains lecteurs ont préféré les créations de l’IA à celle des artistes humains. Ce serait comme faire une évaluation de la qualité de la création à l’aune des ventes des artistes ou de leur cote. Que vaudraient dans ce cas Van Gogh ou Kafka ignores de leur vivant ?