Arvind Narayanan : l’IA, une révolution à relativiser

Yascha Mounk et Arvind Narayanan discutent d’un bouleversement qui se jouera sur des décennies, non des mois — et de ce que cela change pour nous.

Si vous souhaitez que je continue à partager mes écrits en français, je vous serais reconnaissant de transmettre cette publication à trois amis et de les inviter à s’abonner.

- Yascha

Arvind Narayanan est professeur d’informatique à l’université de Princeton.

Dans l’entretien de cette semaine, Yascha Mounk et Arvind Narayanan discutent des raisons pour lesquelles l’impact transformateur de l’IA se déploiera sur des décennies plutôt que sur quelques mois, se demandent si la responsabilité humaine pourra survivre à l’essor des agents IA sur le lieu de travail, et évoquent à quoi ressemblera l’économie une fois que l’IA aura automatisé toutes les tâches pouvant être définies avec précision.

Ce qui suit est une traduction abrégée d’une interview enregistrée pour mon podcast, « The Good Fight ».

---

Yascha Mounk : Vous avez inventé une expression qui est véritablement au cœur de certains débats sur l’intelligence artificielle, mais ce que vous entendez par là va un peu au-delà de ce que l’on pourrait deviner en se contentant de lire l’expression. Cette expression est : « L’IA est une technologie normale. » Que signifie considérer l’IA comme une technologie normale ?

Arvind Narayanan : « Technologie normale » ne signifie pas qu’il s’agit de quelque chose de banal, d’ennuyeux, d’insignifiant, ni qu’il faille passer son chemin ; nous ne sommes pas des sceptiques de l’IA. L’article commence par reconnaître qu’il s’agit, et qu’il s’agira, d’une technologie transformatrice, peut-être à l’échelle de l’électricité, des différentes révolutions industrielles, etc. Nous pensons effectivement qu’il s’agit d’une transformation du travail cognitif, de la même manière que nous avons connu par le passé des transformations du travail mécanique. Mais je pense que cette analogie historique nous apporte beaucoup.

Nous pensons en effet que l’histoire nous enseigne des leçons profondes qui nous permettent de considérer que, même si cette technologie est extrêmement puissante, elle ne va pas transformer le monde en l’espace d’un an ou deux. De nombreux technologues, dirigeants du secteur technologique et chefs d’entreprise prédisent que, simplement parce que les chiffres grimpent dans les graphiques qu’ils consultent – les graphiques sur les capacités de l’IA –, celle-ci rendra le travail humain superflu, mettra les gens au chômage, voire mettra fin au concept d’argent, ou qu’elle fera peser des menaces existentielles sur l’humanité. Nous pensons que ce sont là autant de sujets de préoccupation légitimes. Nous nous réjouissons que des recherches soient menées à ce sujet. Mais nous estimons qu’il existe de nombreux obstacles entre l’amélioration des capacités de l’IA et la concrétisation de ces impacts, qu’ils soient positifs ou négatifs, surtout si l’on souhaite véritablement l’intégrer à l’économie et en tirer quelque chose d’utile. Il y a tellement de choses qui doivent se passer comme il faut. Nous pensons que cela se produira sur plusieurs décennies, et non en quelques mois ou années.

Nous disposons d’une grande capacité d’action collective pour façonner la manière dont l’IA va transformer diverses professions, l’économie, la démocratie, etc.

Mounk : Je trouve que c’est une façon très utile d’aborder la question. Encore une fois, vous prenez bien soin de préciser que vous n’êtes pas sceptique vis-à-vis de l’IA. Je ne suis pas tout à fait sûr de ce que nous entendons exactement par le terme « normal » dans ce contexte. Quand on pense à l’électricité, ou même à Internet, ce sont des technologies qui ont transformé le monde de manière très fondamentale.

Or, quand on compare cela aux déclarations les plus naïves que font certaines personnes de la Silicon Valley, selon lesquelles, d’ici dix-huit mois, tout aura changé — je me souviens d’avoir été assis dans une salle de conférence avec une personne aujourd’hui très célèbre dans la Silicon Valley, en 2017, qui, en montrant par la fenêtre un champ verdoyant, disait : « Dans dix-huit mois, des robots construiront des gratte-ciel là-bas. » Nous sommes en 2026, et la crise du logement en Californie est toujours aussi grave.

Je comprends donc très bien ce point de vue. Mais même si cela doit prendre des décennies plutôt que des années, et que la manière dont la technologie façonne le monde va évidemment être influencée par toutes sortes de choix humains, d’institutions et d’obstacles réglementaires, une technologie d’une ampleur comparable à celle de l’électricité semble encore, à certains égards, assez inhabituelle.

Narayanan : C’est une technologie qu’il faut prendre au sérieux. Je pense que les particuliers, les entreprises et les décideurs politiques devraient tous la prendre au sérieux, et c’est pourquoi nous travaillons dans le domaine de l’IA. Mon coauteur, Sayash Kapoor, et moi-même conseillons depuis longtemps les décideurs politiques sur la manière de répondre à ces changements. Si nous ne prenions pas cela au sérieux, nous ne consacrerions pas nos carrières à tout ce travail. Mais pour mettre le doigt sur certains des désaccords — exactement comme vous l’avez souligné —, on entend tellement d’affirmations selon lesquelles cette transformation va se produire en un an ou deux. Et si tel est le cas, alors tous les leviers politiques plus classiques dont nous pourrions disposer — aider les gens à acquérir de nouvelles compétences face à cette nouvelle technologie afin qu’ils puissent trouver de nouveaux emplois —, tout cela part en fumée, car rien ne peut se faire assez vite à cette échelle de temps. La seule chose à laquelle nous pouvons nous préparer, c’est le chômage de masse. Nous devrions donc considérer que toute mesure inférieure à l’ampleur d’un revenu de base universel serait totalement disproportionnée par rapport à l’ampleur du problème. C’est exactement ce que préconisent les dirigeants du secteur technologique, et nous y sommes fermement opposés.

Nous pensons que les outils habituels de l’élaboration des politiques, du monde des affaires et de l’adaptation humaine peuvent également fonctionner avec l’IA. Nous devons certes résoudre certains problèmes. Même l’élaboration « normale » des politiques, même face à une technologie qui ne progresse pas aussi vite que l’IA, met souvent très longtemps à reconnaître les problèmes. Avec les réseaux sociaux, par exemple, il a fallu bien plus d’une décennie après qu’ils ont commencé à avoir ces répercussions massives sur la société pour que la recherche en arrive réellement à cette conclusion, que les décideurs politiques prennent conscience de la situation, etc. Ce sont des problèmes que nous avons déjà rencontrés, et nous allons également les rencontrer avec l’IA. Nous devons effectivement améliorer la rapidité avec laquelle nous réagissons à ces changements, mais ce n’est pas comme s’il s’agissait d’une question d’un ou deux ans et que nous devions jeter tout notre plan d’action existant pour nous préparer soit à une utopie, soit à une catastrophe.

Mounk : Distinguons la vitesse à laquelle la transformation va se produire de l’ampleur de la transformation qui finira par se produire. Je pense que nous sommes tout à fait d’accord sur la vitesse. Ayant lu une grande partie de vos travaux, je ne suis pas encore certain que nous soyons d’accord sur l’ampleur. Mais commençons par ce qui est simple, à savoir la vitesse. Pourquoi, concrètement, pensez-vous que l’impact de cette technologie mettra beaucoup plus de temps à se concrétiser dans le monde réel que ne semblent le croire bon nombre de ces acteurs de la Silicon Valley ? Pourquoi s’agit-il d’une question de décennies plutôt que d’années, voire de mois ?

Narayanan : Prenons un exemple concret : le génie logiciel. C’est le domaine où l’adoption de l’IA a été la plus rapide, et où les capacités de l’IA sont les plus avancées. On a prédit que l’IA allait automatiser le génie logiciel dès qu’elle serait capable d’écrire tout le code. Nous disposons déjà de suffisamment de preuves aujourd’hui — nous venons d’ailleurs de publier un article à ce sujet — pour réfuter ce modèle. L’IA écrit déjà la majeure partie du code, et cela n’a pas rendu les ingénieurs logiciels obsolètes.

Le recrutement d’ingénieurs logiciels — le nombre d’ingénieurs logiciels en activité continue d’augmenter, peut-être un peu plus lentement qu’auparavant, mais même cela est discutable, car cela permet également aux ingénieurs logiciels de devenir plus facilement entrepreneurs, par exemple, et cela n’est pas tout à fait pris en compte par les données. Nous avons cherché à comprendre pourquoi il en est ainsi, et nous avons élaboré un modèle pour l’expliquer. C’est ce que nous appelons le « sandwich décider, exécuter, livrer ». Il s’agit de trois niveaux qui, selon nous, s’appliquent à la plupart des types de travail cognitif.

Le travail cognitif — gagner sa vie en réfléchissant — est le type de travail dont on dit qu’il va être automatisé par l’IA. D’après notre analyse, pour la plupart de ces métiers — que vous soyez ingénieur logiciel, avocat, chercheur ou que vous exerciez de nombreux autres types de travail cognitif —, un bon tiers consiste simplement à cerner le problème et à décider s’il vaut la peine d’être résolu, comment nous allons le résoudre, comment nous allons développer le logiciel, concevoir le système, etc.

Ensuite, peut-être un autre tiers, toujours dans le contexte de l’ingénierie logicielle, consiste à écrire le code, à le corriger, etc. Et un dernier tiers consiste à livrer le code : le vérifier, s’assurer qu’il passe les contrôles de qualité, en assumer la responsabilité, l’intégrer dans les systèmes du client, en assurer la maintenance au fil du temps, surtout lorsqu’il s’agit de logiciels d’entreprise plutôt que de logiciels grand public. Cela représente une part importante du travail. Ce que nous constatons, c’est que l’IA réduit la partie centrale de ce « sandwich ». Elle peut s’occuper de l’écriture du code, mais pour les autres aspects qui exigent qu’un humain assume la responsabilité de ce qui est finalement livré, elle n’a pas supprimé l’intervention humaine de ce processus. Au contraire, ces couches du « sandwich » se sont élargies pour combler le vide créé par le gain de temps obtenu grâce à l’IA qui écrit tout le code. Il y y aurait encore beaucoup à dire, mais je m’arrêterai là, et je suis curieux de connaître votre avis.

Mounk : Dans quelle mesure cela tient-il au stade de développement de la technologie ? ChatGPT 3.5 a été lancé il y a, quoi, trois ans et demi ? Les progrès réalisés par ces systèmes ont été d’une rapidité stupéfiante. Il est clair que, pour la tâche principale consistant à écrire du code, ils rivalisent désormais avec les meilleurs ingénieurs humains. Mais bien sûr, lorsqu’il s’agit de mettre en place la structure permettant aux agents IA de déterminer quels problèmes méritent réellement d’être résolus au sein d’une organisation, ou de réfléchir à la manière de configurer des agents IA capables de tester de manière fiable la qualité du code dans le contexte des , nous n’en sommes pas encore là. Cela confirme certainement votre argument. Mais qui peut affirmer qu’ils ne seront pas déployés au cours des trois, cinq ou dix prochaines années ?

Plus généralement, quand on réfléchit à bon nombre de ces exigences essentiellement politiques dans un contexte d’entreprise, il faut bien que quelqu’un soit responsable. Si cela conduit à une panne catastrophique, il faut pouvoir licencier quelqu’un, trouver un coupable. C’est certainement vrai dans les organisations actuelles, et il est très difficile pour ces organisations de se réformer. Mais assurément, si l’on se projette sur une échelle de temps plus longue, on pourrait imaginer des entreprises « natives de l’IA » dotées d’une organisation totalement différente, bien mieux à même d’utiliser les technologies d’IA pour remplacer une partie de ce jugement humain.

Narayanan : C’est une excellente question, et je pense que c’est là un point de désaccord majeur — c’est sur ce point que nous divergeons avec bon nombre de nos détracteurs, qui s’accordent peut-être sur l’échelle de temps mais divergent quant à l’ampleur de la transformation. Deux remarques. Comme vous l’avez dit, les exigences politiques… Je ne pense pas qu’elles changeront simplement parce que les capacités s’améliorent. L’un de nos arguments clés est que nous avons le pouvoir d’insister pour que les humains restent en fin de compte responsables de ce qui est fourni. Cela pourrait être vrai même si, dans un sens étroit du terme, l’IA pouvait faire mieux, précisément parce que l’IA n’est pas quelque chose que l’on peut punir, pour ainsi dire, ou tenir pour responsable. Elle n’a pas certaines des limites propres aux humains. Je pense que la bonne chose à faire est d’insister pour que les humains restent responsables. Il y a quelque chose d’inhérent à la responsabilité humaine que l’IA ne peut pas offrir. Cela ne relève pas des entreprises d’IA — cela relève des organisations en aval qui déploient l’IA et, si cela s’avère nécessaire, de la réglementation pour exiger qu’il en soit ainsi. C’est ce que nous avons fait historiquement avec de nombreuses technologies très puissantes mais dangereuses. J’aime bien l’analogie avec un grutier. La grue peut effectuer les travaux de levage lourds dans le secteur du bâtiment — nous n’avons pas besoin de main-d’œuvre humaine. Mais même si nous le pouvions, nous ne laissons pas la grue fonctionner de manière autonome. Nous y plaçons un opérateur, et la grue devient alors un amplificateur considérable des capacités humaines. C’est le modèle que nous estimons être le bon, et nous pouvons choisir de le conserver tel quel. Nous ne pouvons pas garantir que ce sera le cas, mais je ne pense pas que ce soit aux entreprises technologiques elles-mêmes d’en décider.

C’est sur ce deuxième point que portent bon nombre de ces désaccords. Nous pensons effectivement qu’au fil du temps, l’éventail des tâches que l’on peut déléguer à l’IA va s’élargir. Mais cela signifie qu’une fois que l’IA est capable de faire quelque chose, cela ne constitue plus un avantage concurrentiel pour l’entreprise. Il ne s’agit pas d’un ensemble figé de choses que nous essayons de créer, et une fois que l’on peut les réaliser grâce à l’IA, le travail est terminé, il n’y a plus besoin de main-d’œuvre. Ce n’est pas ainsi que fonctionne l’économie. Une fois que l’on peut automatiser certaines tâches et les déléguer à l’IA, cela devient une capacité courante dont dispose chaque entreprise. Les entreprises se font alors concurrence sur ce qui est rare. La main-d’œuvre humaine sera toujours rare, car on ne peut pas en faire des copies à l’infini. Ainsi, ces poches de jugement résiduelles que l’IA n’est pas encore capable d’assumer relèveront du domaine du jugement et de l’expertise humains, et c’est sur cela que les entreprises se feront concurrence.

Dans un avenir lointain, cela pourrait changer, dans plusieurs décennies, mais pendant longtemps encore, nous allons rester dans cette période d’équilibre qui ne cesse de se réajuster à la hausse.

Mounk : Je prends ces arguments très au sérieux. J’ai juste deux remarques. La première, c’est que vous avez glissé « plusieurs décennies » dans votre propos. J’essaie d’envisager cela à l’échelle de l’histoire et à l’échelle des défis auxquels notre société va être confrontée. Les personnes qui ont aujourd’hui la cinquantaine ou la soixantaine s’en sortiront-elles probablement bien ? Je le pense. Les personnes dans la trentaine et la quarantaine s’en sortiront-elles ? Je pense que la question est plus ouverte. À quoi ressemblera le monde pour les jeunes d’aujourd’hui, âgés d’une vingtaine d’années, qui s’apprêtent à entrer à l’université ? Je pense que ce sera beaucoup, beaucoup plus difficile. Dans la mesure où la réponse est « cela prendra plusieurs décennies », c’est rassurant dans un certain sens, et cela correspond tout à fait aux enseignements tirés de la Révolution industrielle, notamment au temps qu’il a fallu pour que l’invention de l’imprimerie ait un impact majeur sur la culture ou la société européenne. J’y adhère totalement. Mais je ne suis pas certain que « plusieurs décennies » soit aussi rassurant qu’on pourrait le croire. Continuez.

Narayanan : Bien sûr. Écoutez, le cadre conceptuel de « l’IA comme une technologie ordinaire » est rassurant pour certaines personnes, et il ne l’est pas pour d’autres ; notre objectif est de proposer ce cadre pour que chacun en fasse ce qu’il veut, et non pas nécessairement pour rassurer. La raison pour laquelle cela me rassure, c’est que sur une échelle de temps de plusieurs décennies, je pense sincèrement que les gens peuvent s’adapter. Presque tout le monde peut s’adapter. S’il s’agit d’un ou deux ans, alors la plupart des gens ne peuvent pas s’adapter. S’il s’agit de plusieurs décennies, alors nous pouvons utiliser la théorie des jeux, si vous voulez, pour réfléchir à ce à quoi ressemblera cet équilibre lorsqu’il se produira, et essayer de voir ce que nous pouvons commencer à faire dès maintenant pour nous y préparer.

Une façon dont les choses pourraient évoluer — et la question de l’équilibre est un sujet sur lequel nous commençons seulement à réfléchir, ce n’est pas abordé dans l’essai lui-même — est que toute tâche économique que l’on peut définir avec suffisamment de précision pour qu’elle soit même identifiable comme telle sera effectuée par l’IA. Ainsi, la plupart des tâches qui composent actuellement mon travail — disons que mon travail consiste en ces dix tâches — toutes ces dix tâches seront effectuées par l’IA. Ce que signifieront les emplois à l’avenir, ce sont ce que les économistes appellent parfois les « tâches interstitielles » : les tâches qui ne disposent pas d’une spécification précise, où une partie de la tâche consiste peut-être même à déterminer ce qu’il faut faire ensuite, des choses qui n’ont peut-être jamais été faites auparavant. C’est ce genre de tâches qui, selon nous, relèvera du domaine des humains. La raison pour laquelle je pense qu’il est très peu probable que nous laissions ces tâches à l’IA tient aux « inconnues inconnues ». On ne peut pas être sûr que, lorsqu’on confie à l’IA une tâche si différente de tout ce qui a été fait auparavant, elle s’en sortira de manière à peu près raisonnable. C’est une façon d’envisager à quoi pourrait ressembler un nouvel équilibre.

Un autre changement, peut-être encore plus radical, réside dans le fait que tout ce qui est une marchandise — et par marchandise, je n’entends pas seulement un bien physique, mais aussi le travail cognitif — est un bien pour lequel peu importe que ce soit un être humain ou une IA qui le produise. Une grande partie de ce que nous produisons aujourd’hui relève de la marchandise. Je mène des recherches, j’écris ces articles : peu importe que ce soit moi qui les aie produits, ce sont surtout les idées qui comptent. Peut-être que ce sera principalement l’IA qui s’en chargera à l’avenir. Nous devrions nous préparer à des changements radicaux : par exemple, le statut élevé dont jouissent aujourd’hui les professeurs, parce qu’ils produisent quelque chose d’unique, pourrait ne plus l’être à l’avenir. On n’aura peut-être plus besoin de personnes pour animer des podcasts comme celui-ci — ce genre de contenu pourra peut-être être entièrement généré par l’IA. Je pense que nous devrions nous y préparer.

Mounk : Je pense que les trois « P » survivront toujours : les professeurs, les podcasteurs et les prostituées. Mais on verra bien.

Narayanan : Bien vu. Je parierais contre ça. Mais ce sont des choses très différentes. Je pense que certains de ces services sont très différents des autres. Le travail du sexe, par exemple, est intrinsèquement relationnel : il s’agit d’une personne en particulier. Il existe de nombreux types d’emplois dans l’économie. Même certains emplois peu valorisés, comme celui de barista, par exemple — Alex Imas a très bien expliqué pourquoi certains de ces emplois ont très bien résisté à l’automatisation, car l’interaction humaine y est réellement essentielle. L’économie de demain ressemblera peut-être essentiellement à un système où les gens se paient mutuellement pour leur temps, pour la valeur relationnelle unique qu’ils peuvent apporter. L’intérêt d’aller dans un café résidera dans le service client. Si le café est bon mais que le service client est médiocre, cela ne sert à rien, car les robots peuvent faire du bon café, mais c’est le service client de qualité qu’ils ne peuvent pas remplacer.

Mounk : Prenons un peu de recul, car il y a là beaucoup d’idées vraiment intéressantes. Quelques réflexions. La première est que je ne comprends pas bien pourquoi un système d’IA qui, à l’heure actuelle, est très doué pour écrire des nouvelles — nous avons récemment appris qu’un texte généré par l’IA avait remporté un grand prix littéraire, les membres du jury n’en ayant pas eu connaissance à l’époque —, et qui fait preuve d’un jugement de plus en plus sûr concernant les pathologies médicales, par exemple, en analysant de nombreuses données contradictoires et en proposant la meilleure adaptation possible à la situation — ne serait pas également capable d’apprendre ce genre de tâches intermédiaires. Il existe donc un avenir dans lequel les systèmes d’IA s’avéreraient en réalité aussi compétents que les humains les plus intelligents, même pour une tâche qui semble un peu décousue ou irrégulière.

La deuxième possibilité, bien sûr, est qu’il existe des êtres humains dotés de compétences exceptionnelles qui resteront indispensables. Il se peut, en effet, que certains soient en mesure d’exiger des salaires colossaux parce qu’ils excellent à orchestrer ces essaims d’IA pour accomplir des tâches par rapport à d’autres. Mais il se peut que le nombre de personnes dotées de ce type de compétences cognitives reste très limité, ce qui conduirait à l’émergence d’une sorte de classe ou de caste de super-gagnants tirant profit de l’IA, face à une grande partie de la population dont les compétences auraient beaucoup moins de valeur.

Une troisième possibilité — et, dans une certaine mesure, on peut combiner ces différentes perspectives — consiste à penser qu’il existe peut-être encore un besoin de compétences humaines relativement ordinaires. Évidemment, être un excellent barista ou un bon barman est une véritable compétence, et j’admire ceux qui exercent ces métiers, mais c’est une compétence moins rare que celle de savoir programmer au plus haut niveau, comme c’était le cas il y a quelques années. Peut-être que le nombre de postes dont nous avons besoin pour cela est tout simplement bien inférieur à l’offre de main-d’œuvre humaine disponible. Il se peut que neuf fois sur dix, je je suis très heureux de prendre mon excellent café préparé par un robot ou une machine à café pour 10 centimes, et une fois par semaine, j’ai envie d’aller prendre un café avec quelqu’un dans un cadre vraiment agréable, et je voudrai sans aucun doute qu’un barista super souriant et sympathique me prépare mon café dans ces occasions-là. Mais cela ne créera peut-être pas suffisamment de travail pour que les gens puissent s’en sortir. Et dans ce genre de monde, il y aura une armée de chômeurs qui seraient ravis d’accepter ce poste de barista, en fonction des dispositions socio-économiques et des conditions de fond qui, espérons-le, atténueraient la pauvreté. Dans ce cas, même les personnes dont les compétences sont encore recherchées pourraient ne pas gagner un très bon salaire.

Je pense qu’il faut ici veiller à ne pas se diriger vers un monde où plus aucun être humain n’aura jamais d’emploi — ce qui, je pense, nous mettrons tous les deux d’accord, est une sorte de dystopie bizarre à la Silicon Valley, même si certains l’appelleraient probablement une utopie — mais aussi de dire : « Bon, si c’est le 1, alors le 0, c’est que certains emplois resteront nécessaires, et que le problème est donc soluble ». Il existe toutes sortes de scénarios dans lesquels certains types d’emplois sont nécessaires, mais ce ne sont pas ceux qui créent le plus de valeur économique, ce ne sont pas les compétences qui sont réellement rares, et par conséquent, elles sont bien loin de créer les conditions structurelles préalables à une société où la classe moyenne est aisée.

Narayanan : Oui, écoutez, tout cela est possible. Et je suis content que nous en parlions. Les gens s’intéressent aux indicateurs avancés pour déterminer la direction que prennent les choses. Je pense sincèrement que ce sont des problèmes qui peuvent être résolus sur une période de plusieurs décennies. Sur une telle échelle de temps, même si la solution s’avère être le revenu de base universel, nous pouvons nous y préparer à long terme. Ce n’est pas quelque chose que nous pouvons mettre en place en 18 mois, mais c’est quelque chose que nous pouvons réaliser sur une période de plusieurs décennies.

Je ne pense sincèrement pas qu’une mesure aussi radicale soit nécessaire. Je suis d’accord avec la plupart de ce que vous avez dit. Peut-être que notre principal désaccord réside dans le fait que je ne pense pas que la distinction entre les emplois nécessaires à l’économie et ceux qui ne le sont pas soit très utile, du moins pour moi. À mon avis, la grande majorité des emplois actuels consistent déjà à accomplir des tâches qui ne se situent pas tout en bas de la hiérarchie de Maslow. Les activités dont nous avons besoin, comme l’agriculture et le logement, représentent peut-être environ 5 % des emplois. Et tout le reste — si l’on prenait un peu de recul par rapport à l’intensité quotidienne de la vie et de l’économie pour y réfléchir vraiment du point de vue d’un extraterrestre —, ce ne sont que des activités que nous menons pour nous divertir. J’apprécie beaucoup le livre de David Graeber à ce sujet.

Mounk : Je dois dire que parfois, quand je me promène dans les rues de Brooklyn, je me dis : « Il y a tellement de richesse ici. Que font donc tous ces gens ? Qu’est-ce qui fait fonctionner ce mouvement perpétuel ? » Ce ne sont que des gens qui se vendent mutuellement des services farfelus et qui, d’une manière ou d’une autre, en tirent bien leur compte.

Narayanan : Dans de nombreuses régions du monde, il existe manifestement une pauvreté écrasante. Dans les sociétés riches, 95 % des emplois correspondent à des tâches que nous faisons parce que nous avons besoin que des gens s’en chargent, et non parce qu’elles sont indispensables à la survie. Je dis qu’à l’avenir, ce chiffre de 95 % passera à 99 %, voire 100 %.

Mounk : Je suis partagé sur ce sujet. J’ai effectivement cette impression en me promenant dans les rues de Brooklyn, mais quand j’examine cet exemple de plus près, l’une des principales raisons pour lesquelles New York est si prospère est que la finance y a son siège, et bien sûr, de nombreux autres secteurs, de la mode aux médias, y sont également très présents.

On peut débattre longuement pour savoir si la finance est réellement une activité productive ou non, mais le fait est que c’est là que se crée actuellement une grande partie de la valeur de la société. Et pour faire fonctionner Goldman, JP Morgan et toutes ces entreprises, les détenteurs de ce capital ont actuellement besoin d’une main-d’œuvre abondante, rare et hautement qualifiée. L’une des raisons pour lesquelles les rues de Brooklyn regorgent de studios de yoga haut de gamme est que bon nombre des personnes qui fréquentent ces studios travaillent pour ces banques, ou pour des personnes qui travaillent pour ces banques. C’est donc là que se diffuse l’immense richesse de la ville.

---

Voulez-vous (ou connaissez-vous quelqu’un) qui aimerait recevoir mes articles et mes discussions directement dans votre boîte aux lettres en allemand ou en anglais?

---

Dans une économie où les systèmes d’IA produisent l’immense majorité de la valeur, et où les êtres humains se retrouvent alors cantonnés à s’éduquer les uns les autres, à prendre soin les uns des autres quand nous sommes âgés, et à « organiser des concerts » les uns pour les autres — tout cela est en quelque sorte périphérique par rapport à l’activité principale. Ce système peut-il perdurer ? Je pense que, d’une manière quelque peu simpliste, cela dépend de savoir si la première image que j’ai brossée de Brooklyn est juste, ou si c’est la deuxième. Et même si j’aime bien critiquer Brooklyn — où j’adore me trouver —, je pense que la deuxième image est peut-être un peu plus proche de la vérité que la première, ce qui est quelque peu troublant quant à ce à quoi ressemblerait réellement ce monde.

Narayanan : Encore une fois, c’est une possibilité. Je pense que la raison pour laquelle je parie contre cette hypothèse, c’est que lorsque l’on examine ce qui a réellement de la valeur, cela dépend fortement de ce qui se trouve à être rare à un moment donné de l’histoire. Des choses comme la lumière et les vêtements — qui se situent au bas de la hiérarchie de Maslow — étaient autrefois extrêmement rares car elles étaient difficiles à produire, et elles employaient une très grande partie de la main-d’œuvre.

Leurs coûts ont été divisés par bien plus de mille en l’espace de quelques siècles, et cela est dû à l’automatisation, ainsi qu’à une production d’énergie à plus grande échelle et à des coûts énergétiques moins élevés. Le coût de l’éclairage a été divisé par bien plus de mille — cela pourrait même avoisiner le million, j’ai oublié les chiffres exacts, mais il s’agit de très nombreux ordres de grandeur. Je pense que bon nombre des activités que les gens exercent aujourd’hui sont rares et précieuses précisément parce que la main-d’œuvre humaine est rare. Je ne partage pas l’hypothèse selon laquelle, à l’avenir, les systèmes d’IA créeront la majeure partie de la valeur. Cela ne correspond pas à ma compréhension de l’économie. Je conviens que les systèmes d’IA effectueront la majeure partie du travail. Mais tout travail que l’IA peut accomplir est reproductible à l’infini, et lorsqu’il est reproductible à l’infini, il n’a pas beaucoup de valeur, car son coût va s’aligner sur celui du marché : n’importe qui peut le fournir à très faible coût. La valeur va donc se déplacer vers les types d’activités qui sont rares.

Aujourd’hui, le travail consistant à s’occuper des personnes âgées, par exemple, est très peu valorisé et très mal rémunéré. Mais l’argument est qu’à l’avenir, bon nombre des activités qui sont aujourd’hui plus valorisées et mieux rémunérées — peut-être comme celles que nous exerçons — deviendront très facilement reproductibles. Ce qui est considéré comme précieux dans l’économie va donc évoluer.

Mounk : Comment cela fonctionne-t-il concrètement ? Vous dites que s’occuper des personnes âgées deviendra une activité réellement valorisée, et que cela permettra sans doute de percevoir un salaire plus généreux que celui d’un professeur à Princeton aujourd’hui, espérons-le. Mais où la personne âgée trouvera-t-elle l’argent pour verser un salaire aussi élevé à la personne qui s’occupe d’elle ?

On peut supposer que la réponse est qu’elle a elle-même dû accomplir quelque chose dans l’économie qui lui a permis d’accumuler cet argent, ou bien que nous disposons d’un système de revenu de base universel — auquel, si j’ai bien compris, vous êtes globalement opposé, et ce sera intéressant d’approfondir ce point — qui lui fournit cet argent par l’intermédiaire d’un tiers. Encore une fois, si l’on observe Brooklyn aujourd’hui, l’intuition est qu’il s’agit d’une sorte de machine à mouvement perpétuel un peu étrange où tout le monde ne fait que se vendre des choses les uns aux autres. Mais quand on y regarde de plus près, on peut dire : non, en réalité, les banques financent des entreprises manufacturières, des entreprises agricoles et toutes sortes d’autres entités qui produisent des biens, et il y a beaucoup d’employés très bien rémunérés dans ces entreprises, et ce sont eux qui expliquent pourquoi les gens peuvent payer 10 000 dollars pour aller voir les Knicks en finale de la NBA.

On supprime ce lien avec l’économie sous-jacente, car très peu d’êtres humains sont nécessaires pour faire fonctionner cette économie sous-jacente — en effet, quelles que soient les entreprises les plus productives de l’avenir, elles n’auront besoin que d’un nombre bien moindre d’êtres humains pour fonctionner. Et on ne sait pas très bien comment cet argent va se répercuter dans l’économie, de sorte que, même si, d’un point de vue social, nous disons : « Quelle merveilleuse mission que de s’occuper des personnes âgées », cette personne âgée dispose effectivement de l’argent nécessaire pour verser un bon salaire à la personne qui prend soin d’elle.

Une façon très différente d’exprimer ce point : si l’on compare Walmart, dont la valorisation s’élève à environ un billion de dollars — un peu moins, je pense, selon le moment précis où l’on regarde — et qui compte deux millions d’employés, à Anthropic, qui sera probablement valorisée à environ un billion de dollars lors de son introduction en bourse, et qui compte actuellement environ 5 000 employés. C’est une différence vraiment frappante, et cela va certainement avoir un impact énorme sur ceux qui pourront réellement payer pour que ce type de compétences centrées sur l’humain soit valorisé sur le marché du travail.

Narayanan : Oui, cela ne se fera pas automatiquement. Je dis simplement que nous aurons les moyens d’y parvenir, même si cela demandera beaucoup de travail. Si je dis cela, c’est parce que nous formulons des hypothèses quelque peu fantaisistes dans un domaine — à savoir que l’IA sera capable d’automatiser la quasi-totalité du travail — tout en partant du principe que le monde restera inchangé dans tous les autres domaines. Je pense que c’est un piège.

Cet avenir pourrait ne pas se concrétiser. Il se peut que, même si je me situe plutôt du côté des partisans d’une « transformation plus lente », je sois moi-même beaucoup trop optimiste, et qu’il existe peut-être des obstacles vraiment fondamentaux empêchant l’IA de prendre en charge une grande partie de ce travail, même à l’échelle de plusieurs décennies. Mais supposons que tout cela se produise. Il est alors évident que cela apportera d’incroyables avantages à l’humanité, car bon nombre de nos besoins matériels seront satisfaits. Et il y aura, je pense que vous en conviendrez, une certaine accumulation de richesse. C’est la question de la répartition qui reste floue. Ainsi, si des richesses de plus en plus importantes sont accumulées, nous pourrons commencer à mettre en place des politiques. Je ne suis pas opposé au revenu universel de base (RUB). Peut-être devrions-nous reparler du revenu universel de base (RIB), à l’échelle de plusieurs décennies. Je ne pense simplement pas que ce soit le genre de chose qui puisse se concrétiser si l’on parle d’un horizon d’un à deux ans.

Quant au fait qu’Anthropic soit une petite entreprise qui pourrait valoir un billion de dollars — oui, peut-être nous dirigeons vers un avenir dystopique où seules trois entreprises seront capables d’atteindre ce niveau. Mais en réalité, ce qui va peut-être se produire, c’est que l’entrepreneuriat deviendra tellement plus facile qu’il y aura plusieurs millions de millionnaires — peut-être pas aussi riches qu’Anthropic, mais bien plus nombreux qu’aujourd’hui — car une ou deux personnes pourront posséder des entreprises qui utilisent principalement l’IA pour accomplir de nombreuses choses de grande valeur. Et même si cela reste un défi, il est au moins possible d’envisager, sur les plans politique et économique, comment répartir cette richesse au sein du reste de la société.

Mounk : C’est une parenthèse, mais il y a quelque chose d’étrange dans ces discussions où nous voulons attribuer une valeur profonde au type de tâches humaines qui, dans un futur donné, pourraient encore être nécessaires. Bien sûr, je pense que les relations humaines sont quelque chose d’incroyablement significatif, et que souvent, les personnes qui exercent des métiers impliquant des relations avec autrui éprouvent en réalité une grande satisfaction professionnelle. Mais il y a au moins quelque chose de mélancolique à imaginer un avenir dans lequel toutes les tâches par lesquelles l’humanité s’est historiquement distinguée des autres animaux — des tâches que nous pensions propres à nous, notre capacité de raisonnement d’ordre supérieur — disparaîtront.

Ne serait-ce que d’un point de vue social, la manière dont, au cours des deux derniers siècles, pour un nombre considérable d’êtres humains, la fierté et le sentiment d’épanouissement personnel provenaient de l’accès à l’éducation, l’acquisition de compétences, le fait de devenir expert dans un certain type de travail intellectuel — et nous affirmons que les compétences et capacités humaines les plus primitives, comme s’occuper des bébés et prendre soin des personnes âgées, sont désormais ce qui reste, et que c’est ce à quoi nous accordons vraiment de la valeur. Je ne veux pas dire par là que je dévalorise le travail incroyable accompli par les infirmières, ou par les personnes qui travaillent dans les maisons de retraite, ou encore par les mères et les pères qui s’occupent de jeunes enfants. Mais affirmer que c’est le seul type de tâche qui restera aux humains n’est peut-être pas un soutien sans réserve à un tel avenir.

Narayanan : Oui, c’est tout à fait juste. Encore une fois, je ne dis pas que ce cadre de réflexion sur l’avenir doive nécessairement rassurer tout le monde. Je pense qu’il y a beaucoup de choses que nous aimons dans notre société actuelle et que nous allons perdre. Il y a beaucoup de choses que nous allons regretter, et je pense que c’est une réaction tout à fait légitime face à tout cela. Mais encore une fois, cela va de pair avec ce qui s’est produit par le passé avec la valorisation de la force physique.

Si l’on pense à un général romain, ceux-ci gravissaient les échelons sur le plan économique et politique parce qu’ils partaient du principe que leur force physique était très précieuse dans l’armée, et c’est ainsi qu’ils ont gravi les échelons. Nous parlons ici de professeurs dans le milieu universitaire — le mot « académie » vient des Grecs de l’Antiquité.

Si je me souviens bien, nous parlons de professeurs dans le milieu universitaire, et vous le savez sans doute mieux que moi, mais l’Académie d’origine tirait son nom d’un jardin où l’enseignement se déroulait en parallèle du développement de la force physique. Ces deux aspects étaient vraiment valorisés de la même manière. Mais avec le temps, nous avons perdu cela. Nous avons toujours des athlètes, par exemple, qui occupent des positions prestigieuses dans la société, mais pas parce qu’ils contribuent directement à l’économie grâce à leur force physique. C’est simplement quelque chose que nous aimons apprécier dans un contexte de compétition, précisément parce que cela a perdu sa valeur économique directe. C’est désormais devenu du sport.

Peut-être que ce qui arrivera aux capacités intellectuelles, tout comme cela s’est produit avec les échecs, par exemple, c’est qu’elles deviendront un sport que nous apprécions. De la même manière, à l’avenir, les gens présenteront leurs idées élaborées à la main, sans IA, sous une forme que nous pourrons tous apprécier, afin de mettre en valeur la force et les limites des capacités cognitives humaines. Mais cela sera en quelque sorte déconnecté de l’économie, et il y a véritablement de quoi s’en attrister.

Mounk : Je me demande dans quelle mesure le général romain était apprécié pour ses prouesses physiques ou pour ses capacités mentales. Dans un contexte très différent, il y a une vingtaine d’années, on m’a traîné à une corrida, et j’étais assez réticent à y aller, car je pensais que ce serait assez déplaisant. En partie parce que je pensais que ce serait une sorte de spectacle machiste mettant en avant la force du torero et l’imposante musculature de ce dernier.

Il s’est avéré que, dans le meilleur des cas, et à ma grande surprise, j’ai plutôt apprécié le spectacle. Ce qui m’a particulièrement plu, c’est que j’ai fini par comprendre qu’il s’agissait en réalité d’une forme médiévale – voire peut-être uniquement moderne – de célébration de la primauté de l’esprit sur la matière ; c’est-à-dire que le taureau est cinquante fois plus fort que l’homme le plus fort du monde. Il est impossible pour un être humain, quel que soit le nombre de fois où il va à la salle de sport ou la quantité de boissons protéinées qu’il consomme, de rivaliser avec un taureau dans une épreuve de force. Ce qu’un bon torero fait, c’est démontrer qu’il peut utiliser ses compétences humaines — sa capacité à comprendre le comportement du taureau, à savoir qu’il se jette sur tout ce qui est rouge —, sa capacité à agiter le drapeau de manière à orienter les mouvements du taureau, à exécuter une sorte de danse avec lui dans laquelle il démontre : « Regardez, ce que j’ai, c’est de l’intelligence, et grâce à cette intelligence, je peux l’emporter sur cette bête qui est infiniment plus forte que moi. » La cruauté de ce spectacle m’a néanmoins troublé. Mais j’ai trouvé cela en réalité très intéressant.

Vous avez raison de dire que, historiquement, nous avons accordé beaucoup plus d’importance à la force physique qu’aujourd’hui. Mais cet argument, bien sûr, est à double tranchant, car il est désormais assez difficile de gagner sa vie uniquement grâce à sa force physique, et ceux qui y parviennent perçoivent des salaires bien inférieurs. Lorsque l’on examine les transformations passées, comme celle qui a suivi la révolution industrielle, beaucoup de gens en ont fait les frais, et cela s’est produit au fil des décennies et des siècles.

Mais ce qu’ils avaient – ce à quoi ils recouraient – c’est ce que j’appelle parfois une sorte de « réservoir mental ». Il existe un réservoir de demande pour les compétences humaines, qui consistent à effectuer des travaux intellectuels, des tâches mentales, des tâches cognitives. Ainsi, si vous aviez 45 ans et que vous perdiez votre emploi dans une usine, dans le tissage du coton ou dans les champs, votre vie risquait d’être gâchée — il serait peut-être trop tard pour vous d’avoir un bon revenu. Mais vos enfants s’en sortaient probablement bien, car ils avaient acquis ces compétences cognitives, et c’est ce qui les rendait recherchés et leur a finalement assuré un niveau de vie bien meilleur que celui que vous aviez probablement eu. Mais si nous puisons aujourd’hui dans ce réservoir mental, est-il évident que les humains puissent se tourner vers des compétences d’ordre supérieur pour compenser cela ? Dire : « Bon, on va simplement revenir à ce qu’on a toujours fait, comme s’occuper des enfants et des personnes âgées »… Je ne suis pas sûr que cela suffise.

Narayanan : Encore une fois, je pense que vous avez raison de vous inquiéter. Je pense que nous allons perdre beaucoup de choses. Je suppose que s’il y a un point de désaccord, c’est que je ne pense pas qu’à l’avenir, nous nous distinguerons par nos compétences. Nous nous distinguerons simplement, par définition, par le fait que le temps humain est rare, et que la plus grande faiblesse de l’IA est que tout ce qu’une IA peut faire, un milliard de copies d’IA peuvent le faire.

La rareté engendre toujours de la valeur. C’ ça a toujours été ainsi. On peut créer de la valeur même à partir de formes de rareté totalement artificielles, comme les alliances et les diamants, même lorsqu’il n’y a en réalité aucune valeur intrinsèque. D’une certaine manière, c’est très déprimant, mais là encore, je pense que d’un point de vue économique, tout ira bien. Il y aura une forte demande pour le temps humain, pour que nous puissions offrir diverses formes d’accompagnement. Nous l’appellerons de différentes manières : coaching, thérapie, prise en charge. Je pense qu’à l’avenir, une grande partie du travail des professeurs consistera simplement à accompagner le parcours émotionnel des étudiants tout au long de leur parcours dans le système éducatif. Quant au contenu, nous n’aurons pas à le fournir : il va devenir un produit de masse.

Mounk : C’est donc une bonne chose qu’il y ait déjà plus d’administrateurs que de professeurs dans la plupart des universités, car ce dont nous avons vraiment besoin, ce ne sont pas des professeurs, mais ces administrateurs.

Narayanan : Peut-être. Écoutez, si tout cela semble incroyablement déprimant, je ne suis pas ici pour dire que nous devrions embrasser cet avenir. Je fais simplement quelques remarques. Ce n’est pas une catastrophe si tous ceux qui se retrouvent sans emploi en trouvent un simplement parce que le temps humain est une ressource rare, et que nous trouverons simplement des moyens artificiels de transformer cette rareté du temps humain en emplois et de leur donner divers noms, qu’il s’agisse de professeur, de thérapeute ou d’aidant.

Beaucoup de richesse sera créée. Peut-être aurons-nous un problème avec quelques entreprises qui tenteront de s’accaparer la majeure partie de cette richesse, mais c’est quelque chose que nous pouvons et devons changer par le biais de politiques publiques. Tout cela va se dérouler sur plusieurs décennies, pas en un ou deux ans. Nous avons donc le temps de nous préparer, tant en ce qui concerne les nouvelles choses que nous devrons faire, que pour nous préparer mentalement à cet avenir, que vous le trouviez stimulant, déprimant ou n’importe quoi entre les deux. Voilà mes principaux arguments.

Mounk : Je ne suis pas tout à fait d’accord avec eux, mais je trouve ces points très intéressants. Il est clair que l’une des choses que vous avez laissées entendre à plusieurs reprises au cours de la conversation, et sur laquelle vous avez écrit de manière plus explicite, c’est qu’il existe de réels dangers à considérer l’intelligence artificielle comme une technologie anormale. Si nous partons du principe que tout va changer au cours des deux prochaines années, et que nous devons abandonner notre boîte à outils habituelle en matière d’élaboration des politiques, vous estimez que cela aura de très graves conséquences sur notre capacité à réguler cette technologie et sur le monde en général. Pourquoi ? En quoi risquerions-nous d’être poussés dans la mauvaise direction si nous ne reconnaissons pas que l’IA est en réalité une technologie normale, au sens où vous l’entendez ?

Narayanan : C’est très simple. Il y a ce discours qui émane de la communauté chargée de la sécurité de l’IA — et ses membres mènent d’excellentes recherches. Je respecte tout le travail qu’ils accomplissent ; là où je ne suis pas d’accord, c’est sur les implications politiques et sur ce discours général. Ce discours consiste à dire que l’IA devient de plus en plus performante et qu’elle sera de plus en plus capable de faire des choses comme pirater des infrastructures critiques ou créer des armes biologiques.

Ainsi, si cette technologie se généralise dans la société, elle présente un double danger. D’une part, les systèmes d’IA eux-mêmes pourraient se retourner contre leurs créateurs, ou des acteurs malveillants pourraient s’en emparer et commettre des actes dangereux. Pour éviter cela, il faudrait empêcher la mise à disposition du grand public de systèmes d’IA très puissants sans mesures de protection. Je pense que cette approche pose de nombreux problèmes.

Le premier est l’idée selon laquelle l’augmentation des capacités de l’IA est automatiquement dangereuse. Ce n’est pas ce que l’histoire nous a montré. En matière de cybersécurité, par exemple, la capacité surhumaine à détecter et à exploiter les vulnérabilités des logiciels a vu le jour il y a une vingtaine d’années, et n’a cessé de se développer depuis, bien avant l’apparition des systèmes d’IA modernes. En réalité, cela a rendu les logiciels plus sûrs, et non l’inverse. La raison en est que les défenseurs, c’est-à-dire les entreprises qui créent les logiciels, peuvent utiliser ces mêmes capacités pour corriger ces bogues avant même de commercialiser le logiciel. D’une manière générale, ces technologies puissantes nous ont donc en réalité aidés à améliorer notre résilience plutôt qu’à l’aggraver. Cela devrait être notre hypothèse de départ. Il existe peut-être des exceptions dans certains cas, mais nous devrions exiger des preuves démontrant que l’augmentation des capacités rend réellement le monde plus dangereux.

C’est le premier grand point de désaccord : premièrement, l’augmentation des capacités ne signifie pas que le monde devient plus dangereux. Deuxièmement, pour empêcher la diffusion à grande échelle des capacités d’IA, il faudrait en gros des gouvernements autoritaires. Et troisièmement, même si vous y parveniez, ce ne serait qu’un répit temporaire. Tôt ou tard, le barrage finira par céder, et ce que vous aurez fait en essayant de contrôler l’IA n’aura pas permis de mettre en place le type de système immunitaire dont vous avez besoin pour vivre dans un monde où coexistent ces systèmes puissants.

Mounk : On peut supposer que l’une des conclusions que l’on pourrait tirer de la version la plus alarmiste de cette thèse que vous contestez est la suivante : nous sommes sur le point de disposer de ces incroyables capacités de cyberguerre, des acteurs malveillants vont pouvoir pirater votre compte bancaire, et probablement s’introduire dans la base de données de l’armée américaine, et peut-être même de s’emparer d’armes nucléaires. Et si cela se produit, alors nous devrons mettre de côté toutes les protections historiques dont nous avons bénéficié jusqu’à présent, tant pour les entreprises privées que pour les particuliers, afin de nous assurer absolument que cela n’arrive pas. Peut-être devrons-nous doter nos gouvernements de toutes sortes de capacités dont ils ne disposent pas actuellement afin d’éviter ce genre de scénario catastrophe. Est-ce l’une de vos craintes ?

Narayanan : Oui, c’est l’un des arguments souvent avancés, et notre position est différente. Je pense effectivement que le gouvernement doit faire preuve de souplesse et d’adaptabilité. Certaines mesures prises récemment dans le contexte politique américain, comme les accords volontaires permettant aux gouvernements de tester les capacités des nouvelles technologies et d’en retarder éventuellement la mise sur le marché d’un mois environ, se situent tout en bas de l’échelle des interventions extraordinaires. Si nous les mettons en œuvre avec prudence, je pense que cela peut être acceptable.

Mais le problème survient lorsqu’on affirme que le moyen d’empêcher des acteurs malveillants d’accéder à cette technologie consiste à la contrôler si étroitement que l’on s’assure qu’ils ne puissent jamais mettre la main dessus. Selon nous, la seule façon d’y parvenir serait d’avoir des gouvernements autoritaires, et pas seulement un seul gouvernement autoritaire — une sorte de gouvernement autoritaire mondial, si vous voulez — car il devient chaque année de moins en moins coûteux de développer ces capacités incroyablement puissantes. Quand on regarde ces graphiques exponentiels, c’est stupéfiant. C’est tout simplement la loi de Moore qui se répète. Au mieux, on gagne quelques années, et à terme, cette technologie finira par se répandre et se retrouvera entre les mains de tout le monde.

Mounk : Une petite remarque à ce sujet, d’ailleurs, sur laquelle je suis sûr que vous en savez plus que moi sur le plan technologique, et j’aimerais donc connaître votre avis : notre cadre de référence, ce sont souvent les armes nucléaires. Il s’agit d’une technologie incroyablement dangereuse et puissante, capable de détruire le monde, et nous avons réussi, dans une certaine mesure, à empêcher sa prolifération grâce à des traités internationaux et à des régimes d’inspection et de contrôle dans certaines circonstances, etc. D’après ce que je comprends, il existe des différences de fond entre la technologie nucléaire et la capacité à construire des modèles d’IA de pointe.

L’une d’elles est que la technologie nucléaire nécessite des installations physiques beaucoup plus imposantes. Les États-Unis sont assez doués pour déterminer, grâce à des images satellites et à d’autres moyens, si les centrifugeuses d’Ispahan, ou où qu’elles se trouvent en Iran, tournent ou non. Il serait beaucoup plus difficile de faire de même pour les centres de données.

L’autre point est qu’il y a toujours une question de double usage dans le domaine du nucléaire en termes d’utilisation civile, mais d’une manière générale, on sait à quoi cela sert. Une grande partie de notre civilisation dépend déjà des puces électroniques et des centres de données. Littéralement, certaines des puces les plus puissantes utilisées pour développer l’intelligence artificielle ont été initialement conçues pour alimenter les graphismes des jeux vidéo. Ensuite, il s’agit de vérifier si, par exemple, les États-Unis et la Chine avaient conclu un accord majeur s’engageant à ne pas développer de modèles d’IA de pointe — vérifier, du point de vue américain, que la Chine respecte cet accord, ou du point de vue chinois que les États-Unis le respectent — serait incroyablement difficile en raison de ce problème de double usage.

Narayanan : Vous avez parfaitement cerné le problème. Il y a le double usage, il y a une puissante logique économique de diffusion des capacités d’IA et des puces, il y a l’observabilité, et il y a le goulot d’étranglement physique. Permettez-moi d’ajouter un point : il n’y a pas de seuil particulier à partir duquel l’IA devient dangereuse. Chaque niveau de capacité d’IA que nous avons connu a toujours comporté certains dangers. Si l’on remonte à l’histoire très récente, on trouve par exemple des moments marquants de panique autour de GPT-2. Au départ, OpenAI n’avait pas publié le modèle, car ils le jugeaient trop dangereux. C’est un modèle que mes étudiants de troisième cycle parviennent aujourd’hui à développer en un week-end sur un seul GPU afin d’apprendre par eux-mêmes à construire ces systèmes d’IA. C’est dire à quelle vitesse la technologie s’est diffusée, et nos modèles récents sont désormais bien plus puissants que le GPT-2. Si vous vous leviez aujourd’hui pour affirmer que le GPT-2 est trop dangereux, cela semblerait tout à fait ridicule. Je prédis que tout ce que nous disons aujourd’hui à propos de Mythos ou d’autres projets ressemblera exactement à cela dans dix ans.

Le dernier point que je voudrais souligner est que le fait d’avoir mis ces systèmes à disposition présente un avantage : cela nous a également contraints à améliorer nos défenses, car si certains de ces modèles peuvent être utilisés à des fins de piratage, cela a contraint les entreprises à collaborer avec divers éditeurs de logiciels pour leur donner un meilleur accès à ces modèles, afin qu’ils puissent détecter et corriger ces failles avant même que le logiciel ne soit commercialisé. Si, au contraire, nous adoptons une approche politique consistant à empêcher quiconque d’accéder à cette technologie dès le départ pour ces usages à double usage, alors nous perdrons l’occasion de mettre en place ce système immunitaire, et le barrage finira par céder. Lorsque le barrage cédera, cela se répercutera sur un monde qui ne dispose pas de ces défenses.

Mounk : Je suis très inquiet à l’idée de conférer au gouvernement des pouvoirs sur les individus, et dans une certaine mesure sur les entreprises également. Je suis un libéral philosophique, j’accorde une grande importance à la liberté individuelle, et je pense que nous allons être confrontés, dans ce contexte, à certains types de dilemmes qui sont assez différents de ceux posés par les technologies précédentes. Pour revenir aux armes nucléaires, par exemple, il est évident que nous devons réglementer la manière dont les États utilisent ces armes. L’une des choses les plus effrayantes est que, de Kim Jong-un — sans vouloir faire de comparaison absolue — à Donald Trump, des personnes plutôt irresponsables ont actuellement le doigt sur le bouton, ce qui est profondément inquiétant.

Il y a toutefois une chose à noter concernant les armes nucléaires : bien qu’elles puissent détruire et faire exploser le monde, elles ne sont pas très utiles pour exercer un contrôle politique au niveau national. On ne peut pas vraiment menacer de remporter la prochaine élection en bombardant une ville qu’on n’aime pas. Ce qui est effrayant avec certains des modèles d’IA les plus avancés, d’un point de vue politique, c’est qu’ils peuvent être utilisés à des fins de répression interne. Cela signifie que si l’on veut éviter que le gouvernement ne détienne tous les pouvoirs, on pourrait dire qu’il vaut mieux qu’OpenAI, Anthropic et d’autres entreprises de ce type gardent le contrôle de ces modèles de pointe. Mais bien sûr, si ces entreprises contrôlent ces modèles de pointe, et qu’elles peuvent potentiellement accéder à des armes nucléaires, ou qu’elles peuvent potentiellement avoir des applications militaires absolument essentielles à la capacité du gouvernement à assurer la sécurité de ses citoyens, alors on ne peut pas vraiment faire cela non plus. Alors, comment envisagez-vous de résoudre ces véritables compromis, et peut-être ces véritables dilemmes, sans permettre au gouvernement de disposer de pouvoirs qui pourraient très rapidement devenir tyranniques ?

Narayanan : Tout simplement en partant du principe que ce n’est pas tout ou rien. Je pense que nous pouvons accorder au gouvernement des pouvoirs limités. Ainsi, par exemple, l’accès à ces modèles avant leur mise à disposition publique — le gouvernement y a accès avant le grand public, afin, encore une fois, de détecter et de corriger les vulnérabilités dans les systèmes critiques. Mais cela est très différent de donner au gouvernement le pouvoir de mener une campagne de persuasion de masse. Nous avons écrit à ce sujet, et selon nous, le principal obstacle empêchant le gouvernement d’y parvenir n’est pas la capacité à générer du texte, des images ou quoi que ce soit d’autre, mais bien les canaux de diffusion. En d’autres termes, si le gouvernement venait à contrôler, par exemple, les réseaux sociaux, cela serait bien plus dangereux que le contrôle des systèmes d’IA par les gouvernements en matière de capacité de persuasion et de propagande.

Si l’on revient à la théorie des médias, de manière naïve, dans les années 50, les gens avaient ce modèle de la « seringue hypodermique » — l’idée selon laquelle des messages émanant d’entreprises, de gouvernements ou de tout autre acteur hostile pouvaient être si puissants que, si les gens y étaient exposés, même de manière subliminale, ils changeraient d’opinion. Nous savons aujourd’hui que ce n’est pas vrai. Pourtant, dans le débat sur l’IA, une grande partie du discours se déroule comme si c’était le cas. Ce n’est pas ainsi que les gens se laissent convaincre. Les gens se laissent convaincre parce qu’ils sont ancrés dans une communauté sociale où ces croyances s’enracinent pour diverses raisons « tribales ». Quand on examine comment l’IA est utilisée à des fins de désinformation, par exemple, on constate qu’elle est employée par ceux qui détiennent le pouvoir, y compris les politiciens, pour persuader ou tromper leurs propres partisans, plutôt que leurs adversaires, car c’est dans ce contexte qu’elle devient particulièrement puissante.

Ainsi, en réalité, le problème du contrôle de la désinformation et de la propagande par l’IA se résume aux problèmes existants que nous avons rencontrés concernant la qualité de nos canaux épistémiques et de notre discours : que faire face au niveau de polarisation et de tribalisme, et à ce genre de choses ? Ce sont des problèmes difficiles. Ils ne sont pas faciles. À la marge, l’IA va les amplifier. Je ne pense toutefois pas que l’IA soit à l’origine de ces problèmes.

Mounk : Qu’en est-il des changements qui s’annoncent dans le domaine de la guerre ? Nous avons manifestement constaté que l’intelligence artificielle, et en particulier cette forme « incarnée » d’intelligence artificielle — à laquelle, je pense, nous avons tendance à accorder trop peu d’attention dans tous ces débats —, est déjà en train de transformer radicalement la guerre. L’utilisation de drones dans la guerre en Ukraine, et dans une certaine mesure dans la guerre en Iran, est stupéfiante. Nous avons vu des exemples où l’Ukraine a conquis des territoires, du moins selon un communiqué de presse, en utilisant des robots sans aucun soldat humain.

Comment pensez-vous que cela va influencer la capacité des grandes puissances, comme les États-Unis, à assurer la sécurité de leurs citoyens ? L’armée américaine, avec ses forces conventionnelles et bien sûr sa puissance nucléaire, a certainement été assez puissante pour dissuader toute tentative d’invasion terrestre. Mais la possibilité, par exemple, qu’un adversaire puisse faire entrer clandestinement aux États-Unis un conteneur maritime rempli de centaines de milliers de drones, et que ces drones puissent ensuite causer des dégâts considérables dans une zone résidentielle, éliminer des individus spécifiques ou disséminer une arme biologique, est évidemment immense. La guerre, mais plus largement, la vie dont nous jouissons aujourd’hui dans les grands centres urbains, restera-t-elle normale, ou pensez-vous que cela pourrait avoir un impact considérable ?

Narayanan : Je ne sais pas. Ce sont d’excellentes questions, et j’ai deux réflexions à ce sujet. Je tiens à préciser d’emblée que tout ce dont nous avons parlé jusqu’à présent sont des sujets sur lesquels j’ai longuement réfléchi et pour lesquels j’ai rédigé des articles ou des essais. Sur ce point-là, j’y ai réfléchi un peu, mais je m’exprime peut-être avec moins d’assurance que, disons, sur les répercussions économiques, les répercussions sur la démocratie, etc.

Deux remarques. Premièrement, je pense que la guerre en Ukraine a très clairement montré que l’avantage réside désormais moins dans les capacités développées que dans la rapidité d’innovation dont les adversaires sont capables pendant les combats sur le terrain. D’après ce que j’ai pu observer, les cycles des tactiques de drones et de contre-drones semblent évoluer à un rythme d’environ six semaines, au point que si l’on accuse un retard de six semaines par rapport à l’état de l’art en matière de technologies de brouillage ou autres, on peut se retrouver submergé par les nouvelles innovations de l’adversaire. C’est une façon assez différente d’envisager la guerre. D’après ce que je comprends, les avions de chasse américains, le délai entre la planification et la mise en service s’étend sur plusieurs décennies. C’est une échelle de temps très différente, une conception très différente de ce qui confère un avantage sur l’adversaire : il s’agissait d’une capacité accumulée, par opposition à la rapidité et au dynamisme. Je pense que tout cela exigera un effort d’adaptation considérable de la part des puissantes armées existantes. Je ne sais pas dans quelle mesure cela va se passer. Je pense que c’est un compromis.

Le deuxième grand compromis réside dans le fait que, selon moi, la réponse à une grande partie de ce type de potentiel asymétrique — en matière de terrorisme, par exemple, avec l’utilisation de petits engins explosifs, ou historiquement avec la dynamite, lorsque celle-ci était une nouvelle technologie — a souvent consisté à renforcer la surveillance. Avec la dynamite, d’après ce que j’ai compris, pendant plusieurs décennies, n’importe qui pouvait tout simplement assassiner des personnalités au pouvoir ; on ne pouvait rien y faire. C’est grâce à une surveillance beaucoup plus étendue que ce problème a été atténué. S’agit-il donc d’un compromis que nous allons devoir faire à nouveau, et accepter des pouvoirs de surveillance encore plus étendus de la part des pouvoirs publics ? Je ne sais pas. Mais j’espère qu’il existe un moyen de faire face à cette menace asymétrique qui nécessite une atteinte moindre aux libertés individuelles.

Mounk : Cela nous amène naturellement à la dernière série de questions que je tenais vraiment à aborder avec vous : si nous acceptons globalement le cadre que vous présentez, qu’est-ce que cela implique quant à la manière dont les gouvernements, et peut-être plus largement les associations civiques, ainsi que nous-mêmes en tant que citoyens et individus, devrions réagir ? Si nous ne pensons pas que tout va changer au cours des deux prochaines années, mais que des changements vraiment significatifs se profilent à l’horizon, comment pouvons-nous nous assurer que la classe moyenne ne se retrouve pas considérablement appauvrie, que les gouvernements ne puissent pas utiliser ces nouveaux outils pour opprimer leurs propres citoyens, et qu’aucun acteur malveillant ne soit en mesure de commettre des crimes de grande ampleur ou de perpétrer des actes de terrorisme à grande échelle grâce à ces nouvelles technologies — tout cela, espérons-le, sans renoncer aux valeurs que vous et moi partageons, ni à certaines des protections historiques dont nous avons bénéficié en tant qu’individus vivant dans des sociétés libres ?

Narayanan : Oui, tout à fait. Je pense qu’il y a beaucoup à faire pour toutes ces parties prenantes. Commençons par les individus. Je pense que dans de nombreux pays, en particulier en Occident, d’une manière générale, il existe un fort sentiment négatif de la part du public à l’égard de l’IA. Je pense qu’il y a de nombreuses raisons à cela. Mon précédent ouvrage, écrit là encore avec Sayash, s’intitulait AI Snake Oil ; nous y examinions bon nombre des utilisations oppressives de l’IA, tout le battage médiatique injustifié qui l’entoure, ainsi que les raisons pour lesquelles les gens pourraient vouloir s’y opposer, et comment ils devraient s’y opposer. Je comprends donc fondamentalement bon nombre de ces préoccupations.

Mais je pense qu’une grande partie de cette énergie est mal orientée. Je pense que les inquiétudes sont réelles. L’IA se construit sur le dos des œuvres créatives d’écrivains, d’artistes et d’autres créateurs, sans compensation adéquate. Dans de nombreux cas, elle est déployée de manière irresponsable, pour remplacer des personnes par des systèmes d’IA peu fiables qui, au final, doivent à nouveau être remplacés par des personnes. Il y a de nombreuses raisons valables de s’inquiéter, et de nombreuses façons légitimes de s’organiser collectivement pour veiller à ce que l’IA soit déployée de manière plus appropriée, et pour y résister lorsque ce n’est pas le cas.

Ce qui me dérange, cependant, c’est qu’une grande partie de cette résistance a pris la forme d’un mouvement anti-centres de données, et je pense que c’est un moyen particulièrement inefficace de protester ou d’apporter des changements, car au niveau local, ce que l’on peut accomplir en fermant un seul centre de données est infinitésimal. Il y aura toujours des pays qui construiront davantage de centres de données parce que c’est économiquement justifié, et on n’arrivera jamais à instaurer une interdiction mondiale des centres de données. Donc, à moins d’une interdiction mondiale totale, je pense que le mouvement anti-centres de données n’aboutit pratiquement à rien.

Il y a des inquiétudes concernant la consommation locale d’eau, etc. Dans la mesure où ces inquiétudes sont réelles, ce sont là des raisons plus légitimes de s’opposer à la construction de centres de données. Mais d’après ce que j’ai pu constater, bon nombre de ces inquiétudes ont été considérablement exagérées. J’aimerais que les gens canalisent plutôt cette énergie vers des actions collectives sur leur lieu de travail, par exemple.

Mounk : Avant d’aborder le sujet du lieu de travail — juste pour ceux qui ne connaissent peut-être pas très bien ce débat —, pourquoi pensez-vous que ces inquiétudes concernant la consommation d’eau sont exagérées ? Les gens pensent — j’ai entendu cela dans des arguments que l’on m’a personnellement présentés, et je l’ai vu sur Internet — que chaque fois que l’on adresse une requête, quelle qu’elle soit, à ChatGPT ou à Claude, cela consomme des gallons d’eau, etc. Expliquez-nous, en vous appuyant sur des données, quelle est la consommation d’eau réelle.

Narayanan : Oui, les données ne corroborent tout simplement pas cela. L’une des affirmations les plus célèbres à ce sujet, tirée du livre Empire of AI, s’est avérée être une faute de frappe — avec une erreur de trois ordres de grandeur. Ce chiffre a été largement repris, et les gens ont cru que la consommation d’eau était en réalité mille fois supérieure à ce qu’elle est en réalité. C’est l’une des sources de nombreuses idées fausses. Il existe également des idées fausses sur la nature de cette consommation d’eau : la majeure partie est en effet renvoyée vers la source d’eau, elle n’est pas consommée de manière définitive.

Mounk : De nombreux centres de données disposent donc de systèmes d’eau en circuit fermé, où l’eau circule en boucle. Si l’on part du principe que toute cette eau est consommée à chaque requête, on aboutit à des niveaux de consommation d’eau complètement différents de ceux que l’on obtiendrait en comprenant qu’elle fait partie d’un système fermé.

Narayanan : C’est exact. Les centres de données semblent consommer bien moins d’eau que les clubs de golf. Alors où est le tollé contre les clubs de golf, qui contribuent bien moins à l’économie et consomment bien plus d’eau ? Je pense simplement que les centres de données ne constituent pas, fondamentalement, le bon angle d’approche. Oui, l’IA est gourmande en énergie — si l’on passe de l’eau à l’énergie, elle l’est à certains égards — mais une requête ChatGPT n’est pas nécessairement plus gourmande en énergie que de regarder Netflix ou n’importe laquelle de nos autres activités. Les activités gourmandes en énergie sont celles où des agents fonctionnent en permanence ou effectuent des tâches de longue durée en arrière-plan.

Si nous voulons changer ces pratiques, c’est pour cette raison que j’abordais la question sous l’angle du lieu de travail. Cela passe par l’examen de la manière dont les entreprises gèrent leurs budgets au sein d’une organisation qui déploie l’IA. Disent-elles à chaque employé : « Vous disposez d’un budget d’un milliard de jetons par mois », ce que font de nombreuses organisations, et que vous pouvez l’utiliser comme bon vous semble — ou essaient-elles d’adopter une approche plus responsable ? Réfléchissent-elles attentivement aux utilisations concrètes qu’elles font de l’IA ? Celle-ci est-elle suffisamment fiable pour prendre en charge les types de déploiements qu’elles envisagent ? C’est un sujet beaucoup moins mobilisateur sur le plan politique, car il existe un bouc émissaire tout trouvé : les entreprises d’IA. Et croyez-moi, je pense que ces entreprises font tout leur possible pour se présenter comme les méchants dans tout ce débat, car elles ne cessent d’alerter les gens en leur disant que tous leurs emplois vont disparaître. Il est donc très gratifiant sur le plan moral de manifester contre les entreprises d’IA, mais en fin de compte, ce ne sont pas elles qui prennent les décisions concernant le déploiement de l’IA. Bon nombre des décisions éthiques interviennent en réalité en aval du développement des modèles. C’est toute la perspective de la « technologie normale ».

Mounk : Parlons de la marge de manœuvre dont disposent les entreprises, et de la pertinence de protester contre cela. Donner à chaque employé un budget colossal de jetons peut constituer une utilisation inefficace des ressources de l’entreprise, et cela peut en partie refléter le peu de connaissances dont disposent encore ces entreprises sur la meilleure façon d’utiliser ces ressources. Alors que ces coûts montent en flèche, de nombreuses entreprises sont déjà en train de revoir leur position.

Mais si nous voulons une économie qui produise beaucoup de biens et de services, et à moins que nous ne souhaitions empêcher purement et simplement les entreprises de réduire leurs coûts de main-d’œuvre — ce qui, historiquement, aurait été très néfaste, car lorsque des économies étaient réalisées sur ces coûts, la main-d’œuvre ainsi libérée était réaffectée à d’autres tâches plus productives, ce qui nous a permis de devenir bien plus riches qu’auparavant —, n’est-il pas judicieux de laisser les entreprises mener des expériences dans ce domaine ? Si certaines entreprises commettent des erreurs, ce n’est pas grave : elles se rendront compte que leurs bénéfices diminuent et changeront de cap ; peut-être que certaines d’entre elles disparaîtront et que d’autres prendront leur place. Mais ce que nous devrions assurément souhaiter, au tout début du déploiement de cette technologie d’envergure, c’est que de nombreuses entreprises expérimentent la meilleure façon de l’utiliser, afin de déterminer comment elles peuvent produire les biens et services qu’elles s’efforcent de fabriquer à moindre coût et, espérons-le, avec une plus grande valeur ajoutée. Si un cordonnier trouve le moyen de fabriquer des chaussures à un coût nettement inférieur, si une compagnie d’assurance parvient à proposer ses services tout en réduisant considérablement ses frais administratifs, et si un hôpital réussit à offrir davantage de soins de santé à moindre coût, c’est exactement ce que nous devrions souhaiter, d’une certaine manière.

Narayanan : Oui, l’expérimentation, c’est bien. Je suis tout à fait pour l’expérimentation. J’en fais moi-même beaucoup. La question est la suivante : je pense qu’une grande partie de ce que font les entreprises ne relève même pas de l’expérimentation. L’essentiel dans l’expérimentation, c’est de la mettre en place de manière à en tirer des enseignements à la fin. Or, ce que font les entreprises, ce sont plutôt des directives imposées par la direction, selon lesquelles tout le monde devrait utiliser l’IA pour tout. Les employés ont largement le sentiment qu’on leur impose l’IA de manière absurde, et c’est la principale plainte que nous entendons de la part de ceux qui sont mécontents de la façon dont l’IA est utilisée dans le monde économique.

Beaucoup de PDG ne tirent pas les leçons qui s’imposent. Aaron Levie, PDG de Box.com, propose une très bonne analyse dans laquelle il souligne que les PDG sont particulièrement enclins à la « psychose de l’IA ». C’est un terme fort — on peut le remplacer par autre chose —, mais les PDG développent souvent des prototypes de produits et se disent : « C’est incroyable, Claude Code a créé pour moi en vingt minutes ce qu’une équipe de deux personnes a mis deux semaines à produire ». Mais ce que le PDG ne voit pas, ce sont les 90 % restants, voire les 99 % restants, de ce qu’il faut pour passer de ce prototype à un produit réellement fonctionnel et maintenable. C’est ce à quoi les employés de terrain sont confrontés chaque jour. Une grande partie de ces informations ne remonte pas des employés de terrain — qui ont en réalité une bien meilleure perspective sur ces questions — vers les PDG, qui prennent bon nombre de ces décisions irréfléchies en, pour ainsi dire, se laissent aveugler par l’illusion — en pensant que Claude peut désormais remplacer un grand nombre d’employés. À mes yeux, c’est là le type de prise de décision le plus contraire à l’éthique que j’observe chez les entreprises, et c’est vers cela que devraient, selon moi, se diriger une grande partie des manifestations.

Mounk : Je comprends que les PDG prennent de mauvaises décisions, car il y a actuellement beaucoup de flou, et très peu d’expérience sur la meilleure façon de mettre en œuvre ces technologies — ce qui explique en partie pourquoi les gains de productivité et les baisses d’emploi n’ont pas encore été si importants, car on n’a tout simplement pas eu le temps de comprendre comment s’en servir. J’ai du mal à voir en quoi cela pourrait être une source de revendications sociales persistantes. Dans les usines de Manchester, quand on disait : « Nous devons travailler 14 heures par jour, il n’y a aucune mesure de sécurité et vous employez des enfants de six ans », cela donnait lieu à une série de revendications très claires : réduction du temps de travail, réglementations en matière de sécurité, interdiction du travail des enfants. Si l’idée est qu’un groupe de PDG prend actuellement des décisions stupides, « prenez de meilleures décisions » — par exemple, si vous travaillez chez, je ne sais pas, General Electric, et que General Electric met en œuvre une politique stupide — j’ai choisi cette entreprise au hasard, je n’ai aucune idée de ce qu’elle fait — sur quoi organisez-vous votre action en réponse à cela ? Quelle est votre revendication ?

Narayanan : Bien sûr, plusieurs choses. Je pense que cela nous ramène à certaines des questions économiques par lesquelles nous avons commencé, et c’est peut-être une bonne note pour conclure. Voici quelques types de revendications : que les décideurs soient mieux informés sur la technologie avant de prendre ces décisions irréfléchies. Bien que j’aie en quelque sorte une activité secondaire avec toutes ces analyses d’expert que nous menons actuellement, mon travail principal consiste à diriger une équipe de recherche chargée d’évaluer les atouts et les limites des agents d’IA. Il est frappant de constater à quel point ce type d’évaluation informatique rigoureuse est rare avant que des promesses grandiloquentes ne soient faites au sujet de ces produits, et que ces entreprises ne lèvent des fonds de capital-risque avec des valorisations de plusieurs milliards de dollars. Vous avez utilisé le mot « expérimentation » — je pense que c’est très utile, car on s’intéresse peu à la science qui sous-tend notre situation actuelle, et à ce que les données probantes indiquent quant aux décisions que nous devrions prendre.

Ainsi, une meilleure prise de décision fondée sur des données probantes : voilà une exigence majeure. Donner davantage la parole aux travailleurs : je pense qu’une grande partie des connaissances sur la meilleure façon de déployer l’IA à des fins productives, plutôt qu’à des fins de battage médiatique, doit provenir de la base plutôt que d’en haut. Les PDG ne sont en réalité pas les mieux placés pour prendre ces décisions. Ils ne disposent pas des connaissances nécessaires. Les travailleurs, à titre individuel, trouvent des solutions, mais comme l’ont écrit de nombreuses personnes, dont Ethan Mollick, une grande partie de ces connaissances ne remonte pas à la surface, car les travailleurs ont le sentiment que s’ils les partagent avec le reste de l’entreprise, ils ne bénéficieront d’aucun des gains issus des gains de productivité qu’ils ont eux-mêmes introduits. La relation fondamentale entre le travail et le capital est donc rompue, et c’est un problème qu’il faut résoudre, que l’IA soit en cause ou non ; mais l’IA accentue cette tension.

Peut-être que le troisième point — qui concerne moins l’organisation et la contestation — est que je pense que beaucoup de gens doivent réfléchir davantage aux nouvelles formes d’organisation qui vont émerger grâce à l’IA. Un premier signe est que l’entrepreneuriat devient beaucoup plus accessible ; c’est peut-être donc la voie à suivre pour beaucoup plus de personnes qu’auparavant. Même au sein d’une même entreprise — dans le secteur des logiciels, par exemple, on comptait autrefois un chef de produit pour dix développeurs, mais on en est désormais à un ratio de un pour un. Ce type d’innovation est, selon moi, nécessaire pour tirer pleinement parti de cette technologie en tant que multiplicateur et amplificateur de productivité, plutôt que comme substitut aux travailleurs humains.

Mounk : C’est là une description de ce que les individus peuvent faire, de ce autour de quoi les travailleurs peuvent s’organiser. Qu’en est-il des politiques publiques ? De quel type de réglementations avons-nous besoin en matière de sécurité, même si nous ne voulons pas aller jusqu’à l’extrême paranoïaque d’un contrôle total sur l’ensemble du développement, etc. ? En matière de politique économique, s’il est prématuré de se précipiter vers un revenu de base universel, car jusqu’à présent, nous avons en effet des taux d’emploi élevés aux États-Unis et ailleurs, comment pouvons-nous préparer l’État à garantir que, si de nombreux emplois commencent effectivement à disparaître, l’assiette fiscale ne s’effondre pas, et que les gens puissent réellement payer leur loyer et avoir de quoi manger ? Comment devons-nous aborder cette question à ce stade précoce de ce que l’on pourrait appeler l’ère de l’IA ?

Narayanan : Je pense qu’à ce stade précoce, nous avançons un peu à l’aveuglette, et la chose la plus importante que les décideurs politiques puissent faire est de combler les lacunes en matière de collecte de données. Du point de vue de la sécurité et de l’emploi, l’une des principales préoccupations est qu’il y a tellement de décideurs – qu’il s’agisse de PDG, de responsables militaires, de gouvernements, etc. – qui prennent ou délèguent trop de décisions à l’IA alors qu’un être humain devrait en réalité garder le contrôle, et qui prennent des décisions importantes simplement parce que « Claude l’a dit », etc. Nous avons besoin d’une bien meilleure évaluation de ces aspects. Dans une certaine mesure, il faudrait une réglementation obligeant les acteurs à fournir davantage de données. La plupart des juridictions, par exemple, n’exigent pas des entreprises qu’elles révèlent si des licenciements sont dus à l’IA, et là où ces réglementations existent, les données sont en réalité très intéressantes et contredisent bon nombre de discours courants.

Il faudrait également consacrer davantage de moyens à la recherche pour étudier comment les décideurs utilisent réellement l’IA — de manière responsable ou irresponsable. Bien sûr, la collecte de données ne suffira pas, mais si nous ne parvenons pas à mobiliser la volonté politique nécessaire pour mettre en place davantage de ces réglementations visant à collecter des données, comment pourrons-nous mettre en œuvre ce type de mesures plus fortement interventionnistes, comme le revenu de base universel ? Cela n’a tout simplement aucun sens. Nous devons commencer par exercer un pouvoir réglementaire vraiment élémentaire.