Yuval Harari est actuellement professeur d’histoire à l’Université hébraïque de Jérusalem et chercheur émérite au Centre for the Study of Existential Risk de l’Université de Cambridge. Il s’est entretenu avec Bruce Edwards, de F&D, sur les thèmes du récit, de la confiance et de l’IA.

F&D : L’une des grandes idées sur lesquelles vous fondez votre histoire d’Homo sapiens est sa capacité sans égale à imaginer l’avenir. Comment nos récits nous ont-ils permis de triompher des autres espèces qui évoluaient à nos côtés ?

YNH : Notre pouvoir c’est la coopération. Les chimpanzés, par exemple, ne peuvent coopérer que lorsqu’ils sont très peu nombreux, mais Homo sapiens peut coopérer avec d’innombrables individus. Il y a aujourd’hui 8 milliards de personnes dans le monde qui — malgré les nombreuses divergences et les nombreux conflits qui les opposent — font pratiquement toutes partie des mêmes réseaux commerciaux. La nourriture que nous mangeons, les vêtements que nous portons, l’énergie que nous consommons proviennent souvent d’une autre partie du monde, créés par des personnes que nous n’avons jamais rencontrées. Ces vastes réseaux de coopération sont notre superpouvoir et reposent sur la confiance. Et comment établir la confiance entre inconnus ? À travers le récit. 

Nous bâtissons la confiance en inventant des histoires auxquelles croient de nombreux individus. C’est particulièrement évident dans le cas de la religion ; des millions de personnes peuvent s’unir pour des projets caritatifs comme la construction d’hôpitaux ou pour mener des guerres saintes, parce que ces millions d’étrangers souscrivent à la même mythologie. Mais cela vaut aussi dans le cas de l’économie et du système financier, car l’histoire la plus populaire de tous les temps est celle de l’argent. C’est en fait la seule histoire à laquelle nous croyons tous.

F&D : Vous avez pourtant affirmé que l’argent n’est rien de plus qu’un artefact culturel.

YNH : Oui. L’argent est un récit, une fiction — il n’a pas de valeur objective. Vous ne pouvez pas manger ou boire des billets et des pièces. Mais vous pouvez remettre un bout de papier qui n’a aucune valeur intrinsèque à un inconnu en échange de pain que vous pourrez manger. Ce système repose sur la croyance collective des mêmes récits sur l’argent ; lorsque l’on cesse d’y croire, tout s’effondre. Nous l’avons constaté plusieurs fois au long de l’histoire, et on le voit aujourd’hui aussi, avec l’avènement de nouvelles formes de monnaies. Que sont le Bitcoin, l’Ethereum et les cryptomonnaies ? Ce sont des récits. La valeur de ces monnaies dépend des histoires que l’on raconte et que l’on croit à leur propos. Les fluctuations de la valeur du bitcoin ne font que refléter le gain et la perte de confiance des gens dans le récit qui l’entoure. 

F&D : Dans votre dernier ouvrage, Nexus, vous dites que nous nous éloignons de l’économie fondée sur l’argent au profit d’une économie fondée non plus sur les monnaies, mais sur l’échange d’informations. À quoi ressemble cette économie de l’information ?

YNH : Commençons par un exemple : l’une des entreprises les plus présentes dans ma vie, c’est Google. Je l’utilise tous les jours, tout au long de la journée. Mais vous ne le devineriez jamais en regardant mon compte en banque, parce qu’il n’y a aucun échange monétaire. Je ne verse aucune somme à Google et vice versa. Je ne fais qu’obtenir des informations auprès de Google.

F&D : Et Google obtient de vous des informations.

YNH : Exactement. Google obtient de moi beaucoup d’informations sur ce que j’aime, ce que je n’aime pas, mes opinions — toutes sortes de choses — et s’en sert par la suite. Un nombre croissant de transactions dans le monde consistent en cet échange d’informations et non plus en un échange d’un bien contre de l’argent. Le pouvoir, la richesse, la définition même de la richesse dépendent de moins en moins des dollars que l’on possède et de plus en plus des pétaoctets d’informations dont on dispose. Que se passe-t-il lorsque les personnes et les entreprises les plus puissantes possèdent des quantités énormes d’informations qu’elles ne prennent même pas la peine de monétiser, d’échanger contre de l’argent, parce qu’elles peuvent obtenir tout ce qu’elles veulent en échange d’informations ? Pourquoi aurait-on besoin d’argent ? Si on peut acheter des services et des biens avec des informations, on n’a pas besoin d’argent.

F&D : La prémisse de Nexus est que les structures de pouvoir et les systèmes de croyances qui ont vu le jour au cours de l’évolution humaine résultent de récits ; cette idée est placée dans le contexte des technologies d’aujourd’hui. Que nous dit ce livre sur les périls de ces réseaux d’information de plus en plus
complexes ?

YNH : Le premier message, presque philosophique, c’est que l’information n’est pas la vérité. La plupart des informations sont fictives, imaginaires, trompeuses. La vérité est coûteuse : il faut effectuer des recherches, recueillir des preuves, consacrer du temps, des efforts, de l’argent à la production de la vérité. Et la vérité est souvent douloureuse, elle constitue donc un très petit sous-ensemble d’informations.

L’autre message est que nous sommes en train de larguer sur le monde la technologie la plus puissante que nous ayons jamais créée : l’IA. L’IA diffère radicalement des presses d’imprimerie, des bombes atomiques — de tout ce que nous avons inventé jusqu’ici. C’est la première technologie de l’histoire capable de prendre des décisions et de formuler de nouvelles idées toute seule. Une bombe atomique ne pourrait pas décider qui bombarder ; l’IA le peut. L’IA peut prendre des décisions financières et inventer de nouveaux dispositifs financiers. Et l’IA que nous connaissons aujourd’hui, en 2024, ce n’est que les prémices de la révolution que représente l’IA. Nous n’avons encore rien vu.

Il y a un autre aspect important, surtout pour le FMI, c’est qu’un très petit nombre de pays conduisent cette révolution. La plupart des pays sont très loin derrière et si nous n’y prenons pas garde, nous assisterons à une répétition de la Révolution industrielle, puissance dix. Au XIXe siècle, quelques pays — la Grande-Bretagne, puis les États-Unis, le Japon et la Russie — ont été les premiers à s’industrialiser. La plupart des pays n’ont pas compris ce qui se passait. Qu’est-ce que c’est que cette histoire de machines à vapeur et de télégraphes ? Pourtant, en quelques décennies, ces quelques puissances industrielles ont soit directement conquis, soit indirectement dominé l’ensemble du monde. De nombreux pays commencent à peine à se relever des dommages causés par cette conquête industrielle.

Aujourd’hui, nous avons affaire au tsunami qu’est l’IA. Pensez aux effets que la machine à vapeur et le télégraphe ont eu sur l’inégalité dans le monde, puis multipliez ça par 10, par 100, par 1 000. Vous commencerez alors à mesurer l’ampleur des conséquences qu’auraient la monopolisation de l’énorme puissance de l’IA par une poignée de pays et l’exploitation et la domination comme jamais auparavant de ceux qui seront restés à la traîne. 

F&D : l’IA sans garde-fous est donc dangereuse, comme vous le dites dans Nexus. Mais les êtres humains, et vous l’exposez clairement dans Sapiens, ont toujours maltraité la planète en toute impunité, « comme des dieux qui ne savent pas ce qu’ils veulent ». Les sciences économiques proposent-elles un moyen pour amortir l’impact de l’union de ces deux forces potentiellement
destructrices ?

YNH : L’économie concerne la définition des priorités. Vous avez des ressources limitées avec de nombreux désirs et besoins ; il y a donc la question de la vérité et la question des désirs. Quels sont les faits et que voulons-nous ?

En ce qui concerne la question des désirs, le meilleur système que nous ayons trouvé est la démocratie, qui consiste à demander aux gens ce qu’ils veulent. Et les désirs d’un docteur en économie ou d’un prix Nobel ne sont pas plus importants que ceux d’une personne qui n’a pas terminé le secondaire. Le but du système démocratique est de donner un poids égal aux désirs de chacun. Puis, vous avez la question de la vérité : quels sont les faits ? La démocratie n’est pas un système idéal pour le déterminer. Si vous voulez, par exemple, savoir si le réchauffement climatique est réel — s’il résulte de l’activité humaine ou bien d’un cycle naturel du soleil ou d’autre chose — la question ne doit pas être soumise à des élections démocratiques. Cette question concerne la vérité et non les désirs. 

Une chose que nous avons apprise sur les êtres humains ces derniers millénaires, c’est qu’ils peinent souvent à regarder la vérité en face — pour des raisons personnelles, religieuses, idéologiques. Pour connaître les faits, il faut créer des institutions dotées d’experts qui savent comment analyser les données, mais ces institutions ne devraient pas nous dicter nos désirs ou ce que nous avons à faire. Des experts nous disent : oui, le changement climatique est une réalité, en voici les causes — puis la balle passe dans le camp du processus démocratique. 

F&D : Mais les décisions démocratiques que prennent les individus sont basées sur les récits qu’ils entendent ; alors que se passe-t-il lorsque ces récits ne sont plus racontés par des êtres humains ? 

YNH : Nous sommes secoués par un séisme. Les sociétés humaines sont fondées sur la confiance ; la confiance repose sur l’information, sur la communication, et un changement majeur des technologies de la communication déstabilise la confiance entre les individus. Il en résulte un tremblement de terre social et politique. Avec l’avènement de l’IA, les récits qui nourrissent les sociétés humaines sont pour la première fois générés par une intelligence non humaine.

Ces récits peuvent être religieux ou financiers : jusqu’ici, tous les dispositifs financiers ont été conçus par l’esprit humain. Désormais, les dispositifs financiers pourront être inventés par des IA. Le danger est que les IA pourraient inventer des dispositifs financiers qu’aucun humain n’est capable de comprendre, et a fortiori de réglementer.

L’IA peut nous rendre de très grands services, mais c’est un danger existentiel si nous en perdons le contrôle. À mon sens, l’AI, en anglais, est l’abréviation, non pas de l’intelligence artificielle, mais de « alien intelligence ». Pas au sens d’extraterrestre, car elle a été créée dans nos propres laboratoires, mais au sens où le fonctionnement de cette intelligence pour la prise de décisions et la conception d’idées diffère fondamentalement de celui du cerveau humain. C’est une forme d’intelligence qui nous est étrangère. Et il est très dangereux de lâcher des milliards d’agents étrangers dans le monde sans aucun moyen de les contrôler, ni de s’assurer qu’ils utilisent leur colossal pouvoir dans notre intérêt.

Cet entretien a été modifié dans un souci de concision et de clarté. Consulter la page www.imf.org/podcasts pour écouter la version intégrale.