人間はストーリーを語ることで地球を支配してきた。ユヴァル・ノア・ハラリは、人間がじきに、筆を必要としなくなると語る。

経済活動における人間の選択を説明するために使われる超合理的なモデルである架空の「合理的経済人」とは異なり、ヒトの決断は、常に社会的な環境やストーリーによって喚起される感情的な衝動に強く影響されてきた。

幼い頃から探求心が強かったユヴァル・ノア・ハラリ氏は、哲学者および歴史家として人類の進化について執筆してきた。2014年に出版された「サピエンス全史」は世界的に知れ渡り、約40か国語で出版されている。ハラリ氏の最新の著書「ネクサス：石器時代から人工知能までの情報ネットワーク小史」では、人間のコミュニケーションネットワークの進化と、人工知能が最終的に人間のお株を奪う可能性について考察している。

ハラリ氏は現在、エルサレム・ヘブライ大学で歴史学の講師を務め、ケンブリッジ大学の生存リスク研究センターの著名な研究員である。この度、F&Dのブルース・エドワーズに、ストーリーテリングと信頼、AIについて語った。

F&D:ハラリさんによると、現人類の歴史を築く基本原則のひとつは、未来を想像するわれわれのユニークな能力です。人間はストーリーテリングによって、どのようにしてわれわれと共に進化してきた他の種に勝つことができたのでしょうか。

ハラリ: われわれの力は協力です。例えば、チンパンジーはごく少数ででしか協力できませんが、ヒトが協力できる人数は無制限です。今日、世界人口は80億人ですが、多くの違いや紛争があるにもかかわらず、ほぼ全員が同じ貿易ネットワークの一部です。われわれが食べる食べ物、着る服、消費するエネルギーは、多くの場合、地球の裏側、会ったことのない人々が作っています。これらの大規模な協力ネットワークは、われわれの偉大な力であり、「信頼」に基づいています。では、見知らぬ人同士でどのように信頼関係を築くのでしょうか。答えは「ストーリー」です。

われわれは、多くの人が信じるストーリーを作ることで信頼を築きます。宗教が分かりやすい例です。何百万人もの人々が病院の建設などの慈善事業に協力したり、聖戦を行ったりすることができるのは、何百万人もの見知らぬ人々が同じ神話を信じているためです。しかし、経済や金融システムの場合も同様です。これまでに語られた中で最も成功したものはお金のストーリーです。基本的には、誰もが信じる唯一の話です。

F&D:しかし、ハラリさんはお金が文化的な加工品に過ぎないと説明されています。

ハラリ： はい。お金はストーリーであり、フィクションであり、客観的な価値はありません。紙幣や硬貨などの通貨を食べたり飲んだりすることはできません。しかし、見知らぬ人のところに行って、価値のない紙を渡して、食べられるパンと引き換えることができます。それはすべて、誰もがお金について同じストーリーを信じていることに基づいており、人々がそのストーリーを信じなくなると、すべてが崩壊します。こうした例は歴史を通して見られてきましたが、今日では新しい種類の通貨の台頭によっても見られます。ビットコイン、イーサリアム、その他いろいろな仮想通貨とは何でしょうか。それはストーリーです。その価値は、人々がそれらについて語り、信じるストーリーに依存します。そのストーリーに対する人々の信頼が上がったり下がったりすることが、ビットコインの価値の上がり下がりに反映されています。

F&D:ハラリさんの最新の著書「ネクサス」では、われわれが貨幣経済から離れ、通貨ではなく情報の交換に基づく経済に移行しているとおっしゃっています。情報経済はどのようなものですか。

ハラリ：例を挙げましょう。私の人生で最も重要な企業のひとつがグーグルです。毎日、そして一日中、グーグルを使っています。でもそれは、私の銀行口座からは、分からないでしょう。私はグーグルにお金を払っていませんし、グーグルも私にお金をくれません。私はグーグルから情報を取得しているのです。

F&D:そして、グーグルもあなたから情報を取得しますね。

ハラリ：その通り。グーグルは、私の好き嫌い、意見など、何でもいいので、私から多くの情報を取得し、この情報を使います。世界中でますます多くの取引が、この情報の形式に従っています。お金と引き換えるのではなく、情報と引き換えているのです。そして、権力や富、その富の意味は、大量のお金を持つことから、何ペタバイトもの情報を持つことへと移行します。もし最も権力のある人々や企業が、膨大な情報を有するという意味で裕福だったらどうなるか。情報と引き換えに欲しいものを何でも手に入れることができるので、その情報で儲けるわけでも、お金と交換するわけでもない。そうなったら、お金が必要となるでしょうか。情報でサービスや商品を購入できるのであれば、お金は必要ありません。

F&D: 「ネクサス」は、われわれの権力構造と信念体系が、人類の進化を通してさまざまなストーリーから生まれたという考えに基づいており、それを今日のテクノロジーの文脈に当てはめています。この本は、ますます高度化する情報ネットワークの危険性について何を教えてくれるのでしょうか。

ハラリ：最初は、ほとんど哲学的なメッセージから始まります。それは、情報が真実ではないということです。ほとんどの情報はフィクション、ファンタジー、妄想です。真実はコストが高い。調査を行い、証拠を集める必要があります。真実を生み出すために、時間と労力、お金を投資する必要があります。そして、真実はしばしば痛みを伴うため、真実は情報の非常に小さなサブセットです。

もうひとつのメッセージは、われわれがこれまでに生み出した中で最も強力なテクノロジーであるAIを世界に解き放つ過程にあるということです。AIは、印刷機や原子爆弾など、これまでに発明されてきたすべてのものと根本的に異なります。これは、それ自体で意思決定を行い、新しいアイディアを生み出すことができる史上初のテクノロジーです。原子爆弾は、誰を爆撃するかを決めることはできません。AIはできます。AIは、それ自体で財務上の意思決定を行い、新しい金融ツールを発明することができますが、2024年の今日、われわれが慣れ親しんでいるAIは、AI革命の非常に原始的な第一歩にすぎません。AIの発展はこれからです。

そして、特にIMFにとって重要なことのひとつは、AI革命をリードしている国が非常に少ないということです。ほとんどの国は非常に遅れており、注意を怠ると、これは産業革命の繰り返しになります。19世紀には、英国に続いて、米国、日本、ロシアなど、いくつかの国が最初に工業化しました。ほとんどの国は、何が起こっているのか理解していませんでした。蒸気機関や電信とは何なのか、といった具合です。しかし、数十年のうちに、全世界は直接的に征服されるか、あるいは間接的にこれらの少数の工業大国によって支配されました。この産業征服の結果としてもたらされた損害から、今になってようやく回復し始めた多くの国があります。

そして今、私たちはAIの津波に襲われています。蒸気機関と電信が世界の格差に及ぼした影響を考え、それを10倍、100倍、1000倍にします。そうすれば、AIの偉大な力を独占する国がほんの数か国であり、歴史上前例のない方法で搾取され、支配されるために取り残されたすべての国がどのような結果をもたらすかを理解し始めるのです。

F&D:ハラリさんの著書「ネクサス」で述べているように、野放しのAIは危険です。しかし、「サピエンス全史」で明らかにされているように、人間は「何を望んでいるのかわからない神のように」罰を受けずに地球を手荒く扱ってきました。これらふたつの潜在的に破壊的な力が一緒になることの影響を和らげるために、経済学が提供できるものはありますか。

ハラリ：経済学とは、優先順位を形成することです。非常に多くの異なる欲望とニーズがある中、資源は限られています。つまり、事実の問題と欲望の問題があります。事実は何か、そしてわれわれは何を望んでいるのか。

欲望に関して言えば、われわれが考え出した最善のシステムが、人々に何を望んでいるかを尋ねる民主主義です。そして、経済学の博士号やノーベル賞を持つ人の欲望が、高校を卒業していない人の欲望よりも重要ということはありません。民主主義制度の目的は、すべての人の欲望に平等な重みを与えることです。そして、事実の問題があります。事実とは何でしょう。民主主義は、それを決定するための理想的なシステムではありません。例えば、地球の気候が本当に温暖化しているのか、これが人間の行動の結果なのか、それとも太陽の自然な周期の結果なのか、あるいは何であれ、知りたいのであれば、これは民主的な選挙の問題であってはならない。これは事実の問題であり、欲望の問題ではありません。

何千年にもわたって人間について学んできたことのひとつが、人々はしばしば、個人的な理由、宗教的な理由、イデオロギー的な理由から、事実が本来の姿とは異なることを望んでいるということです。事実を知りたいのであれば、証拠を分析できる専門家の機関を構築する必要がありますが、彼らがわれわれの欲望を指図したり、何をすべきかを指示したりすべきではありません。専門家は、気候変動が現実のものであり、その原因が何かを伝え、その後の決定事項は民主主義の場に移ります。

F&D:しかし、人々が下す民主的な決定は、ストーリーに基づいているので、それらのストーリーがもはや人間によって語られなくなったらどうなるのでしょうか。

ハラリ：地震が発生しています。人間社会は信頼に基づいています。信頼は情報とコミュニケーションに基づいており、コミュニケーション技術の大きな変化は人々の間の信頼を不安定にします。その結果、社会的、政治的な地震が起きます。AIの台頭により、人間社会を支えるストーリーが人間以外の知能によって生み出されていることが初めて明らかになりました。

これは、宗教的なストーリー、もしくは金融のストーリーであるかもしれません。これまで、史上すべての金融ツールは人間の想像力から生まれました。しかし、これからはAIが発明した金融ツールが登場するでしょう。危険なのは、AIが、人間が理解できない、ましてや規制できない金融ツールを発明する可能性があることです。

AIは非常に有益なことを成し遂げられますが、それがわれわれの手に負えなくなると、存続にかかわる危険です。私はAIを、人工知能（Artificial Intelligence）ではなく、エイリアンインテリジェンス（Alien Intelligence）の頭字語だと考えています。宇宙から来ているという意味でのエイリアンではなく、われわれ自身の研究室に由来する、異質な、という意味でのエイリアンです。人間とは根本的に異なる方法で決定を下し、アイディアを発明するという意味で、異質な存在です。それはエイリアン型の知性です。そして、何十億ものエイリアン型エージェントを、制御したり、その偉大な力を人間の利益のために使ったりする方法なしに、世界に放出することは非常に危険です。 

このインタビューは、内容を明瞭にし、記事の長さを調整するために編集されている。全インタビューは、www.imf.org/podcasts でお聞き下さい。

記事やその他書物の見解は著者のものであり、必ずしもIMFの方針を反映しているとは限りません。