Люди доминируют на планете, рассказывая истории; Юваль Ной Харари утверждает, что скоро они могут утратить роль рассказчика.

В отличие от вымышленного Homo economicus, гиперрациональной модели, используемой для объяснения выбора, который мы делаем в финансовых вопросах, решения Homo sapiens всегда находились под сильным влиянием социальной обстановки и эмоциональных побуждений, вызванных историями.

Юваль Ной Харари, который с раннего возраста увлечен поиском истины, пишет об эволюции человека с точки зрения философа и историка. Книга «Sapiens: краткая история человечества», которая вышла в 2014 году, стала международным феноменом и доступна почти на 40 языках во всем мире. В его последней книге «Nexus: краткая история информационных сетей от каменного века до искусственного интеллекта» рассматривается эволюция человеческих коммуникационных сетей и то, как искусственный интеллект может в конечном итоге превзойти нас в нашей собственной игре.

В настоящее время Харари преподает историю в Еврейском университете в Иерусалиме и является почетным научным сотрудником Центра изучения экзистенциального риска Кембриджского университета. Он побеседовал с Брюсом Эдвардсом из ФиР об искусстве рассказывать истории, доверии и ИИ.

ФиР: Один из основных принципов, на котором вы строите свою историю человека разумного, — это наша уникальная способность представлять себе будущее. Как наше умение рассказывать истории позволило нам превзойти другие виды, чья эволюция протекала одновременно с нами?

ЮНХ: Наша сила — во взаимодействии. Шимпанзе, например, могут взаимодействовать только в очень небольших группах, но Homo sapiens может осуществлять взаимодействие в неограниченно больших сообществах. Сегодня в мире насчитывается 8 миллиардов человек, почти все из которых, несмотря на многочисленные различия и конфликты, являются частью одних и тех же торговых сетей. Пища, которую мы едим, одежда, которую мы носим, энергия, которую мы потребляем, — все это часто поступает с другого конца света, от людей, с которыми мы никогда не встречались. Эти большие сети взаимодействия наделяют нас сверхсилой, и в их основе лежит доверие. Так как же выстроить доверие между незнакомыми людьми? Ответ — через истории.

Мы строим доверие, придумывая истории, в которые многие люди верят. Проще всего это понять на примере религий, где миллионы людей могут взаимодействовать в благотворительных проектах, таких как строительство больниц, или в ведении священных войн, потому что миллионы незнакомых друг с другом людей верят в одну и ту же мифологию. Однако то же самое верно и в случае с экономикой и финансовой системой, потому что самая успешная история из когда-либо рассказанных — это история денег. По сути, это единственная история, в которую верят все.

ФиР: И все же вы описываете деньги как не более чем культурный артефакт.

ЮНХ: Да. Деньги — это история, вымысел, они не имеют объективной ценности. Вы не можете съесть или выпить деньги в виде банкнот и монет. Тем не менее вы можете пойти к незнакомому человеку и вручить ему ничего не стоящий кусок бумаги в обмен на хлеб, который вы сможете съесть. Все основано на том, что все верят в одни и те же истории о деньгах, и когда люди перестают верить в эту историю, все рушится. Мы наблюдали такие примеры на протяжении всей истории, и мы также наблюдаем это сегодня, с появлением новых типов валют. Что такое биткоин, эфириум и все эти криптовалюты? Это истории. Их ценность зависит от историй о них, которые люди рассказывают и в которые верят. В росте и падении стоимости биткоина можно видеть рост и падение веры людей в эту историю.

ФиР: В своей последней книге «Nexus» вы говорите, что мы переходим от экономики денег к экономике, основанной на обмене информацией, а не валютами. Что представляет собой экономика информации?

ЮНХ: Начнем с примера: одной из самых важных корпораций в моей жизни является Google. Я пользуюсь им ежедневно, в течение всего дня. Однако вы никогда не узнаете об этом по моему банковскому счету, потому что деньги при этом не переходят из рук в руки. Я не плачу Google деньгами и не получаю денег от Google. Я получаю от Google информацию.

ФиР: И Google получает информацию от Вас.

ЮНХ: Совершенно верно. Google получает от меня много информации о моих симпатиях, антипатиях, взглядах, о чем угодно, и затем использует эту информацию. Все больше транзакций в мире следуют этому формату обмена информации на информацию, а не чего-то на деньги. Власть, богатство, значение богатства смещаются от обладания большим количеством долларов к обладанию большим количеством петабайт информации. Что происходит, если самые влиятельные люди и корпорации богаты в том смысле, что у них имеются огромные запасы информации, которые они даже не утруждаются монетизировать, обменять на деньги, потому что они могут получить все, что захотят, в обмен на информацию? Для чего нам нужны деньги? Если вы можете приобретать услуги и товары с помощью информации, то вам не нужны деньги.

ФиР: То есть «Nexus» развивает идею о том, что наши структуры власти и системы убеждений возникают на протяжении всего периода эволюции человека из историй и помещает ее в контекст современных технологий. Что книга рассказывает нам об опасностях этих все более изощренных информационных сетей?

ЮНХ: Первая, почти философская мысль заключается в том, что информация не является истиной. Большая часть информации — это вымысел, фантазии и заблуждения. Истина стоит дорого: вам нужно провести исследование, вам нужно собрать доказательства, вам нужно уделить время, приложить усилия, вложить деньги, чтобы узнать правду. А правда часто причиняет боль, поэтому правда — это очень маленькое подмножество информации.

Еще один посыл заключается в том, что мы сейчас выпускаем в мир самую мощную технологию, которую мы когда-либо создавали: ИИ. ИИ принципиально отличается от печатных станков, атомных бомб — от всего, что мы изобрели до сих пор. Это первая технология в истории, которая может самостоятельно принимать решения и создавать новые идеи. Атомная бомба не могла решать, кого бомбить; ИИ может. ИИ может самостоятельно принимать финансовые решения и изобретать новые финансовые механизмы, а ИИ, каким мы его знаем сегодня, в 2024 году, — это всего лишь очень примитивный первый шаг в революции ИИ. То ли еще будет.

Один важный момент, особенно актуальный для МВФ, заключается в том, что революцию в области ИИ возглавляет очень небольшое число стран. Большинство стран очень сильно отстают и, если мы не проявим осторожность, это станет гипертрофированным повторением промышленной революции. В XIX веке несколько стран (Великобритания, а затем США, Япония, Россия) первыми осуществили индустриализацию. Большинство стран не понимали, что происходит. Что это за паровые машины и телеграфы? Тем не менее в течение нескольких десятилетий весь мир был либо непосредственно завоеван этими немногочисленными индустриальными державами, либо косвенно подчинен их власти. Есть много стран, которые только сейчас начинают оправляться от ущерба, нанесенного в результате этого промышленного завоевания.

А теперь мы наблюдаем это цунами ИИ. Подумайте о том, какое влияние паровой двигатель и телеграф оказали на равенство в мире, а затем умножьте его на 10, на 100, на 1000. Тогда вы начнете осознавать последствия того, что всего несколько стран монополизировали огромную мощь ИИ, а все остальные остались за бортом, чтобы их эксплуатировали и главенствовали над ними так, как никогда в истории.

ФиР: То есть, как вы говорите в своей книге «Nexus», неконтролируемый ИИ опасен. Но люди, как вы также ясно показываете в «Sapiens», уже безнаказанно бесчинствуют на планете, «как боги, которые не знают, чего хотят». Может ли экономическая наука что-то предложить, чтобы смягчить последствия объединения этих двух потенциально разрушительных сил?

ЮНХ: Экономика сводится к формированию приоритетов. У вас ограниченное количество ресурсов и так много различных желаний и потребностей, поэтому есть вопрос истины и вопрос желания. Каковы факты, и чего мы хотим?

Говоря о желании, лучшая система, которую мы придумали, — это демократия, где вы спрашиваете людей, чего они хотят. Желания человека с докторской степенью по экономике или Нобелевской премией не имеют большую значимость, чем желания человека, который не окончил среднюю школу. Цель демократической системы состоит в том, чтобы придать равный вес желаниям каждого. Тогда возникает вопрос об истине: каковы факты? Демократия не является идеальной системой для ответа на этот вопрос. Если вы хотите, например, узнать, действительно ли климат Земли становится жарче, и является ли это следствием деятельности человека или какого-то естественного цикла Солнца или чего-то еще, то ответ на этот вопрос не должен быть предметом демократических выборов. Это вопрос истины, а не желания.

Одна вещь, которую мы узнали о людях за тысячи лет, заключается в том, что люди часто хотят, чтобы истина отличалась от того, что она есть на самом деле — по личным причинам, по религиозным причинам, по идеологическим причинам. Если вы хотите знать факты, вам нужно создать институты экспертов, которые знают, как анализировать доказательства, но они не должны диктовать наши желания или указывать нам, что делать. У вас есть эксперты, которые говорят нам, что да, изменение климата реально, вот его причины, — и тогда мяч переходит на демократическую сторону поля.

ФиР: Однако в основе демократических решений, которые принимают люди, лежат истории, которые они слышат, так что же происходит, когда люди больше не выступают рассказчиками этих историй?

ЮНХ: Происходит землетрясение. Человеческие общества основаны на доверии, доверие основано на информации, на общении, а серьезное изменение в коммуникационных технологиях подрывает доверие между людьми. В результате происходит социальное и политическое землетрясение. С развитием ИИ мы впервые видим, что истории, на которых держатся человеческие общества, генерируются нечеловеческим интеллектом.

Это могут быть религиозные или финансовые истории: все предыдущие финансовые механизмы в истории возникли как плод воображения человека. Однако теперь мы видим, что появляются финансовые механизмы, изобретенные искусственным интеллектом. Опасность заключается в том, что ИИ может изобрести финансовые механизмы, которые ни один человек не способен понять, не говоря уже о том, чтобы их регулировать.

ИИ может сделать для нас чрезвычайно полезные вещи, но если он выйдет из-под нашего контроля — это экзистенциальная угроза. Я рассматриваю аббревиатуру ИИ не как «искусственный интеллект», а как «инородный интеллект». Не в том смысле, что он пришел из космоса, а в том смысле, что он вышел из наших собственных лабораторий. Он инородный в том смысле, что принимает решения и изобретает идеи принципиально иным образом, чем люди. Это инородный тип интеллекта. Очень опасно выпускать миллиарды инородных агентов в мир, не имея возможности их контролировать и убедиться, что они используют свою огромную силу нам во благо.

Интервью отредактировано из соображений объема и ясности. Полное интервью можно послушать по ссылке www.imf.org/podcasts.

 

Мнения, выраженные в статьях и других материалах, принадлежат авторам и не обязательно отражают политику МВФ.