Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

о возможных изменениях в финансовой системе. По мере того как компьютеры становятся все более интеллектуальными и творческими, они, вероятно, будут создавать новые межкомпьютерные финансовые устройства. Золотые монеты и доллары - это межсубъектные сущности. Криптовалюты, такие как биткоин, находятся на полпути между межсубъектными и межкомпьютерными. Идея, лежащая в их основе, была придумана людьми, и их стоимость по-прежнему зависит от человеческих убеждений, но они не могут существовать вне компьютерной сети. Кроме того, торговля ими все чаще осуществляется с помощью алгоритмов, так что их стоимость зависит от расчетов алгоритмов, а не только от человеческих убеждений.

Что, если через десять или пятьдесят лет компьютеры создадут новый вид криптовалюты или другое финансовое устройство, которое станет жизненно важным инструментом для торговли и инвестирования и потенциальным источником политических кризисов и конфликтов? Вспомните, что мировой финансовый кризис 2007-8 годов был спровоцирован обеспеченными долговыми обязательствами. Эти финансовые устройства были изобретены горсткой математиков и инвестиционных вундеркиндов и были практически непонятны большинству людей, включая регуляторов. Это привело к сбою надзора и глобальной катастрофе.51 Компьютеры вполне могут создать финансовые устройства, которые будут на порядки сложнее, чем CDO, и будут понятны только другим компьютерам. Результатом может стать финансовый и политический кризис, еще более страшный, чем в 2007-8 годах.

На протяжении всей истории экономика и политика требовали от нас понимания интерсубъективных реальностей, придуманных людьми, - религий, наций и валют. Тот, кто хотел понять американскую политику, должен был принимать во внимание такие интерсубъективные реальности, как христианство и CDO. Однако все чаще понимание американской политики будет требовать понимания межкомпьютерных реальностей - от культов и валют, созданных ИИ, до политических партий, управляемых ИИ, и даже полностью инкорпорированных ИИ. Правовая система США уже признает корпорации юридическими лицами, обладающими такими правами, как свобода слова. В деле Citizens United v. Federal Election Commission (2010) Верховный суд США постановил, что это даже защищает право корпораций делать политические пожертвования.52 Что может помешать ИИ быть зарегистрированным и признанным юридическим лицом со свободой слова, а затем лоббировать и делать политические пожертвования для защиты и расширения прав ИИ?

На протяжении десятков тысяч лет люди доминировали на планете Земля, потому что только мы были способны создавать и поддерживать такие интерсубъективные образования, как корпорации, валюты, боги и нации, и использовать их для организации масштабного сотрудничества. Теперь сопоставимые способности могут обрести и компьютеры.

Это не обязательно плохая новость. Если бы компьютеры не обладали связностью и креативностью, они были бы не очень полезны. Мы все больше полагаемся на компьютеры в управлении нашими деньгами, вождении автомобилей, снижении загрязнения окружающей среды и открытии новых лекарств именно потому, что компьютеры могут напрямую общаться друг с другом, выявлять закономерности там, где мы не можем, и строить модели, которые никогда бы не пришли нам в голову. Проблема, с которой мы сталкиваемся, заключается не в том, как лишить компьютеры творческого потенциала, а в том, как направить их творчество в нужное русло. Это та же проблема, что и с человеческим творчеством. Межсубъектные сущности, изобретенные людьми, были основой всех достижений человеческой цивилизации, но время от времени они приводили к крестовым походам, джихадам и охоте на ведьм. Межкомпьютерные сущности, вероятно, станут основой будущих цивилизаций, но тот факт, что компьютеры собирают эмпирические данные и используют математику для их анализа, не означает, что они не могут устраивать свои собственные охоты на ведьм.

 

НОВЫЕ ВЕДЬМЫ

В ранней современной Европе сложная информационная сеть проанализировала огромное количество данных о преступлениях, болезнях и катастрофах и пришла к выводу, что во всем виноваты ведьмы. Чем больше данных собирали охотники на ведьм, тем больше убеждались, что мир полон демонов и колдовства и что существует глобальный сатанинский заговор с целью уничтожения человечества. Информационная сеть позволяла выявлять ведьм и сажать их в тюрьму или убивать. Теперь мы знаем, что ведьмы были фиктивной интерсубъективной категорией, придуманной самой информационной сетью и навязанной людям, которые никогда не встречались с Сатаной и не могли вызывать град.

В Советском Союзе еще более сложная информационная сеть придумала кулаков - еще одну мифическую категорию, которая была навязана миллионам. Горы информации, собранные советской бюрократией о кулаках, не были объективной истиной, но они создали новую интерсубъективную истину. Знание о том, что кто-то был кулаком, стало одной из самых важных вещей, которые нужно было знать о советском человеке, даже если эта категория была фиктивной.

В еще более широком масштабе, с XVI по XX век, многочисленные колониальные бюрократии в Северной и Южной Америке, от Бразилии, Мексики и Карибского бассейна до Соединенных Штатов, создали расистскую мифологию и придумали всевозможные интерсубъективные расовые категории. Людей делили на европейцев, африканцев и коренных американцев, а поскольку межрасовые сексуальные отношения были широко распространены, были придуманы дополнительные категории. Во многих испанских колониях законы различали метисов - людей со смешанным испанским и коренным американским происхождением; мулатов - людей со смешанным испанским и африканским происхождением; замбос - людей со смешанным африканским и коренным американским происхождением; пардос - людей со смешанным испанским, африканским и коренным американским происхождением. Все эти, казалось бы, эмпирические категории определяли, могут ли люди находиться в рабстве, пользоваться политическими правами, носить оружие, занимать государственные должности, быть принятыми в школу, заниматься определенными профессиями, жить в определенных кварталах, иметь право заниматься сексом и вступать в брак друг с другом. Утверждалось, что, поместив человека в определенный расовый ящик, можно определить его личность, интеллектуальные способности и этические наклонности.

В XIX веке расизм претендовал на звание точной науки: он утверждал, что различает людей на основе объективных биологических фактов, и опирался на научные инструменты, такие как измерение черепов и учет статистики преступлений. Но облако цифр и категорий было лишь дымовой завесой для абсурдных интерсубъективных мифов. Тот факт, что у кого-то бабушка - коренная американка или отец - африканец, конечно же, ничего не говорит об их интеллекте, доброте или честности. Эти фиктивные категории не открывали и не описывали никакой правды о людях; они навязывали им угнетающий, мифологический порядок.

По мере того как компьютеры заменяют людей во все большем количестве бюрократических структур, от сбора налогов и здравоохранения до обеспечения безопасности и правосудия, они тоже могут создать мифологию и навязать ее нам с беспрецедентной эффективностью. В мире, где правили бумажные документы, бюрократам было сложно следить за расовыми границами или отслеживать точную родословную каждого человека. Люди могли получать фальшивые документы. Замбо мог переехать в другой город и притвориться пардо. Чернокожий мог иногда выдавать себя за