Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

ведения войны. В ходе этих дебатов погибли десятки миллионов людей, а человечество вплотную приблизилось к самоуничтожению.

Помимо всех прочих катастроф, промышленная революция также подорвала глобальный экологический баланс, вызвав волну вымираний. Считается, что в начале XXI века ежегодно вымирает до 58 тысяч видов животных, а общая численность популяций позвоночных сократилась на 60 % с 1970 по 2014 год. Выживание человеческой цивилизации тоже находится под угрозой. Поскольку мы все еще не можем построить индустриальное общество, которое было бы также экологически устойчивым, хваленое процветание нынешнего поколения людей обходится страшной ценой для других разумных существ и будущих человеческих поколений. Возможно, со временем мы найдем способ - возможно, с помощью искусственного интеллекта - создать экологически устойчивое индустриальное общество, но до этого дня присяжные по поводу сатанинских мельниц Блейка еще не определились.

Если мы на мгновение проигнорируем продолжающийся ущерб экосистеме, мы все же можем попытаться утешить себя мыслью о том, что в конце концов люди все-таки научились строить более благожелательные индустриальные общества. Имперские завоевания, мировые войны, геноцид и тоталитарные режимы были неудачными экспериментами, которые научили людей, как не надо делать. К концу двадцатого века, как могут утверждать некоторые, человечество более или менее исправилось.

Однако даже в этом случае послание XXI веку выглядит мрачно. Если человечеству потребовалось столько страшных уроков, чтобы научиться управлять паровой машиной и телеграфом, то чего же стоит научиться управлять биоинженерией и искусственным интеллектом? Неужели нам нужно пройти еще через один цикл глобальных империй, тоталитарных режимов и мировых войн, чтобы понять, как использовать их с пользой? Технологии XXI века гораздо мощнее и потенциально гораздо разрушительнее, чем технологии XX века. Поэтому у нас меньше возможностей для ошибок. В двадцатом веке мы можем сказать, что человечество получило тройку с минусом на уроке по использованию промышленных технологий. Достаточно, чтобы сдать экзамен. В XXI веке планка поставлена гораздо выше. На этот раз мы должны добиться большего.

 

ДЕМОКРАТИЧЕСКИЙ ПУТЬ

К концу двадцатого века стало ясно, что империализм, тоталитаризм и милитаризм не являются идеальным способом построения индустриальных обществ. Несмотря на все свои недостатки, либеральная демократия предлагала лучший путь. Огромное преимущество либеральной демократии заключается в том, что она обладает мощными механизмами самокоррекции, которые ограничивают эксцессы фанатизма и сохраняют способность признавать свои ошибки и пробовать разные варианты действий. Учитывая нашу неспособность предсказать, как будет развиваться новая компьютерная сеть, наш лучший шанс избежать катастрофы в нынешнем веке - поддерживать демократические самокорректирующиеся механизмы, способные выявлять и исправлять ошибки по ходу дела.

Но сможет ли сама либеральная демократия выжить в XXI веке? Этот вопрос не касается судьбы демократии в конкретных странах, где ей могут угрожать уникальные события и местные движения. Скорее, речь идет о совместимости демократии со структурой информационных сетей XXI века. В главе 5 мы увидели, что демократия зависит от информационных технологий и что на протяжении большей части человеческой истории масштабная демократия была просто невозможна. Могут ли новые информационные технологии XXI века вновь сделать демократию непрактичной?

Одна из потенциальных угроз заключается в том, что неумолимость новой компьютерной сети может уничтожить нашу частную жизнь и наказывать или награждать нас не только за все, что мы делаем и говорим, но даже за все, что мы думаем и чувствуем. Сможет ли демократия выжить в таких условиях? Если правительство или какая-нибудь корпорация будет знать обо мне больше, чем я сам о себе, и сможет контролировать все мои действия и мысли, это приведет к тоталитарному контролю над обществом. Даже если выборы будут проводиться регулярно, они станут скорее авторитарным ритуалом, чем реальной проверкой власти правительства. Ведь правительство сможет использовать свои огромные возможности по слежке и глубокое знание каждого гражданина, чтобы манипулировать общественным мнением в беспрецедентных масштабах.

Однако было бы ошибкой полагать, что если компьютеры позволяют создать режим тотальной слежки, то такой режим неизбежен. Технология редко бывает детерминированной. В 1970-х годах демократические страны, такие как Дания и Канада, могли бы подражать румынской диктатуре и развернуть целую армию секретных агентов и осведомителей, чтобы шпионить за своими гражданами в целях "поддержания общественного порядка". Они решили этого не делать, и это оказалось правильным выбором. Люди в Дании и Канаде не только были гораздо счастливее, но и демонстрировали лучшие показатели практически по всем мыслимым социальным и экономическим параметрам. В XXI веке тот факт, что можно постоянно следить за всеми, никого не заставляет это делать и не означает, что это имеет социальный или экономический смысл.

Демократические страны могут выбрать ограниченное использование новых возможностей слежки, чтобы обеспечить гражданам лучшее здравоохранение и безопасность, не разрушая их частную жизнь и автономию. Новые технологии не обязательно должны быть моральной сказкой, в которой каждое золотое яблоко содержит семена гибели. Иногда люди думают о новых технологиях как о бинарном выборе "все или ничего". Если мы хотим получить лучшее медицинское обслуживание, мы должны пожертвовать своей частной жизнью. Но так не должно быть. Мы можем и должны получать более качественное медицинское обслуживание и при этом сохранять некоторую приватность.

Целые книги посвящены описанию того, как демократия может выжить и процветать в цифровую эпоху. Невозможно в нескольких страницах отразить всю сложность предлагаемых решений или всесторонне обсудить их достоинства и недостатки. Это может быть даже контрпродуктивно. Когда на людей обрушивается поток незнакомых технических деталей, они могут отреагировать отчаянием или апатией. В вводном обзоре компьютерной политики все должно быть максимально просто. В то время как эксперты должны посвятить всю свою карьеру обсуждению тонкостей, остальным важно понять фундаментальные принципы, которым могут и должны следовать демократические государства. Главная мысль заключается в том, что эти принципы не являются ни новыми, ни загадочными. Они известны на протяжении веков и даже тысячелетий. Граждане должны требовать, чтобы они применялись к новым реалиям компьютерного века.

Первый принцип - доброжелательность. Когда компьютерная сеть собирает информацию обо мне, эта информация должна использоваться для помощи мне, а не для манипулирования мной. Этот принцип уже был успешно закреплен в многочисленных традиционных бюрократических системах, таких как здравоохранение. Возьмем, к примеру, наши отношения с семейным врачом. За многие годы у нее может накопиться много конфиденциальной информации о состоянии нашего здоровья, семейной жизни, сексуальных привычках и нездоровых пороках. Возможно, мы не хотим, чтобы наш начальник знал, что мы забеременели, не хотим, чтобы наши коллеги знали, что у нас рак, не хотим, чтобы наш супруг знал, что у нас роман, и не хотим, чтобы полиция знала, что мы принимаем рекреационные наркотики, но