Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

мы доверяем нашему врачу всю эту информацию, чтобы она могла хорошо позаботиться о нашем здоровье. Если она продает эту информацию третьей стороне, это не просто неэтично, это незаконно.

То же самое можно сказать и об информации, которую накапливает наш адвокат, бухгалтер или терапевт. Доступ к нашей личной жизни влечет за собой фидуциарную обязанность действовать в наших интересах. Почему бы не распространить этот очевидный и древний принцип на компьютеры и алгоритмы, начиная с мощных алгоритмов Google, Baidu и TikTok? В настоящее время у нас есть серьезная проблема с бизнес-моделью этих хранителей данных. В то время как мы платим нашим врачам и адвокатам за их услуги, мы обычно не платим Google и TikTok. Они зарабатывают на эксплуатации нашей личной информации. Это проблематичная бизнес-модель, которую мы вряд ли допустили бы в других контекстах. Например, мы не ожидаем получить бесплатные кроссовки от Nike в обмен на то, что предоставим Nike всю нашу личную информацию и позволим ей делать с ней все, что она захочет. Почему мы должны соглашаться на бесплатные услуги электронной почты, социальные связи и развлечения от технологических гигантов в обмен на предоставление им контроля над нашими самыми конфиденциальными данными?

Если технологические гиганты не смогут увязать свои фидуциарные обязанности с текущей бизнес-моделью, законодатели могут потребовать от них перейти на более традиционную модель бизнеса, когда пользователи платят за услуги деньгами, а не информацией. В качестве альтернативы граждане могут рассматривать некоторые цифровые услуги как настолько фундаментальные, что они должны быть бесплатными для всех. Но и для этого у нас есть историческая модель: здравоохранение и образование. Граждане могут решить, что правительство обязано предоставлять основные цифровые услуги бесплатно и финансировать их за счет наших налогов, как многие правительства предоставляют бесплатные базовые услуги здравоохранения и образования.

Второй принцип, который защитит демократию от роста тоталитарных режимов наблюдения, - это децентрализация. Демократическое общество никогда не должно допускать, чтобы вся его информация была сосредоточена в одном месте, независимо от того, является ли этот центр правительством или частной корпорацией. Создание национальной медицинской базы данных, собирающей информацию о гражданах, может быть очень полезным для улучшения их медицинского обслуживания, предотвращения эпидемий и разработки новых лекарств. Но было бы очень опасно объединять эту базу данных с базами данных полиции, банков или страховых компаний. Это может сделать работу врачей, банкиров, страховщиков и полицейских более эффективной, но такая гиперэффективность может легко проложить путь к тоталитаризму. Для выживания демократии некоторая неэффективность - это особенность, а не недостаток. Чтобы защитить частную жизнь и свободу человека, лучше, если ни полиция, ни начальник не будут знать о нас все.

Многочисленные базы данных и информационные каналы также необходимы для поддержания сильных механизмов самокоррекции. Эти механизмы требуют наличия нескольких различных институтов, которые уравновешивают друг друга: правительство, суды, СМИ, научные круги, частный бизнес, НПО. Каждый из них ошибается и коррумпирован, поэтому должен проверяться другими. Чтобы следить друг за другом, эти институты должны иметь независимый доступ к информации. Если все газеты получают информацию от правительства, они не смогут разоблачать коррупцию в правительстве. Если научные круги опираются в своих исследованиях и публикациях на базу данных одного бизнесмена, могут ли ученые критиковать деятельность этой корпорации? Единый архив облегчает цензуру.

Третий демократический принцип - взаимность. Если демократические страны усиливают слежку за отдельными людьми, они должны одновременно усиливать слежку за правительствами и корпорациями. Не обязательно плохо, если налоговики или службы социального обеспечения собирают о нас больше информации. Это может помочь сделать системы налогообложения и социального обеспечения не только более эффективными, но и более справедливыми. Плохо, если вся информация идет в одном направлении: снизу вверх. Российская ФСБ собирает огромные объемы информации о российских гражданах, при этом сами граждане почти ничего не знают о внутренней работе ФСБ и путинского режима в целом. Amazon и TikTok знают очень много о моих предпочтениях, покупках и личности, в то время как я почти ничего не знаю об их бизнес-модели, налоговой политике и политических пристрастиях. Как они зарабатывают деньги? Платят ли они все положенные налоги? Получают ли они приказы от каких-то политических властей? Может быть, у них есть политики в кармане?

Демократия требует баланса. Правительства и корпорации часто разрабатывают приложения и алгоритмы как инструменты для слежки сверху вниз. Но алгоритмы могут так же легко стать мощными инструментами для прозрачности и подотчетности снизу вверх, раскрывая взяточничество и уклонение от уплаты налогов. Если они будут знать о нас больше, а мы одновременно будем знать больше о них, баланс будет сохранен. Эта идея не нова. На протяжении XIX и XX веков демократические государства значительно расширили правительственную слежку за гражданами, так что, например, итальянское или японское правительство 1990-х годов обладало такими возможностями слежки, о которых автократические римские императоры или японские сёгуны могли только мечтать. Тем не менее Италия и Япония оставались демократическими, поскольку одновременно повышали прозрачность и подотчетность правительства. Взаимное наблюдение - еще один важный элемент поддержания механизмов самокоррекции. Если граждане знают больше о деятельности политиков и руководителей компаний, их легче привлечь к ответственности и исправить их ошибки.

Четвертый демократический принцип заключается в том, что системы наблюдения всегда должны оставлять место как для изменений, так и для отдыха. В истории человечества угнетение может выражаться либо в лишении людей возможности меняться, либо в лишении их возможности отдыхать. Например, индуистская кастовая система была основана на мифах, согласно которым боги разделили людей на жесткие касты, и любая попытка изменить свой статус была сродни восстанию против богов и надлежащего порядка во Вселенной. Расизм в современных колониях и странах, таких как Бразилия и Соединенные Штаты, основывался на похожих мифах, в которых говорилось, что Бог или природа разделили людей на жесткие расовые группы. Игнорирование расы или попытка смешать расы между собой якобы были грехом против божественных или природных законов, который мог привести к краху социального порядка и даже к уничтожению человеческого рода.

На противоположном конце спектра современные тоталитарные режимы, такие как сталинский СССР, считали, что человек способен к почти безграничным изменениям. С помощью неустанного социального контроля можно искоренить даже такие глубоко укоренившиеся биологические характеристики, как эгоизм и семейные привязанности, и создать нового социалистического человека.

Слежка со стороны государственных агентов, священников и соседей была ключевым фактором для навязывания людям как жестких кастовых систем, так и тоталитарных кампаний по перевоспитанию. Новые технологии слежки, особенно в сочетании с системой социальных кредитов, могут заставить людей либо соответствовать новой кастовой