Книга Нервные государства - Уильям Дэвис

Среди ситуаций, которых мы не знаем, выделяется то, как эффективно платформы способны влиять на наше поведение, эмоции и предпочтения. Эта неопределенность обостряется маркетинговой бравадой компаний вроде «Cambridge Analytica», которая неоднократно преувеличивала свое политическое влияние. Большинство коммерческих веб-сайтов постоянно участвуют в малых формах социальных экспериментов с целью узнать, какой из двух визуальных дизайнов даст больше кликов или покупок (практика называется «A/B testing»). Это довольно невинно, но в сочетании с искусственным интеллектом, способным интерпретировать текстовый и визуальный пользовательский контент, и добавлением анализа прочего поведения где-то еще вызывает у людей обоснованные опасения в возможностях социального контроля. Ощущение паранойи окружает сегодня некоторых технологических гигантов, особенно Facebook, продавший прокремлевской «ферме троллей» рекламного пространства на 100 000 долларов прямо в канун президентских выборов 2016 года, контент которой увидело 126 млн американцев. Это позволяет предположить, что Facebook мог быть активно замешан (или получателем прибыли) в производстве «ложных новостей».

В одной из интерпретаций считается, что Facebook необходимо делать своих пользователей все более ветреными и эмоциональными, чтобы позволить Цукербергу удовлетворить свои технологические амбиции. Во-первых, потому, что только имея доступ к колоссальному количеству выражений лиц, эмоциональных текстов и эмодзи, искусственный интеллект может научиться понимать человеческих существ. Наши ярость, радость, печаль и ужас обеспечивают машинам материал, по которому они обучаются вести себя подобно человеку. Во-вторых, выражая наши самые искренние чувства, мы выдаем очень четкие данные о себе, с помощью которых можно продать больше рекламы. «Экономика внимания», над которой Facebook имеет огромную власть и монополию, является непаханым полем для агрессивного и асоциального политического выражения, превращающего ярость и шок в общее дело. Независимо от высказанных Цукербергом политических взглядов, есть неоспоримые пересечения между финансовыми интересами его компании и интересами политических экстремистов.

В результате получается сценарий, схожий с контрольным залом SAGE в конце 1950-х годов, только теперь по экранам перед командирами летают не самолеты, а поведенческие и эмоциональные тренды. Политическая суматоха и эмоциональные потрясения могут рассматриваться как погодные явления, отслеживаться в реальном времени и изучаться на предмет повторяющихся шаблонов. Кремниевая долина, без сомнения, дала жизнь своим собственным элитам и экспертам, но те не вмещаются в шаблон мэйнстримных политических и профессиональных элит, не обладают формой экспертизы, похожей на таковую статистиков, ученых и экономистов, впервые возникших в XVII столетии. Центральное различие состоит в том, что там, где традиционные элиты стремятся монополизировать средства представления (как журналисты, политические представители, ученые, статистики и т. д.), их цифровые наследники стремятся монополизировать средства контроля. Подобно военачальникам, но в гражданской жизни, они копят разведданные, но демонстрируют относительно слабый интерес к фактам в их общепринятом понимании.

Хотя мы не знаем точно, насколько эффективны эти манипулятивные методики, ясно, что они преображают ход политических кампаний. Массовая демократия в эпоху широковещательных СМИ включала в себя обращения к грандиозным массам населения (хотя и направленные в первую очередь на решающих избирателей в решающих штатах). Это понемногу замещалось посланиями к узким кругам населения, подобранным с огромной точностью, невидимой для всех остальных. Страх состоит в том, что с куда более отточенными эмоциональной проницательностью и демографическим отбором станет возможным сформировать такой эмоциональный триггер лично для каждого, чтобы заставить или изменить свой голос, или вообще не пойти голосовать. Facebook является средой, которая больше прочих обслуживает и нормализует политику «собачьего свистка», в рамках которой контент может быть специально подобран для мобилизации отдельных получателей, минуя СМИ.

Опасность, что кроется в современных обществах, состоит в том, что технологии можно неожиданно перенацелить на насилие. Гражданские институты, поколениями воспринимавшиеся как должное, внезапно окажутся уязвимыми к атаке после того, как лишь один элемент головоломки встанет не на то место. Растущая сложность технологий увеличивает возможности слабых в части организаций агрессивных и разрушительных вмешательств независимо от того, будут их потом называть «взломами», «терроризмом» или «кибервойной». Цифровизация повседневной жизни создает впечатление новых возможностей для насилия, на самом деле лишь немного усиливая кого-либо другого, кроме технологических гигантов, что владеют новой инфраструктурой и контролируют ее. Это выливается не столько в физические столкновения, сколько в повышенное нервное напряжение.

Сеть Интернет оказалась отличным орудием саботажа. Она обеспечивает нас инструментами, позволяющими атаковать друг друга словесно и эмоционально, и помогает политическим нарушителям ломать статус-кво. Многие традиционные отрасли оказываются из-за нее не у дел либо в полной зависимости от инфраструктуры, предоставляемой компаниями вроде Amazon и Facebook. Не имея права голоса в принятии решений о направлениях деятельности или управлении этими инфраструктурами, пользователям остается только по мере возможности злоупотреблять ими, а не улучшать и защищать. Это контрастирует с эпохой Просвещения XVIII века, где протагонисты интеллектуальной и политической сферы общественной жизни всегда были отчасти заинтересованы в защите ее институтов, таких как свобода печати и научные дебаты.

Сеть Интернет предлагает нам вместо общества набор игр в войну для развлечения, дружбы, удобства или чтобы спустить эмоциональный пар. Вызывает беспокойство наличие в списке игр демократии, а некоторые «игроки» имеют возможность приобрести более мощное оружие, чем все мы. Грань между политикой и насилием размывается по мере того, как целью дискуссий становится причинить эмоциональные страдания и расшатать согласие. Нередко бывает увлекательно наблюдать, как «элиты» оказываются повержены потому, что они недооценили сочетание возмущения бессильных и насилия со стороны новых вычислительных инструментов в действии. Но деление между «миром» и «войной», которое было центральной опорой политической философии Гоббса, при этом становится слабее.

Глава 8. Между миром и войной

Сопротивление новому насилию

Мы регулярно слышим о том, что элиты и эксперты утратили доверие народа. Но за этим расплывчатым утверждением теряются кое-какие изменения в том, как это доверие оказывается. По всему миру под наибольшей угрозой находится репутация организаций, чья профессиональная обязанность быть представителем общества: в первую очередь это СМИ и выборные органы[206]. Соединение правительственной и технократической власти вызывает подозрения, особенно там, где полномочия охватывают сразу ряд больших и непохожих друг на друга групп населения, как в США или Евросоюзе. Подобного рода недоверие особенно сильно проявляется в экономически стесненных регионах, иногда вплоть до неприятия представительной демократии в целом.