Книга Нервные государства - Уильям Дэвис

Разделение между крупными городами и сельской местностью играет центральную роль в культурных и политических конфликтах, что преображают демократии по всему миру. Хотя экономические факторы тут важны (основные мегаполисы стали точками роста, в то время как маленькие города и села страдают), но существенно более важен разрыв в представительстве. Слишком часто люди из сообществ, расположенных вдалеке от столиц, сталкивались с отношением, будто с ними не о чем говорить. Их знания и культура не ценились крупными СМИ, университетами или экспертными сообществами, а скорее наоборот, провинция была пассивным получателем подачек и информации. Экологические происшествия времен расцвета антропоцена теоретически способны это изменить: те, кто живет и работает вплотную к природе, не копят факты и теории о ней на расстоянии, но обладают навыками, ценность которых может возрастать по мере того, как природа создает все больше политических проблем. Аналогично «гражданской науке», применение не экспертного знания, разбросанного среди сельского населения, будет не только необходимо, но и политически выгодно.

Что в первую очередь позволяет военный склад ума, помимо агрессивных технологий и стратегий, так это скорость ответа. Потребность, которую популисты стремятся, а технократы не способны удовлетворить, являет собой нужду в действиях, которые предпринимаются незамедлительно, а не потом, когда будут собраны все свидетельства. Согласно наблюдениям бывшей сотрудницы Пентагона Розы Брукс, одной из причин, по которой военные все дальше запускают свои щупальца в законодательство США, является то, что «американцы все чаще воспринимают военных как универсальный инструмент для починки всего, что оказывается сломано»[221]. Проблема исправления насильственных и взаимно разрушительных отношений с окружающей природой обладает уникальной исторической важностью. Кто бы ни взялся за ее решение, даже не имея отношения к военным, им придется стать чем-то, по множеству характеристик на них похожим.

Культура обещаний

Благодаря стремительному прогрессу «нейросетевых» алгоритмов искусственного интеллекта (или машинного обучения), сегодня мы стоим перед вероятной перспективой того, что компьютеры сравняются по возможностям с человеческим разумом. Сегодня это, пожалуй, самая неприятная перспектива для экспертов, ввиду устаревания широкого набора «беловоротничковых» и наукоемких рабочих мест. Профессиональная деятельность журналистов, юристов, бухгалтеров и архитекторов уже находится под угрозой автоматизации, коль скоро машинное обучение становится все более сложным, отчасти благодаря огромным массивам производимых нами данных. Риски по части национальной безопасности и финансовой стабильности все чаще соизмеряются посредством аналитики данных.

Отчасти неприязнь в отношении профессиональных кадров и высокообразованных элит основывается на впечатлении, что их высокооплачиваемые услуги защищены от потрясений, связанных с технологическими переменами, с помощью некого картельного сговора, но подобные привилегии не вечны. Одного взгляда на сводку новостей по теме надвигающейся революции роботизации достаточно, чтобы предположить, что эксперты и профессионалы могут стать больше не нужны. Довольно сложно претендовать на авторитет в обществе, опираясь на свои знания, когда машины обладают гораздо большим объемом информации и несравнимо более высокой скоростью ее обработки. Пройдет не очень много времени, и мы начнем опасаться, что компьютеры станут в точности имитировать мимику и поведение человека, при этом являясь его намного более совершенной альтернативой. Страх перед роботами всегда двойственен, предполагая и полное их сходство с нами, и невероятную разницу. Что у нас осталось свойственного нам, как виду?

Существует одна проблема, что стоит перед человечеством и, вероятно, никогда от него не уйдет, к которой компьютеры не имеют никакого отношения: как давать обещания. Эта проблема доставила Гоббсу больше всего тревог в том, что касается людей в «природном состоянии». Он опасался, что, хотя для всех было бы лучше всегда сдерживать свои обещания друг перед другом, не будет возможности проверить, так ли все поступают. Одних лишь слов для этого недостаточно. Насилие быстро вернется, сетовал он, если только какая-нибудь могучая третья сторона – современное государство – не обеспечила бы набор правил, насаждаемых силой, которые позволили бы обещаниям (как то контрактам) быть надежными. В 1880-х годах с этим соглашался, пусть и с налетом цинизма, философ Фридрих Ницше, который писал:

«Выдрессировать животное, смеющее обещать, – не есть ли это как раз та парадоксальная задача, которую поставила себе природа относительно человека? Не есть ли это собственно проблема человека?»[222]

Несмотря на пессимизм Гоббса или сарказм Ницше, акт обещания обладает уникальным, почти волшебным свойством. Будучи данным ребенку или любимому человеку, или заявленным перед публикой, оно обладает особенной обязывающей силой. Не то чтобы его нельзя было нарушить, но такой шаг воспринимается как определенного рода нарушение, способное оставить эмоциональные и культурные раны.

Экспертные сообщества, образовавшиеся при жизни Гоббса, на деле были лишь очередным решением диагностированной им проблемы. Самым важным для публичного статуса счетоводов, естествоиспытателей, статистиков, журналистов и анатомов являлось то, что они давали обещания исходя из увиденного, пользуясь стандартизованными методиками ведения записей и отчетности. Мы подвержены влиянию героических историй об одиноких гениях, но ключевую роль в научной революции сыграло институционное новшество, позволившее судить о свидетельствах и доводах исходя из характеристик, согласованных определенными правилами, а не морального облика того, кто их предоставляет. Результатом было знание, но необходимым условием являлась система доверия. Достижение таких организаций, как Лондонское королевское общество, состояло в формировании культуры давания и сдерживания обещаний среди избранной группы участников, а затем сообщения и обнародования достоверной информации об этом.

Способен ли компьютер дать обещание? Это интригующий философский вопрос. Если бы в «Google DeepMind» взяли данные о 100 млн сделанных кем-то «обещаний» (каких-нибудь юридических контрактов, неформальных соглашений по электронной почте, видеозаписи с «деловыми рукопожатиями» или друзьями, обещающими быть где-то в условленное время) и подали бы это на вход ИИ, что бы тот с ними сделал? Понял ли бы? В каком-то смысле, да. Несомненно, рукопожатия, подписи на контрактах и телесные признаки искренности несложно «изучить». Но что потом? В отличие от игры в состязание, где стоит задача превзойти оппонента, обещание предполагает единовременный прыжок веры, не обоснованный стратегическими вычислениями или проницательностью. Выражаясь иначе, обещание, которое целиком можно свести к стратегическим вычислениям или проницательности, в сущности, таковым не является. По этой причине трудно представить, чтобы компьютер когда-нибудь в самом деле научился давать обещания.