Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

страх перед компьютерными сетями заключается в том, что их несовпадающие цели могут причинить ужасные страдания людям и, возможно, другим разумным существам, то утилитарное решение кажется очевидным и привлекательным. Создавая компьютерную сеть, мы просто должны проинструктировать ее, чтобы она минимизировала страдания и максимизировала счастье. Если бы Facebook сказал своим алгоритмам "максимизировать счастье" вместо "максимизировать вовлеченность пользователей", все якобы было бы хорошо. Стоит отметить, что этот утилитарный подход действительно популярен в Кремниевой долине, в частности, его отстаивает движение за эффективный альтруизм38.

К сожалению, как и в случае с решением деонтологов, то, что звучит просто в теоретической области философии, становится чудовищно сложным в практической области истории. Проблема утилитаристов заключается в том, что мы не владеем исчислением страданий. Мы не знаем, сколько "очков страдания" или "очков счастья" нужно присвоить конкретным событиям, поэтому в сложных исторических ситуациях крайне сложно подсчитать, увеличивает или уменьшает то или иное действие общее количество страданий в мире.

Утилитаризм лучше всего проявляет себя в ситуациях, когда весы страданий очень четко склоняются в одну сторону. При столкновении с Эйхманом утилитаристам не нужно вступать в сложные споры об идентичности. Им достаточно указать на то, что Холокост причинил огромные страдания евреям, не принеся эквивалентных выгод никому другому, включая немцев. У немцев не было никакой убедительной военной или экономической необходимости убивать миллионы евреев. Утилитарные аргументы против Холокоста просто ошеломляют.

Утилитаристы также не знают себе равных, когда речь идет о "преступлениях без жертв", таких как гомосексуальность, в которых страдает только одна сторона. На протяжении веков преследование гомосексуалистов причиняло им огромные страдания, но, тем не менее, оправдывалось различными предрассудками, которые ошибочно выдавались за деонтологические универсальные правила. Кант, например, осуждал гомосексуальность на том основании, что она "противоречит естественному инстинкту и животной природе" и, следовательно, унижает человека "до уровня животных". Кант также утверждал, что, поскольку такие действия противоречат природе, они "делают человека недостойным своей человечности. Он больше не заслуживает быть человеком". Кант, по сути, превратил христианский предрассудок в якобы универсальное деонтологическое правило, не предоставив эмпирических доказательств того, что гомосексуальность действительно противоречит природе. В свете вышеизложенного обсуждения дегуманизации как прелюдии к массовому убийству следует отметить, как Кант дегуманизировал геев. Мнение о том, что гомосексуальность противоречит природе и лишает людей человечности, позволило нацистам вроде Эйхмана оправдать убийства гомосексуалов в концлагерях. Поскольку гомосексуалисты якобы находятся ниже уровня животных, кантовское правило, запрещающее убивать людей, на них не распространяется.

Утилитаристы легко отвергают сексуальные теории Канта, и Бентам действительно был одним из первых современных европейских мыслителей, выступавших за декриминализацию гомосексуальности. Утилитаристы утверждают, что криминализация гомосексуальности во имя какого-то сомнительного универсального правила причиняет огромные страдания миллионам людей, не принося при этом никакой существенной пользы другим. Когда двое мужчин вступают в любовные отношения, это делает их счастливыми, не делая несчастными никого другого. Зачем же тогда запрещать это? Подобная утилитарная логика привела и ко многим другим современным реформам, таким как запрет на пытки и введение некоторых видов правовой защиты животных.

Но в исторических ситуациях, когда чаша весов страданий оказывается более равной, утилитаризм дает сбой. В первые дни пандемии COVID-19 правительства по всему миру приняли жесткую политику социальной изоляции и изоляции. Это, вероятно, спасло жизни нескольким миллионам человек. А также сделало сотни миллионов несчастными на несколько месяцев. Более того, это могло стать косвенной причиной множества смертей, например, увеличив число случаев насилия в семье или затруднив диагностику и лечение других опасных заболеваний, например рака. Может ли кто-нибудь подсчитать общее воздействие политики изоляции и определить, увеличили или уменьшили они страдания в мире?

Это может показаться идеальной задачей для неумолимой компьютерной сети. Но как компьютерная сеть решит, сколько "очков страданий" нужно начислять за то, что вас с тремя детьми заперли в двухкомнатной квартире на месяц? 60 очков страданий или 600? А сколько очков начислять больному раком, который умер, потому что пропустил курс химиотерапии? Это 60 000 очков страданий или 600 000? А что, если она все равно умерла бы от рака, а химиотерапия лишь продлила бы ее жизнь на пять мучительных месяцев? Должны ли компьютеры оценивать пять месяцев жизни с сильной болью как чистый выигрыш или чистый проигрыш для общей суммы страданий в мире?

А как компьютерная сеть оценит страдания, вызванные менее осязаемыми вещами, такими как осознание собственной смертности? Если религиозный миф обещает нам, что на самом деле мы никогда не умрем, потому что после смерти наша вечная душа отправится на небеса, делает ли это нас по-настоящему счастливыми или просто заблуждениями? Является ли смерть глубинной причиной наших страданий, или же наши страдания проистекают из наших попыток отрицать смерть? Если кто-то теряет свою религиозную веру и смиряется со своей смертностью, должна ли компьютерная сеть рассматривать это как чистую потерю или как чистый выигрыш?

А как насчет еще более сложных исторических событий, таких как американское вторжение в Ирак? Американцы прекрасно понимали, что их вторжение приведет к огромным страданиям миллионов людей. Но в долгосрочной перспективе, утверждали они, выгоды от установления свободы и демократии в Ираке перевесят затраты. Может ли компьютерная сеть вычислить, насколько обоснован этот аргумент? Даже если теоретически он был правдоподобен, на практике американцам не удалось установить в Ираке стабильную демократию. Значит ли это, что их попытка была изначально ошибочной?

Как деонтологи, пытающиеся ответить на вопрос об идентичности, вынуждены принимать утилитарные идеи, так и утилитаристы, запутавшиеся в отсутствии исчисления страданий, часто занимают позицию деонтологов. Они поддерживают общие правила вроде "избегать агрессивных войн" или "защищать права человека", хотя и не могут показать, что следование этим правилам всегда уменьшает общее количество страданий в мире. История дает им лишь смутное представление о том, что следование этим правилам, как правило, уменьшает страдания. А когда некоторые из этих общих правил вступают в противоречие - например, при рассмотрении вопроса о развязывании агрессивной войны для защиты прав человека, - утилитаризм не предлагает большой практической помощи. Даже самая мощная компьютерная сеть не сможет произвести необходимые расчеты.

Соответственно, хотя утилитаризм обещает рациональный - и даже математический - способ согласования каждого действия с "высшим благом", на практике он вполне может породить очередную мифологию. Верующие коммунисты, столкнувшись с ужасами сталинизма, часто отвечали, что счастье, которое испытают будущие поколения при "настоящем социализме", искупит любые кратковременные страдания в ГУЛАГе. Либертарианцы, когда их спрашивают о непосредственном социальном вреде неограниченной свободы слова или полной отмены налогов, выражают аналогичную веру в то, что будущие блага перевесят любой краткосрочный ущерб. Опасность