Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

будет посылать роботов-убийц, чтобы расстрелять нас. Они смогут манипулировать человеческими существами, чтобы нажать на курок.

Страх перед мощными компьютерами преследует человечество только с началом компьютерной эры в середине двадцатого века. Но на протяжении тысячелетий людей преследовал гораздо более глубокий страх. Мы всегда ценили способность историй и образов манипулировать нашим сознанием и создавать иллюзии. Поэтому с древних времен люди боялись оказаться в ловушке мира иллюзий. В Древней Греции Платон рассказал знаменитую аллегорию пещеры, в которой группа людей всю жизнь находится в пещере, прикованная к глухой стене. Экран. На этот экран проецируются различные тени. Пленники принимают иллюзии, которые они видят, за реальность. В Древней Индии буддийские и индуистские мудрецы утверждали, что все люди живут в ловушке майи - мира иллюзий. То, что мы обычно принимаем за "реальность", часто оказывается лишь выдумкой в нашем собственном сознании. Люди могут вести целые войны, убивая других и желая быть убитыми сами, из-за своей веры в ту или иную иллюзию. В XVII веке Рене Декарт опасался, что, возможно, злобный демон запер его в мире иллюзий, создав все, что он видит и слышит. Компьютерная революция ставит нас лицом к лицу с пещерой Платона, с Майей, с демоном Декарта.

То, что вы только что прочитали, возможно, встревожило вас или возмутило. Возможно, вы разозлились на людей, возглавляющих компьютерную революцию, и на правительства, неспособные ее регулировать. Может быть, вы разозлились на меня, решив, что я искажаю реальность, проявляю алармизм и ввожу вас в заблуждение. Но что бы вы ни думали, предыдущие абзацы могли оказать на вас определенное эмоциональное воздействие. Я рассказал историю, и эта история может изменить ваше мнение о некоторых вещах и даже заставить вас предпринять определенные действия в этом мире. Кто создал эту историю, которую вы только что прочитали?

Я обещаю вам, что написал этот текст сам, с помощью других людей. Я обещаю вам, что это культурный продукт человеческого разума. Но можете ли вы быть в этом абсолютно уверены? Несколько лет назад могли. До 2020-х годов на Земле не существовало ничего, кроме человеческого разума, способного создавать сложные тексты. Сегодня все иначе. Теоретически текст, который вы только что прочитали, мог быть создан инопланетным интеллектом какого-нибудь компьютера.

 

КАКОВЫ ПОСЛЕДСТВИЯ?

По мере того как компьютеры будут набирать силу, вполне вероятно, что возникнет совершенно новая информационная сеть. Конечно, не все будет новым. По крайней мере, в течение некоторого времени большинство старых информационных цепочек сохранится. В сети по-прежнему будут существовать цепочки "человек-человек", например семьи, и "человек-документ", например церкви. Но в сети все чаще будут появляться два новых вида цепочек.

Во-первых, цепочки "компьютер-человек", в которых компьютеры выступают посредниками между людьми, а иногда и управляют ими. Facebook и TikTok - два знакомых примера. Эти цепочки "компьютер-человек" отличаются от традиционных цепочек "человек-документ", потому что компьютеры могут использовать свою силу для принятия решений, создания идей и глубокой подделки близости, чтобы влиять на людей так, как никогда не сможет сделать ни один документ. Библия оказала глубокое влияние на миллиарды людей, несмотря на то что это был немой документ. А теперь попробуйте представить себе влияние священной книги, которая не только умеет говорить и слушать, но и может узнать ваши самые сокровенные страхи и надежды и постоянно подстраиваться под них.

Во-вторых, появляются цепочки "компьютер-компьютер", в которых компьютеры взаимодействуют друг с другом сами по себе. Люди исключены из этих циклов и даже не могут понять, что в них происходит. Например, компания Google Brain провела эксперимент с новыми методами шифрования, разработанными компьютерами. Он поставил эксперимент, в котором два компьютера по прозвищу Алиса и Боб должны были обмениваться зашифрованными сообщениями, а третий компьютер по имени Ева пытался взломать их шифр. Если Eve взламывал шифр за определенный промежуток времени, он получал очки. В случае неудачи очки получали Алиса и Боб. После примерно пятнадцати тысяч обменов Алиса и Боб выработали секретный код, который Ева не смогла взломать. Очень важно, что инженеры Google, проводившие эксперимент, ничего не рассказывали Алисе и Бобу о том, как шифровать сообщения. Компьютеры сами создали секретный язык.

Подобные вещи уже происходят в мире за пределами исследовательских лабораторий. Например, валютный рынок (форекс) - это глобальный рынок обмена иностранными валютами, и он определяет обменные курсы, скажем, между евро и долларом США. В апреле 2022 года объем торгов на форексе составлял в среднем 7,5 триллиона долларов в день. Более 90 процентов этих торгов уже совершается компьютерами, которые напрямую общаются с другими компьютерами. Сколько людей знают, как работает рынок Форекс, не говоря уже о том, чтобы понять, как компьютеры договариваются между собой о сделках на триллионы долларов и о стоимости евро и доллара?

В обозримом будущем новая компьютерная сеть все еще будет включать миллиарды людей, но мы, возможно, станем меньшинством. Ведь в эту сеть также войдут миллиарды - возможно, даже сотни миллиардов - сверхразумных инопланетных агентов. Эта сеть будет радикально отличаться от всего, что существовало ранее в истории человечества или вообще в истории жизни на Земле. С тех пор как жизнь впервые появилась на нашей планете около четырех миллиардов лет назад, все информационные сети были органическими. Человеческие сети, такие как церкви и империи, также были органическими. У них было много общего с предыдущими органическими сетями, такими как волчьи стаи. Все они вращались вокруг традиционных биологических драм - хищничества, размножения, соперничества братьев и сестер и романтических треугольников. Информационная сеть, в которой доминируют неорганические компьютеры, будет отличаться от них так, что мы даже не можем себе представить. Ведь наше воображение, как и человеческое, тоже является продуктом органической биохимии и не может выйти за рамки запрограммированных биологических драм.

Прошло всего восемьдесят лет с тех пор, как были созданы первые цифровые компьютеры. Темпы изменений постоянно ускоряются, и мы еще не исчерпали весь потенциал компьютеров.44 Они могут развиваться еще миллионы лет, и то, что произошло за последние восемьдесят лет, - ничто по сравнению с тем, что нас ждет впереди. В качестве грубой аналогии представьте, что мы находимся в древней Месопотамии, через восемьдесят лет после того, как первый человек додумался использовать палочку для нанесения знаков на кусок влажной глины. Могли ли мы в тот момент представить себе Александрийскую библиотеку, мощь Библии или архивы НКВД? Даже эта аналогия сильно недооценивает потенциал будущей компьютерной эволюции. Представьте себе, что прошло уже восемьдесят лет с тех пор, как первые самовоспроизводящиеся линии генетического кода появились из органического