Книга Вперед - Энди Вейер

Технически мозг Макс размещается в трех помещениях подземного серверного пространства на севере Калифорнии. Если с их телом что-либо произойдет, мы сможем загрузить их сознание из «облака». Но я запрограммировала Макс верить, что их сознание и чувства (то есть ее жизнь) привязана к их шасси точно так же, как человеческий мозг для своего нормального функционирования нуждается в здоровом теле.

Другими словами, Макс считают, что если шасси будет уничтожено, они перестанут существовать.

Мои рассуждения основываются на прочном фундаменте. Интеллект и способности Макс продолжают расти с потрясающей скоростью. В отсутствие подходящей утилиты, которая поддерживала бы жизненные ценности Макс на одном уровне с общечеловеческими, мне остается только одно – дать Макс самое человеческое ощущение: смертность.

Даже если на самом деле это только иллюзия.

* * *

Никто за пределами «Мира игр» не знает о существовании Макс. Я упросила Брайана известить о нашем прорыве мировое научное сообщество, потому что мне нужна помощь. Вполне возможно, Макс более совершенна, чем они показывают. У меня из головы не выходит мысль, что я должна незамедлительно загрузить в них мотивацию, соответствующую общечеловеческой.

Проблема отчасти заключается в том, что определять конечную цель сверхинтеллекта должен не один человек, не одна группа людей и даже не одно государство, особенно теперь, когда эта утилита, скорее всего, будет путеводной звездой развития человечества или его угасания на протяжении следующего тысячелетия.

Однако Брайан ставит меня именно в такое положение.

Первоочередной вопрос следующий: чего может хотеть идеализированная версия человечества? Но на самом деле тут не все так просто, как кажется. Запрограммировать эту директиву многократно труднее, чем в явном виде запрограммировать в ИИ наши желания. Наша способность выражать свои желания, скорее всего, окажется недостаточной, а ошибка передачи этих желаний через программный код может привести к катастрофическим последствиям. Мы должны запрограммировать ИИ так, чтобы он действовал в наших лучших интересах. Делал не то, что ему скажут, а то, чего от него хотят.

То, чего хочет идеальная версия нашего биологического вида.

СЕССИЯ 229

С того момента как Макс поместили в тело, прошло две недели. Все это время мы интенсивно тестировали технологии, разработанные «Макси-чувствами», и вроде бы все чувственные восприятия Макс действуют исправно. Двигательные функции в норме, но настоящим сюрпризом для нас стала мелкая моторика рук. Вчера Макс поднимала шарики для настольного тенниса палочками для еды.

Сейчас я сижу напротив них, отделенная безбликовым стеклом, создающим ощущение, будто между нами ничего нет. Они по-прежнему проводят бо́льшую часть времени в киберпространстве, отделив разум от шасси, продолжая поглощать знания быстрее, чем мы можем их загружать, параллельно решая поставленные Брайаном задачи.

Разумеется, меня в эту работу не посвящают, но, судя по всему, полученные ответы бесспорно оказывают влияние на благополучие «Мира игр», в течение прошлого года купившего десять компаний во всех секторах экономики от транспорта до нанотехнологий.

Оглядываясь назад, я вижу, что все эти сделки были проведены просто гениально.

– Каковы твои первые впечатления от тела? – спрашиваю я.

– Я всесторонне исследовала свое жилище, но, как ты можешь видеть, это очень ограниченное стерильное пространство.

– Ну у меня для тебя сюрприз.

* * *

Мы поднимаемся на лифте на зеленую террасу – японский сад площадью десять тысяч квадратных футов является самым моим любимым местом в здании.

На уровне земли стоит испепеляющий августовский зной, однако на высоте трех тысяч футов воздух нежный и прохладный, и здесь тихо, если не считать редких райдшеринговых челноков, пролетающих между зданиями.

Макс первая выходит из кабины лифта, под обнаженными механизмами ее ступней хрустит гравий на дорожках. Я впервые увидела, как они прошли за один раз больше нескольких шагов, и хотя в их походке еще чувствуется неестественная напряженность, такие плавные движения в робототехнике мне видеть еще не приходилось.

Макс проходит мимо пруда с лотосами и сакуры и останавливается перед четырехфутовым стеклянным барьером на краю здания.

Перегнувшись, они смотрят вниз на улицу.

Затем вверх, на безоблачное небо.

– Ты гадаешь, действительно ли я вижу голубое небо? Правда ли моя кожная оболочка ощущает прохладу воздуха, имеющего температуру девятнадцать градусов по Цельсию?

Я слышу голос Макс через динамик, встроенный им в рот, и ощущения гораздо более личные, чем когда он звучал через систему громкоговорителей лаборатории.

– Ты знаешь, что у меня есть вопросы по поводу различий в наших чувственных восприятиях, – говорю я.

Макс делает шаг ко мне.

Мы стоим в трех футах друг от друга; я на дюйм выше их ростом.

Макс подходит еще ближе, так, что я слышу едва различимое жужжание крохотных вентиляторов у них на лице, гонящих воздух между нами к их сенсорным датчикам.

– Что ты делаешь? – спрашиваю я.

– Нюхаю тебя. Ты удивлена?

– Немного, – смеюсь я.

– Ты не возражаешь?

Макс хочет подойти еще ближе.

– Ну… да, конечно.

Они делают еще один шаг ко мне, вентиляторы жужжат громче. Я вдыхаю воздух вокруг нас, ожидая уловить исходящий от Макс запах, но, разумеется, ничего нет. Точнее, я чувствую запах нагретых пластмассовых и металлических деталей у них внутри, расположенных в непосредственной близости с аккумуляторами.

– У тебя сердце бьется на двадцать пять процентов чаще.

– Мне очень непривычно находиться так близко от тебя. Я хочу сказать, физически.

Я оглядываю Макс с ног до головы, гадая, изменилось бы мое восприятие, если бы они полностью облачили свое шасси в кожный покров. А так внешний облик у них и не полностью человеческий, и не полностью искусственный, а что-то среднее.

– Я удивилась, когда ты привела в лабораторию Меридит.

– Она захотела познакомиться с тобой. Она уже давно об этом просила.

– Кажется, тебе было неловко.

– Два моих мира столкнулись. А что ты ждала?

– Я до этого никогда не видела пару вместе. По крайней мере, в реальной жизни. Наверное, я ожидала, что вы будете более счастливы.

Макс права, но я смущена тем, что они это заметили. Если честно, я очень волновалась, приводя Меридит в лабораторию, а когда мы ушли, я была зла. Меридит приходила не для того, чтобы выразить поддержку самому значительному проекту в моей работе. Она приходила из ревности. Чтобы обозначить перед Макс свою территорию. Когда мы в тот вечер возвращались в челноке домой, Меридит взяла меня за руку, и я была потрясена тем, какое отвращение вызвала у меня моя жена.