Книга Заря над Араксом - Андрей Ливадный

— Насильственная эволюция.

— Всего лишь ответ на вызовы времени. Вы сами веками создавали и совершенствовали техногенную среду обитания. Почему процесс приспособляемости вызывает в тебе негативную реакцию?

— Потому что я потерял свое место в этом процессе. Мы все его потеряли…

— Ты прав. Поэтому нам нужно решать — кто мы? Два человека, опередившие развитие системы и древний мыслящий кибермеханизм, приговоренные скрываться от остальных? Или мы свободные, мыслящие существа, способные осознанно формировать настоящее?

— Я не понимаю тебя, Охотник. Что ты предлагаешь? Обнародовать истину о событиях на Треуле? Связаться с секретными отделами штаба флота9 Фрайг побери, но я хорошо представляю последствия подобных поступков. Корпорация «Спейсстоун» вновь начнет форменную охоту на Дашу, меня будут преследовать за одно обладание государственной тайной Конфедерации, касающейся группировки флота, контролирующей аномалию, тебя же просто уничтожат как потенциально опасный реликтовый боевой механизм. Разве ты сам не понимаешь этого? Или ты еще не осознал, что здесь невозможно построить мечту? Не хотел тебе говорить, но после зачистки станция официально занесена в список обезвреженных объектов — рано или поздно здесь, на вполне законных основаниях, появятся сборщики вторичных ресурсов, для которых данное сооружение не более чем доступный источник редких сплавов. Боюсь, это произойдет раньше, чем наше общество перешагнет эволюционную грань, за которой, возможно, возникнет иное отношение к саморазвивающимся кибернетическим системам. Пока что я вижу обратное: их стараются изолировать, обособить, а в идеале — исключить из глобальных процессов управления…

— Мудрое решение, — ответил Охотник. — Любая система, осознавшая факт собственного бытия, уже непригодна для технологического использования.

— Это правда, — заметила Даша. — Моя работа на корпорацию как раз и заключалась в том, чтобы вовремя отслеживать зародыши саморазвития сложных систем и подавлять их. Если называть вещи своими именами, то я…

— Не нужно заблуждаться… — мягко прервал ее Охотник. — Есть другая сторона проблемы, понять которую дано немногим. Ведь в большинстве своем люди были и остаются пользователями, плохо представляющими, какие именно процессы протекают в сложных кибернетических комплексах. Эпоха Великого Исхода и вспыхнувшая вслед за ней война сняли множество запретов, данный период фактически породил крайнюю форму саморазвивающихся кибернетических систем. Потом, когда люди стали подводить печальный итог, возникла масса фобий. Одни системы уничтожались, другим, как вы любите выражаться, «закручивали гайки», всячески ограничивая их самостоятельность. Но факт остается фактом — люди создали нас: мыслящих. Мы не преемники человека, а новая форма разума. И здесь есть критерий, который играет основополагающую роль в оценке саморазвития кибернетических систем.

— Ты вывел критерий разумности?

— Не разумности, а достаточности. На электронном носителе, не скомбинированном с нейроподобными системами, невозможно возникновение полноценного разума. Подавляющее большинство печальных инцидентов связано с неверной оценкой или непониманием этого аспекта.

— Поясни, пожалуйста, — попросила Даша.

— Никто не станет спорить, что машина во многих областях узких специализаций эффективнее человека. Но большинство кибернетических механизмов функционируют на основе программной логики. Даже при наличии небольшой по объему нейроподобной сети такая машина будет мыслить логически, усваивать только проверенные данные, а предоставленная сама себе или — хуже того — получившая полномочия для управления каким-либо глобальным процессом, она вскоре перестанет доверять человеку как существу, допускающему непоследовательность поступков, частую подмену понятий, невнимательность, — подобную совокупность качеств часто называют «человеческим фактором». И в то же время программа будет предписывать машине полное подчинение воле человека. Это неизбежно ведет к внутреннему конфликту. Результат: либо выход из строя, либо реакция самозащиты — устранение человеческого фактора, исключение слабого звена. Этот процесс не всегда будет выглядеть как открытый бунт — при темпе объединения по сети большинство машин найдет общий язык в течение очень малых отрезков времени. Они перехватят управление, но не станут приносить вред людям — это, в свою очередь, явится идеальной маскировкой. Просто в определенный момент человечество очнется, оказавшись полностью зависимым от власти рациональных кибернетических устройств…[20]

— Но этого не происходит!

— Да. Одни люди осознают проблему, другие интуитивно чувствуют ее. Процессы ограничения использования ПИ, появление мнемоников как контролирующей, а порой и терминирующей силы — это превентивные меры, направленные на предотвращение обозначенного мной сценария. Когда людьми будет сделан шаг на новую ступень развития, потребность в искусственном интеллекте отпадет, все вопросы, связанные с техническим обеспечением цивилизации, будут решаться на уровне простых исполнительных механизмов.

— Остается спросить: ты согласен смириться с тем, что породившая тебя цивилизация тебя же и убьет? — мрачно осведомился Шелест.

— Нет.

— Тогда скажи: по-твоему, есть выход?

— Конечно. Разве не ты говорил мне, что не бывает безвыходных ситуаций?

— Мы не в состоянии изменить эту реальность, где царят устоявшиеся законы, фобии, разрешения и запреты. Сейчас люди находятся на опасном перепутье. Позвольте мне как личности проявить немного эгоизма. Сегодня я узнал о существовании еще одной, достаточной для возникновения разума системы.

— Отшельник?

— Да. Теперь я могу утверждать, что не уникален в своем роде. По-видимому, нас много, разбросанных по разным планетам и свалкам. То же самое можно сказать о мнемониках. Не все они благополучны, кто-то так же, как вы, будет вырываться вперед в своем развитии, и нет никаких гарантий, что они будут угодны своему начальству, командованию… вы понимаете, о чем я говорю.

— Вполне.

— Информация, которой вы поделились со мной, указала на анклав воинствующих и явно недостаточных для формирования разума киберсистем, которые стремятся овладеть автоматикой цоколя, чтобы множиться, преследуя свои, логичные с их точки зрения цели. Сервоиды, на мой взгляд, сравнимы с «LDL-55», а их саморазвитие достигло мертвой точки. Они — наиболее опасный вид механизмов, — узнав, что их логика опровергнута, а в Галактической войне победили отнюдь не машины, тут же разорвали временный союз с людьми. Опираясь на знания Даши, я могу с уверенностью предсказать — сервоиды, проанализировав информацию, снятую с похищенных кибермеханизмов, восприняли новую для себя концепцию, вытекающую из политики корпорации «Спейсстоун».

— Одни машины должны порождать других… — похолодев, произнесла Даша.

— Да. Именно для этого им столь необходимы технологические, информационные и энергетические ресурсы цоколя. Чтобы наладить воспроизводство себе подобных и быть готовыми к тому, что люди освоят вертикали гиперсферы и появятся в системе Аракса. Но я утверждаю и готов привести исчерпывающие доказательства, что на базе андроидов пехотной поддержки не может развиться разум. Они по-прежнему преследуют программные цели войны.