Книга К свету - Дэвид Вебер

Некоторые из этих решений - многие из этих решений - могут быть автоматизированы, но в этом смысле они на самом деле не столько "решения", сколько автоматические реакции, которые программисты встроили в систему. Компьютеру все равно, что он делает. Он просто делает то, что ему было сказано делать на каждом шагу и в ответ на распознанные результаты предыдущих шагов, либо посредством своего внутреннего программирования, либо в результате ввода текста или устной информации от человека-оператора.

- Однако третья волна искусственного интеллекта, на которую DARPA и немало других людей начали обращать внимание еще до вторжения, была разработана для применения к компьютерам реальных рассуждений и принятия решений. Чтобы позволить им функционировать независимо от принятия решений человеком. Чтобы - возвращаясь к моему предыдущему примеру - создать пилотов с искусственным интеллектом, способных управлять автономными космическими кораблями между звездами, чтобы это не приходилось делать экипажам шонгейри, бартони или крепту. У них действительно есть системы для управления кораблями, пока экипажи находятся в крио, но они не автономны; они не способны думать сами, если происходит что-то неожиданное для их программирования. В этом случае они должны разбудить командный состав корабля, чтобы получить указания.

- Основываясь на нашей собственной работе, мы убеждены, что можем использовать их существующее "блестящее программное обеспечение" для создания систем искусственного интеллекта, которые действительно автономны. Смогли бы мы создать системы искусственного интеллекта, которые обладали бы самосознанием, или нет, это, конечно, другой вопрос, но мы, безусловно, должны быть в состоянии создать что-то, что дает ужасно убедительную имитацию самосознания. То есть при условии, если мы решим, что хотим этого. Существует ужасно много научной фантастики о потенциальных недостатках создания самосознающего разума, который решает, что ему не нравится выполнять приказы своих создателей. - Ее губы на мгновение изогнулись в усмешке, но затем выражение ее лица снова стало серьезным. - Однако с точки зрения эффективности автономный искусственный интеллект был бы огромным мультипликатором. Несмотря на это, у Гегемонии его нет, когда, по всем человеческим стандартам и самоочевидным возможностям ее технической базы, он должен быть.

- Хмммм.... - Хауэлл задумчиво потер подбородок. - Значит, если бы мы могли использовать их технологию для создания этого вашего "ИИ третьей волны" для себя, у нас было бы преимущество? Большое?

- Очень большое, мистер президент. Но Дэмианос - доктор Карахалиос - поднимает несколько других вопросов в своем текущем отчете. Наши писатели-фантасты и довольно много серьезных ученых изучают нейронное взаимодействие уже пару десятилетий, и мы достигли этого, по крайней мере, до некоторой степени. Например, была проделана очень обнадеживающая работа с использованием компьютерных чипов, доступных для нейронов, для хранения воспоминаний пациентов с болезнью Альцгеймера. Это не то же самое, что прямая связь между мозгом и компьютером, но она движется в том же направлении, и последствия фактического достижения такого рода связи огромны. У нас был большой опыт отдачи устных команд компьютеру еще до вторжения. Это расстраивает - или это было расстраивающим - когда компьютер неправильно вас понял, может быть, из-за фонового шума, может быть, потому, что вы говорили нечетко. Но подумайте, если бы вместо этого вам пришлось физически вводить каждую команду. Даже нажатие на экран вашего айфона или гэлэкси обычно занимало больше времени, чем устная команда. Но теперь представьте, что вы могли бы отдавать команды своему компьютеру со скоростью мысли и никогда не допускать, чтобы он вас неправильно понял. Как думаете, это могло бы ... повысить вашу эффективность?

- Да, представляю, как это было бы, - медленно произнес Хауэлл.

- Конечно, это было бы так, но мы не видим никаких признаков этого в компьютерных технологиях Гегемонии. И это несмотря на то, что они овладели искусством нейронного обучения, так что у них явно есть способность отправлять чрезвычайно сложные массивы данных по крайней мере одним способом через нейронный интерфейс, и у них это было дольше, чем Земле пришлось мириться с Homo sapiens! Так почему же за все это время они не развили способность посылать мысленные команды в систему? Мы даже не видим никаких предположений о такой возможности в литературе, к которой нам пока удалось получить доступ!

- Почему нет?

- Это мы хотели бы знать, мистер президент. Но мы заметили несколько других вещей, большинство из которых, по-видимому, связаны с тем же видом ... осторожности, которая, похоже, встроена во всю промышленную базу Гегемонии. Их язык программирования рекурсивный, что означает, что функция может вызывать саму себя, и это также то, что мы могли бы назвать "типобезопасным", означающее, что он предназначен для предотвращения выполнения системой операции с переменной неправильного типа.

- Большинство человеческих языков программирования тоже предназначены для этого, но из того, что мы можем видеть, кодирование Гегемонии доводит концепции до нелепой крайности. Проверка согласованности допустимых значений и переменных встроена непосредственно в код для невероятного диапазона переменных. Например, в Гегемонии более пятисот языков, что означает, как отметил один из программистов доктора Карахалиоса, что использование языка программирования Гегемонии для написания эквивалента "Привет, мир!" для планеты, которую вы никогда раньше не посещали, или вида, на языке которого вы еще не говорили, это потребовало бы загрузки модуля на миллион строк. Их протоколы потребовали бы, чтобы модуль провел поиск по всей базе данных Гегемонии, чтобы убедиться, что мир, с которым вы разговариваете, существует - даже если вы в данный момент находитесь на орбите вокруг него - и отсортировал каждый из этих языков - каждый язык, на котором говорят где угодно во всей Гегемонии, а не только на рассматриваемой планете - и сопутствующие им социальные конструкции, чтобы быть уверенным, что "привет" - это правильное приветствие, на правильном языке, правильно написанное и с нужной пунктуацией, в данном конкретном социально-политическом контексте.

Хауэлл недоверчиво уставился на нее, и она пожала плечами.

- Это не такая уж страшная проблема, учитывая их скорость вычислений и возможности хранения. Кодовая база раздута до невероятности - исполняемый файл для "Привет, мир" был бы сотнями гигабайт, просто чтобы вместить весь багаж - и, насколько мы можем судить, их библиотеки никогда не сокращаются, но...

- Не сокращаются? - прервал ее Хауэлл.

- Нет автоматического управления памятью, того, что программист-человек назвал бы "уборкой мусора", чтобы освободить память, занятую объектами, которые программа больше не использует, мистер президент. Они просто хранят их все. Вот почему их модули такие чертовски большие. Но, несмотря на это, это заметно не замедляет вывод. Существует некоторое узкое место с точки зрения хранилища,