Книга Формула Бога. Эволюция религии, культуры и этики в эпоху технологической сингулярности и бессмертия - Александр Плющенко

Еще один из перспективных подходов – это автомат из ячеек квантовых точек, которые представляют собой мельчайший полупроводниковый прибор, способный действовать как транзистор и очень быстро переключаться. При объединении четырех квантовых точек в квадрат можно получить ячейку квантовых точек, способную хранить один бит информации.

Новое тело тоже можно будет конструировать с расчетом на адаптацию к модели мозга, основываясь на последних достижениях в области протезирования и создании интерфейсов. При наличии достаточных вычислительных ресурсов цифровое общество может жить на скоростях, значительно превышающих течение жизни в реальном мире. Такие скоростные алгоритмы могут добавить значительную динамику в прогресс человеческой жизни.

После создания искусственного интеллекта человеческого уровня почти неизбежно произойдет его быстрый переход к сверхчеловеческому искусственному интеллекту (ИИ). Реализованный на синтетической основе ИИ человеческого уровня окажется более восприимчив к улучшению, чем биологический мозг, которому мешают метаболизм, низкая скорость, потребность в сне. Такой интеллект можно заставить работать над самоусовершенствованием, что инициирует более эффективный цикл обратной связи и взрывное развитие возможностей ИИ с непредсказуемыми последствиями.

Пространство возможных искусственных интеллектов может оказаться очень разнообразным, и вполне вероятно, что биологические формы займут в нем лишь небольшую нишу. Более того, целеполагание отдельного ИИ может оказаться совершенно непостижимым для обычных людей.

Элементы искусственного интеллекта уже сейчас используются личными помощниками, с которыми мы общаемся посредством гаджетов (Siri, GoogleNow). Эти мобильные приложения не занимаются сенсомоторным взаимодействием с окружающей средой, а их вычислительные мощности и память размещены в цифровом облаке. Такой помощник постоянно совершенствуется в распознавании речи и понимании желаний пользователя.

Главным недостатком личных помощников является отсутствие реального знания о мире, несмотря на их удивительную способность отвечать на самые сложные вопросы. Хотя, признаться, некоторые вопросы на теологические темы завели мою Siri в тупик.

Прежде всего, у электронных помощников отсутствует практическое понимание природы твердых тел и пространственных отношений.

Глубина понимания человеком повседневной физики и психологии основывается на владении рядом абстрактных фундаментальных понятий. Более того, люди способны усваивать совершенно новые абстрактные понятия, у которых даже нет прецедентов в нашем эволюционном прошлом.

Мюррей Шанахан отмечал, что «задача обучения умению прогнозировать входящую информацию для построения модели окружающего мира подразумевает поиск способов сжатия данных, чтобы снизить размерность, – например, путем их описания в терминах понятий и категорий, таких как животное или человек».

После построения таблицы повторяющихся низкоуровневых особенностей можно применить алгоритм для определения связей между ними и выявления особенностей более высокого уровня. Такой многоуровневый подход лежит в основе «глубинного обучения».

ИИ должен уметь планировать последовательность операций, что подразумевает владение определенными видами оптимизации, которая занимает центральное место в современном проектировании универсального искусственного интеллекта.

Задачу максимизации ожидаемой выгоды путем выполнения различных операций в разных ситуациях с целью найти самую эффективную исследователи ИИ называют обучением с подкреплением.

Рассуждая об ИИ человеческого уровня, необходимо ответить на три основных вопроса: какова функция подкрепления; как происходит его обучение; как ИИ оптимизирует ожидаемую выгоду. Аналогичные вопросы возникают и к Homo sapiens.

Во-первых, у человека примерно такая же базовая функция подкрепления, что и у других животных, и она универсальна: любую интеллектуальную проблему теоретически можно представить человеку в виде задачи получения пищи или секса. Но очень важно отметить, что люди могут радикально менять свои функции подкрепления. Об этом говорит Мюррей в «Технологической сингулярности».

Непрерывное накопление когнитивного опыта с детских лет вкупе со сложными социальными стимулами и ожиданиями способно приводить к очевидным разрывам между функцией подкрепления и биологической основой. Более того, часть сущности человека заключается в способности выйти за рамки биологических ограничений. Иногда наши мотивы действительно основаны на понятии качества жизни и становятся самодостаточными, не являясь суррогатом получения пищи, уклонения от опасности или чего-либо еще, имеющего очевидную эволюционную ценность.

Во-вторых, такие человеческие способности, как обучение и познание мира, основаны на возможности общаться. Именно благодаря языку мы можем рефлектировать и рассуждать о философии, природе и литературе.

В-третьих, максимизация ожидаемой выгоды для человека обусловлена окружающим обществом, культурой и языком. Каждое последующее поколение использует достижения предыдущих поколений, и, соответственно, способности к оптимизации отдельного человека ориентированы на максимизацию выгоды для общества.

В отличие от биологического мозга, ИИ можно копировать неограниченное количество раз и значительно ускорять его работу.

Для создания универсального ИИ необходимо выполнение трех базовых условий:

– создание правильной функции подкрепления;

– реализация эффективной методики обучения для построения модели окружающего мира;

– развертывание метода оптимизации, обеспечивающего максимизацию ожидаемого выигрыша при заданной модели обучения.

С алгоритмической точки зрения эволюционный естественный отбор включает процессы размножения, изменчивости и конкуренции, повторяющиеся огромное количество раз. С точки зрения вычислений в процессе естественного отбора используется массовый параллелизм на протяжении очень длительного времени.

Мюррей Шанахан писал: «Хотя эволюцию можно рассматривать как побочный продукт конкуренции множества генов, стремящихся максимизировать свое распространение, у нее нет глобальной функции затрат или функции полезности, которая направляла бы развитие». Несмотря на отсутствие направления и относительную простоту, «эволюция создала решения задач, достойных любого универсального интеллекта, таких как сохранение солнечной энергии и полет объектов тяжелее воздуха». По этой причине изобретательность может возникнуть в процессе оптимизации, но только при наличии исходных элементов, которые должны быть способны к открытой рекомбинации – должна присутствовать возможность собирать их в разных вариантах для получения неограниченного количества возможных творений. Для изобретательности в процессе оптимизации также необходима универсальная функция подкрепления. Стоит подчеркнуть, что если условия функции подкрепления слишком легко удовлетворяются, то это не способствует развитию инноваций.

Шанахан настаивает и на том, что для проявления изобретательности необходим достаточно мощный алгоритм оптимизации: «Наличие универсальной функции подкрепления и использование исходных элементов, поддерживающих открытую рекомбинацию, не даст заслуживающего внимания результата, если алгоритм оптимизации ограничивается небольшой неоднократно проверенной частью пространства возможностей». Более того, он считает, что «если создать правильный простой лобовой алгоритм оптимизации, оснастить его открытой функцией подкрепления и выпустить в среду с достаточными комбинаторными возможностями, то единственной вещью, ограничивающей его возможности, будут вычислительные ресурсы».