Книга Вычислительная машина и мозг - Джон фон Нейман

рыб, птиц и млекопитающих? Если да, то что это за организация? Чем она отличается от того, что происходит в наших искусственных машинах?

На эти вопросы Джон фон Нейман предлагает прозорливый, аргументированный и явно нетрадиционный ответ. Первую половину своей книги он посвящает классическим концепциям (которые сам же и сформулировал), а обращаясь к мозгу, заключает, что «его функционирование является на первый взгляд цифровым». Этот вывод в свою очередь представляет собой на первый взгляд прокрустово ложе – и фон Нейман признает сей факт немедленно.

Первая проблема, которую он отмечает, состоит в том, что характер связей между нейронами отличается от привычной конфигурации «две линии внутрь, одна наружу», присущей как классическим вентилям И, так и вентилям ИЛИ. Хотя каждая клетка, как правило, имеет только один выходной аксон, как того требует классическая схема, она получает более ста (точнее, более нескольких тысяч) входных сигналов от множества других нейронов. Несмотря на то что данный факт не является решающим – существуют, например, системы многозначной логики, – он заставляет задуматься.

Интрига закручивается, когда фон Нейман проводит поэтапное сравнение фундаментальных размеров «основных активных органов» мозга (предположительно нейронов) и «основных активных органов» вычислительной машины (различных логических вентилей). В пространственном отношении, утверждает он, нейроны имеют преимущество, так как в 102 раз меньше своих электронных аналогов. (Оценка в то время была совершенно точной, однако с появлением такой технологии изготовления микросхем, как фотолитография, это преимущество исчезло – по крайней мере в случаях, когда речь идет о двумерных слоях.)

С другой стороны, у нервных клеток есть один существенный недостаток – скорость выполнения операций. Нейроны, пишет фон Нейман, в 105 раз медленнее электронных трубок или транзисторов, т. е. для совершения основной логической операции им требуется в сто тысяч раз больше времени. И здесь фон Нейман пугающе точен. Более того, он переоценивает возможности нейрона. Если предположить, что «тактовая частота» у нейрона не превышает 102 Гц, и сравнить его с обычной настольной машиной последнего поколения с тактовой частотой 1000 МГц (т. е. 109 основных операций в секунду), получаем, что разница в быстродействии составляет не 105, а 107 раз. Вывод неизбежен. Если мозг – это цифровая вычислительная машина с архитектурой фон Неймана, то он – настоящая черепаха по сравнению с современными компьютерами.

Кроме того, точность, с которой биологический мозг может представлять любую переменную, также на много порядков ниже точности, доступной цифровой машине. Вычислительные машины, отмечает фон Нейман, легко манипулируют восемью, десятью или двенадцатью десятичными знаками, в то время как точность представления числа в нервной клетке – т. е. частота импульсов, которые она отправляет вниз по аксону, – ограничена двумя десятичными знаками (а именно, плюс или минус 1 процент от максимальной частоты около 100 Гц). Это настораживает, поскольку в ходе любых вычислений, включающих большое количество шагов, маленькие ошибки на ранних этапах накапливаются и превращаются в большие ошибки на завершающих этапах. Хуже того, добавляет фон Нейман, во многих типах вычислений даже незначительные ошибки на ранних этапах экспоненциально усиливаются на последующих этапах, что неизбежно ведет к высшей степени неточным конечным результатам. Таким образом, если мозг – цифровая вычислительная машина, представляющая любое число с точностью до двух десятичных знаков, то он – вычислительный болван.

В совокупности два этих важных ограничения – скорость и точность – приводят фон Неймана к выводу: каким бы методом ни пользовался мозг, он должен включать минимальную «логическую глубину». Иными словами, что бы мозг ни делал, он не может выполнять тысячи последовательно организованных вычислений, как это делает высокочастотный центральный процессор цифровой машины. Учитывая низкую скорость, с которой работают нейроны, у мозга просто нет времени на то, чтобы выполнить любые вычисления, кроме самых простых. Впрочем, даже будь у него достаточно времени, в силу низкой точности представления переменных результаты таких вычислений все равно бы никуда не годились.

Весьма странный вывод: очевидно, что, несмотря на вышеописанные ограничения, мозг каким-то образом справляется с громадным разнообразием сложных вычислений, причем делает это в мгновение ока. Однако в аргументах фон Неймана нет ничего неправильного. Ограничения, на которые он указывает, действительно имеют место. Что же тогда происходит в нашем мозге?

Как правильно понимает фон Нейман, вычислительный режим мозга, похоже, компенсирует неизбежную нехватку логической глубины за счет необычайной логической широты. По его словам, «большие и эффективные естественные автоматы, по всей вероятности, будут производить действия параллельно, в то время как большие и эффективные искусственные автоматы – последовательно» [курсив фон Неймана]. Первые «будут одновременно обрабатывать максимально возможное количество логических (или информационных) единиц» [курсив переводчика]. Это означает, пишет фон Нейман, что при подсчете общего количества «основных активных органов» мозга мы должны учитывать не отдельные нейроны, а все их многочисленные синапсы.

Все это – важные наблюдения. Сегодня мы знаем, что мозг содержит примерно 1014 синаптических связей, каждая из которых модулирует поступающий по аксону сигнал, прежде чем передать его на принимающий нейрон. Задача нейрона, таким образом, состоит в том, чтобы суммировать или иным образом интегрировать входы от этих синаптических связей (до 10 000 на одну клетку), после чего генерировать свой собственный импульс. Самое главное, что все эти незначительные трансформации происходят одновременно. Данный факт означает, что, если каждый синапс активен примерно 100 раз в секунду (напомним, что типичная частота следования импульсов лежит в диапазоне 100 Гц), общее количество основных операций по обработке информации, выполняемых мозгом, должно составлять примерно 102 × 1014, или 1016 операций в секунду! Поразительное достижение для любой системы. Более того, данный показатель существенно превышает таковой для новейшего настольного компьютера (109 основных операций в секунду). Выходит, мозг – и не черепаха, и не болван. Почему? Хотя бы потому, что он никогда не был последовательной цифровой машиной: мозг представляет собой аналоговую машину с массивным параллелизмом.

Именно к такому заключению и приходит фон Нейман. Современная нейронаука, а также компьютерное моделирование параллельных сетей подтверждают его выводы. Согласно современным представлениям, альтернативная вычислительная стратегия, над которой размышлял фон Нейман, сводится к одновременному умножению каждой из многих тысяч или миллионов частот импульсов (которые составляют очень большой входной вектор) на коэффициенты еще большей матрицы (а именно, конфигурации многих миллионов синаптических соединений, связывающих одну популяцию нейронов с другой), что дает выходной вектор (новый, совершенно иной паттерн частот импульсов в принимающей популяции нейронов). Именно эта новая общая конфигурация многих миллионов, точнее триллионов, синаптических связей и воплощает в себе любые знания и навыки, которые приобретает мозг. Именно эти синаптические связи молниеносно преобразовывают информацию, поступающую по