Книга Машина эмоций - Марвин Мински

Философ-дуалист: Компьютеры могут делать только то, на что их запрограммировали, просто пошагово выполняя действия и не осознавая этого. У машин не может быть целей, антипатий, удовольствия или боли – и вообще любых ощущений и чувств, потому что у них отсутствуют определенные критически важные ингредиенты, которые есть у живых существ.

Но что это могут быть за «критически важные ингредиенты»? Многие философы задавались вопросами, как что-то состоящее исключительно из физических элементов может «на самом деле» чувствовать или думать.

Дэвид Чалмерс, 1995b: Когда мы воспринимаем мир с помощью зрения, мы не просто перерабатываем информацию, мы испытываем субъективные переживания цвета, формы и глубины. Также существуют переживания, которые ассоциируются с другими органами чувств (давайте вспомним о звуковых переживаниях от музыки или непостижимую сущность переживания запахов), а также с ощущениями тела (например, боли, щекотка, оргазм), с ментальными образами (например, цветовые пятна, которые появляются, когда трешь глаза), с эмоциями (вспышка счастья, острота гнева, тяжесть отчаяния) и с потоком сознательных мыслей.

[То, что у нас есть это ощущение переживания], является основным фактом о нашем разуме, но также и самым загадочным. Зачем физической системе, какой бы она ни была сложной и хорошо организованной, вообще прибегать к переживаниям? Почему все наши процессы не протекают «в темноте», без субъективных ощущений? Прямо сейчас ни у кого нет хороших ответов на эти вопросы. Это феномен, который делает из сознания настоящую загадку.

Однако мне кажется, что загадки, которые видит Чалмерс, проистекают из того, что он попытался втиснуть разнообразные психические действия в такие слова-чемоданы, как «субъективные», «ощущения» и «сознание». Например, в разделе 4.2 мы показывали, как люди используют слово «сознание» для как минимум дюжины психических процессов, а в разделе 5.7 – как наши системы восприятия также включают в себя множество типов и уровней обработки. Однако наши процессы высокого уровня не могут отследить все промежуточные шаги восприятия – и эта нехватка осознанности приводит нас к мнению, что наши ощущения посещают нас каким-то простым, прямым и стремительным способом[150].

Например, каждый раз, когда что-то касается вашей руки, вам кажется, что вы это мгновенно чувствуете – и что это происходит немедленно, безо всякой сложной обработки информации. Похожим образом, когда вы смотрите на какой-то цвет и чувствуете, что это красный, вам кажется, что никаких промежуточных ступеней в вашем восприятии нет, и, соответственно, вам об этом нечего сказать. Безусловно, это хотя бы отчасти объясняет, почему так много философов делают вывод, что не может быть «механистического» объяснения, почему разные раздражители словно имеют для каждого определенные свойства: эти философы просто не старались как следует вообразить адекватные модели этих процессов. Вместо этого они в основном пытались доказать, что подобные модели вообще невозможны.

При этом, хотя нам сложно говорить о свойствах любого конкретного ощущения, гораздо легче сравнивать или противопоставлять два разных, но похожих типа ощущений. Например, мы можем сказать, что солнечный свет ярче света свечи, или что розовый – что-то среднее между красным и белым, или что прикосновение к щеке приходится на место между ухом и подбородком.

Однако это ничего не говорит о том, как «ощущается» каждое отдельное чувство. Это все равно что описывать расстояние между двумя городами на карте, ничего не говоря при этом об этих городах. Похожим образом, если бы я спросил, что для вас означает красный цвет, вы могли бы ответить, что первым делом подумали о розе, что, в свою очередь, напомнило вам о влюбленности, – и затем вы бы обнаружили, что продолжаете соотносить ваши ощущения с другими чувствами. Красный также может напомнить вам о крови – и это вызовет чувство страха или тревожности. Зеленый может вызвать ассоциации с пасторальными сценами, а синий – с небом или морем. Таким образом раздражители, кажущиеся такими простыми, могут вызвать множество других ментальных событий, таких как эти чувства и ассоциации.

Схожим образом, когда вы попытаетесь описать чувства, связанные с влюбленностью, или со страхом, или с созерцанием пасторали либо морской глади, вы вскоре обнаружите, что просто перечисляете другие вещи, о которых вам эти чувства напоминают. И затем, возможно, вы начнете подозревать, что мы вообще не можем по-настоящему описать, что представляет собой что-либо, мы можем описать только, на что оно похоже.

Какую полезную альтернативу можно предложить идее о том, что наше чувство «переживания» загадочно? Ну, если бы ваши высшие когнитивные уровни имели более полный доступ к низшим, то вы бы могли заменить утверждения вроде «Я испытываю ощущение, что вижу что-то красное» на более детальные описания переработки информации, задействованной в ощущениях, например:

Мои ресурсы классифицировали определенный раздражитель, а затем создали некие репрезентации моей ситуации, после чего часть моих Критиков изменила составленные мной планы и способы восприятия, что привело к следующим типам каскадов, и т. д.

Если бы мы могли делать подобные описания, загадка «субъективного переживания» просто исчезла бы, потому что у нас бы было достаточно ингредиентов, чтобы ответить на вопросы об этих процессах. Другими словами, мне кажется, что очевидная «прямота переживания» всего лишь иллюзия, которая проистекает из того, что наши высшие ментальные уровни имеют такой ограниченный доступ к системам, которые мы используем, чтобы распознавать, репрезентировать и реагировать на внутренние и внешние условия.

Я не хочу утверждать, что эта иллюзия обычно вредна или что нам следует бороться с этими ограничениями, потому что, как мы заметили в разделе 4.4, слишком большое количество подобной информации перегрузит разум. Однако немного такой терапии может пойти на пользу вышеупомянутым философам-дуалистам. К тому же в какой-то момент будущего нам придется принимать решения о том, в какой степени наши будущие машины с искусственным интеллектом должны быть снабжены способами инспектировать (и иметь возможность изменять) свои собственные системы, – или нам понадобится запретить к ним доступ.

Откуда вы знаете, что чувствуете боль?

Здравый смысл подсказал бы, что вы не можете испытывать боль, не зная об этом. Однако некоторые мыслители с этим не соглашаются:

Гилберт Райл, 1949: Человек, который идет по дороге и оживленно дискутирует со спутником, может не осознавать боли в натертой пятке; читатель этих строк, начиная читать предложение, возможно, не чувствовал мышечные и кожные ощущения в шее или левом колене. Человек может также не осознавать, что он хмурится, или отбивает ритм под музыку, или что-то бормочет.