Книга Пустышка. Что интернет делает с нашими мозгами - Николас Дж. Карр

Возможно, что прямо сейчас мы находимся на последней грани перед этим закреплением.

И мы приветствуем безумие, селящееся в наших душах.

Эпилог

ЧЕЛОВЕЧЕСКИЕ ЭЛЕМЕНТЫ

Закачивая эту книгу на исходе 2009 года, я натолкнулся в прессе на небольшую историю. Edexcel, крупнейшая в Великобритании компания в области образовательных тестов, объявила о внедрении «автоматиче­ской системы оценки экзаменационных эссе, основанной на искусственном интеллекте». Компьютерная оценочная система была призвана «читать и оце­нивать» эссе, которые британские студенты пишут в составе широко распро­страненного теста проверки лингвистических способностей. Пресс-секретарь Edexcel, являющейся подразделением медиаконгломерата Pearson, пояснил (судя по данным отчёта, приведённого в Times Education Supplement), что система «позволяет выставлять оценки точно так же, как это делают люди- экзаменаторы, но при этом исключая такие присущие человеку факторы, как усталость или субъективность». Эксперт в области тестирования сообщил газете, что компьютеризированная система оценки эссе станет образователь­ным методом будущего: «Вопрос не в том, будет ли это, вопрос лишь в том, когда именно это будет».

Каким же образом, задался я вопросом, программа Edexcel сможет выявить тех редких студентов, которые не соответствуют общепринятым нор­мам, но не в силу незнания или некомпетентности, а из-за того, что обладают уникальными особенностями? Я заранее знал ответ: система на это не спо­собна. Компьютеры, как объяснял Джозеф Вейценбаум, следуют правилам, они не выносят суждений. Вместо субъективности они дают нам формулу.

История показала, насколько пророческими оказались слова Вейценбаума, сказанные ещё несколько десятилетий назад. Он предупреждал, что по мере того, как мы начнём всё сильнее привыкать к компьютерам и зависеть от них, у нас возникнет искушение доверить им «решение задач, требующих мудро­сти». И как только мы это сделаем, пути назад не будет. Программы станут незаменимым элементом при выполнении этих задач.

Технологическим искушениям сложно противостоять, а в нашу эпоху мгновенно доступной информации преимущества скорости и эффективности могут казаться слишком значимыми для того, чтобы рассуждать об их жела­тельности. Тем не менее я продолжаю надеяться на то, что мы не станем без­думно идти в будущее по сценарию, который пишут для нас компьютерные инженеры и программисты. Даже если мы и не верим словам Вейценбаума на 100 процентов, нам следует принимать их во внимание и внимательно изу­чить, что именно мы можем утратить. Будет крайне печально, если мы (осо­бенно когда речь идёт о развитии мозга наших детей) примем на веру без малейших сомнений тезис о том, что «человеческие элементы» мозга уста­рели и более не являются обязательными.

История Edexcel заставила меня ещё раз вспомнить одну из финальных сцен фильма Кубрика. Эта сцена поразила меня ещё в 1970-е годы, когда я впервые увидел фильм подростком в самый разгар своей аналоговой юности. Как странно было слышать эмоциональную реакцию компьютера на действия разбиравшего его астронавта: лампочки гаснут одна за другой, а компьютер в отчаянии сначала обращается к астронавту: «Я чувствую это. Я чувствую это. Мне страшно», а затем приходит в состояние, которое лучше всего назвать «состоянием невинности младенца». Эмоциональность ЭАЛа контрастируете механическими движениями персонажей фильма, неустанно занимающихся своими делами и напоминающих скорее роботов, чем людей. Кажется, что их мысли и действия соответствуют заданному сценарию, что они следуют шагам алгоритма. В вымышленном мире 2001 года люди начинают так сильно напоминать машины, что самым человечным персонажем оказы­вается компьютер. В этом и заключается суть мрачного пророчества Кубрика: как только мы начнём полагаться на компьютеры в познании окружающего нас мира, наш собственный интеллект упростится до уровня искусственного.