Книга Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - Мартин Форд

Большая часть моей докторской диссертации к тому моменту уже была готова, но я вошла в кабинет Рода и сказала: «Нужно все переписать. Диссертацию следует посвятить роботам в жизни обычных людей, социально и эмоционально разумным роботам». Надо отдать Родни должное: он понял, что это станет ключом к интеграции роботов в повседневную жизнь. И он позволил мне пойти на это. В результате появился первый в мире социальный робот Kismet.

М. Ф.: Я знаю, что сейчас он находится в музее MIT.

С. Б.: Робот Kismet действительно положил начало всему. Он напоминал дроидов из «Звездных войн». Я понимала, что не смогу создать автономного робота, который мог бы конкурировать с социальным и эмоциональным интеллектом взрослых людей. Я решила рассмотреть отношения между взрослым и младенцем, чтобы понять, как зарождается коммуникабельность и как она развивается со временем. Робот Kismet моделировал невербальное, эмоциональное общение младенца.

Ведь способность формировать эмоциональную связь – часть нашего механизма выживания. Именно она заставляет родителей или других взрослых людей относиться к новорожденному или маленькому ребенку как к полноценной социальной единице. На этой стадии у ребенка начинает развиваться социальный и эмоциональный интеллект. Фактически идет процесс начальной загрузки. Но эти способности не развиваются, если ребенок растет в неправильной социальной среде.

В рамках этой философии Kismet был смоделирован с внешностью птенца. Я тогда читала много литературы, посвященной анимации. Там рассматривались способы создания вещей, вызывающих у людей эмоциональный отклик и желание заботиться. Мне хотелось, чтобы люди могли взаимодействовать с моим роботом на уровне подсознания и развивать его естественным образом. Робот был спроектирован так, чтобы все его характеристики (движения, издаваемые им звуки и его внешний вид) помогали формировать вокруг него правильную социальную среду, дающую ему возможность учиться и развиваться. Невербальная коммуникация составляет огромную часть нашего общения и служит основой для множества социальных суждений.

Взаимодействие с современными голосовыми помощниками очень транзакционно. Оно напоминает игру в шахматы. В литературе по психологии часто встречается термин «социальные танцы», который представляет процесс общения как взаимную адаптацию в танце. Невербальные сигналы влияют на выводы, сделанные собеседниками в динамично связанном дуэте. Встроить в машины социальный и эмоциональный интеллект крайне трудно.

М. Ф.: А также требует огромных вычислительных ресурсов?

С. Б.: Правильно. Причем даже бо́льших ресурсов, чем зрение или манипулирование. Интеллект и поведение машины должны совпадать с человеческими в умении делать выводы и прогнозировании наших мыслей, намерений, убеждений, желаний. Мне хотелось создать машину, которая сможет оказывать помощь и поддержку в социальной и эмоциональной сфере. Мы начали искать новые приложения для роботов в областях, связанных с трансформацией человека, таких как образование, изменение поведения, улучшение самочувствия, тренировка… Об этих вещах раньше даже не задумывались, потому что на первое место все время ставилось выполнение роботом физической работы.

Посмотрите на робота Baxter от компании Rethink Robotics. Это промышленный робот, предназначенный для совместной с людьми работы на конвейере. У него есть лицо, по выражению которого можно понять, что робот собирается предпринять дальше. Так как оценки и прогнозы в данном случае делаются путем считывания невербальных сигналов, робот использует принятую у людей систему сигнализации.

М. Ф.: Как продвигаются разработки сильного ИИ? И можно ли его создать?

С. Б.: Моделирование человеческого интеллекта – один из способов понять его. Я всегда считала, что машины, которые ведут себя как люди, так же принимают решения и так же воспринимают мир, сделают нашу жизнь лучше. Но должны ли эти роботы быть именно людьми? Я так не думаю. Людей и так много. Поэтому нужно нечто, позволяющее расширять наши возможности. Машины, которые всю работу возьмут на себя, не нужны, потому что люди перестанут развиваться. Необходимость оставить пространство для развития накладывает довольно серьезные ограничения на характер отношений человека с машиной.

М. Ф.: Какие технологические прорывы необходимы для приближения к сильному ИИ?

С. Б.: Мы уже научились создавать ИИ специального назначения, который можно обучить настолько, что в узкой предметной области он намного превзойдет человека по эффективности. Но для универсального ИИ требуются принципиально другие виды интеллекта. Мы пока не знаем, как построить машину, которая может развиваться, как ребенок, и все время умнеть.

Ряд прорывов был совершен благодаря глубокому обучению. Но здесь речь идет только об обучении с учителем, в то время как люди учатся разными способами. Мы проектируем машины, обладающие знаниями и информацией в рамках отдельных предметных областей, но понятия не имеем, как заставить их рассуждать на основе здравого смысла, обладать глубоким эмоциональным интеллектом. Список можно продолжить. Предстоит еще много исследований для понимания нашего собственного разума.

М. Ф.: Какие потенциальные опасности несет ИИ?

С. Б.: Основная опасность в данном случае исходит от людей. Меня не так пугает гипотетическое порабощение человечества сверхинтеллектом, как люди, которые могут злоупотреблять новыми технологиями. Нужно думать о вопросах конфиденциальности и безопасности, потому что это связано с нашей свободой. Непонятно, как быть в ситуации, когда массово генерируются фальшивые новости. Опасность представляет и автономное оружие, и усиление неравенства. Нужно начать работу над демократизацией ИИ, чтобы в будущем эта технология могла принести пользу всем, а не только избранным.

М. Ф.: Стоит ли нам беспокоиться о проблеме выравнивания, или контроля, суперинтеллекта?

С. Б.: Тут первым делом нужно определить, что мы считаем суперинтеллектом. И почему мы считаем, что у него могут быть такие же, как у нас, мотивации и побуждения? Многие связанные с ИИ страхи обусловлены тем багажом, который эволюционно появился в процессе наших попыток выжить в сложном враждебном мире. Откуда взялась идея, что суперинтеллект будет обременен теми же вещами? Это же не человек.

Сама идея о том, что огромное количество талантливых людей будет тратить ресурсы на создание чего-то подобного, абсурдна.

М. Ф.: Но, к примеру, Демис Хассабис из DeepMind крайне заинтересован в создании сильного ИИ. Более того, это официальная цель его компании.

С. Б.: Отдельные люди могут быть заинтересованы в его создании, но откуда взять ресурсы, время и талант в массовом масштабе? Я не понимаю, какие движущие силы в настоящее время могут обеспечить необходимые инвестиции. И не вижу мотивации, которая заставит организации финансировать разработки суперинтеллекта.

М. Ф.: Одним из факторов может быть гонка вооружений.

С. Б.: Соревнование в сфере технологий между разными странами было всегда. Но национальная безопасность не требует сильного ИИ, там вполне можно обойтись более гибким и при этом более специализированным ИИ.