Книга Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - Мартин Форд

М. Ф.: А что вы думаете об автономном оружии? Вы очень откровенно высказывались об использовании ИИ в военных целях.

Д. Х.: В DeepMind мы считаем, что приложения ИИ должны оставаться под контролем людей и применяться в общественно полезных целях. То есть мы за запрет разработки и развертывания полностью автономного оружия и выражали эту точку зрения разными способами, в том числе подписали открытое письмо и поддержали обращение FHI.

М. Ф.: Но ведь химическое оружие все равно применяется, несмотря на запрет. Из-за соперничества между странами ситуация может начать развиваться в другом направлении. Например, в Китае активно работают над ИИ. Стоит ли волноваться о том, что они получат преимущество в этой сфере?

Д. Х.: Я не считаю, что имеет место гонка вооружений. Мы знаем всех исследователей и много сотрудничаем. Статьи публикуются открыто, и, например, мне известно, что холдинг Tencent создал клон AlphaGo. Но если в будущем возникнет необходимость в координации и, возможно, даже регулировании, это должно быть на международном уровне и принято всеми. Иначе регулирование просто не сработает. Но эта проблема связана не только с ИИ. Есть множество других проблем, которые нужно решать на глобальном уровне, например проблему изменения климата.

М. Ф.: Как ИИ повлияет на экономическую ситуацию? Ждет ли нас рост безработицы и неравенства?

Д. Х.: До сих пор ИИ не очень сильно влиял на экономическую ситуацию, по сравнению с влиянием технического прогресса в целом. Но со временем ИИ многое изменит. Некоторые верят в новую промышленную революцию, сравнивая ИИ с электричеством. Но пока невозможно однозначно сказать, что нас ждет. Мы можем оказаться в мире изобилия благодаря росту производительности. Здесь главное, чтобы плодами прогресса смогли воспользоваться все. Пусть этими вещами занимаются экономисты.

М. Ф.: Да, мне тоже кажется, что проблема в основном сводится к распределению благ и что значительная часть населения окажется за бортом. Это сложнейшая политическая задача – создать новую экономическую парадигму, которая будет работать для всех.

Д. Х.: Именно так. Хотя рост производительности предсказывают уже в течение ста лет. Мой отец в университете изучал экономику. И рассказывал, что в конце 1960-х гг. многие всерьез задавались вопросом, что люди будут делать в 1980-х гг., когда наступит изобилие и исчезнет необходимость работать. Но мы работаем до сих пор, причем не менее усердно.

М. Ф.: То есть вас можно назвать оптимистом? Ведь вы считаете ИИ одной из лучших вещей, которые когда-либо случались с человечеством, при условии, что этой технологией сумеют разумно распорядиться.

Д. Х.: Именно поэтому я работаю над этим всю жизнь. Мне кажется, что не появись ИИ, мир развивался бы не в лучшую сторону. Разумеется, перед нами множество проблем, требующих решения, таких как изменение климата, болезнь Альцгеймера или очистка воды. Некоторые вещи со временем будут становиться только хуже. Я не понимаю, как мы сможем организовать глобальную координацию, получить избыточные ресурсы или придумать варианты решения актуальных проблем. Но в целом я оптимистично смотрю на будущее, потому что нас ждут такие технологии, как ИИ.

Эндрю Ын

“Обучение с учителем подарило, наверное, каждой крупной отрасли новые возможности, но я думаю, что мы сможем придумать еще более продуктивный подход".

Генеральный директор компании LANDING AI, создатель проекта AI FUND, профессор computer science, член совета директоров компании Drive.ai

Эндрю Ын известен и как ученый, и как предприниматель. Именно он стоял у истоков проекта Google Brain и компании онлайн-образования Coursera. Затем стал ведущим специалистом в компании Baidu, где создал исследовательскую группу по ИИ. С 2018 г. он специализируется на стартапах в сфере ИИ. Запустил онлайн-платформу deeplearning.ai. В настоящее время занимается проектом Woebot. Был директором SAIL. Степень бакалавра в области computer science получил в Университете Карнеги – Меллона, степень магистра – в MIT и степень доктора – в Калифорнийском университете в Беркли.

Мартин Форд: Расскажите о перспективах развития ИИ. Глубокое обучение и дальше останется основным подходом или его заменит что-то другое?

Эндрю Ын: Пока всеми успехами в сфере ИИ мы обязаны обучению с учителем, которое в основном учит сопоставлять входные и выходные данные. Например, на вход беспилотного автомобиля подается видео с информацией о том, что находится впереди, а на выходе мы получаем сведения о фактическом положении других автомобилей. При распознавании речи машина сопоставляет аудиоклип и его текстовую расшифровку. В случае машинного перевода – текст на одном языке сопоставляется с текстом на другом.

М. Ф.: Какие препятствия отделяют нас от сильного ИИ?

Э. Ы.: Пока на этот вопрос нет однозначного ответа. Скорее всего, понадобится освоить обучение без учителя. Сегодня, чтобы компьютер узнал, что такое кружка, ему показывают тысячи кружек. В реальности такого не делает ни один, даже самый терпеливый и любящий, родитель. Дети просто смотрят на мир и погружаются в него. Что такое кружка, они узнают опытным путем. Именно такой вариант обучения коренным образом повысит эффективность наших систем.

Мы добились большого прогресса в специализированных вариантах ИИ для онлайн-рекламы, распознавания речи и беспилотных автомобилей, которые широкая публика ошибочно принимает за успехи в разработке сильного ИИ. В реальности подход к нему не найден. Неосведомленные люди пользуются упрощенными экстраполяциями, что создает ненужный ажиотаж вокруг этой темы.

М. Ф.: Появится ли сильный ИИ при вашей жизни?

Э. Ы.: Не знаю. Я бы этого очень хотел, но, скорее всего, потребуется намного больше времени.

М. Ф.: Как возник ваш интерес к ИИ? И как он повлиял на вашу карьеру?

Э. Ы.: На стажировке в школе я задумался, можно ли как-то автоматизировать часть моей работы, и именно тогда я узнал о нейронных сетях. Я учился и в итоге защитил докторскую диссертацию Shaping and Policy Search in Reinforcement Learning («Формирование и поиск стратегии в обучении с подкреплением») в Калифорнийском университете в Беркли. Следующие двенадцать лет я преподавал на факультетах computer science и электротехники Стэнфордского университета. В 2011 г. принимал участие в запуске проекта Google Brain, который помог превратить Google в компанию, занимающуюся ИИ.

М. Ф.: Это была первая попытка использовать глубокое обучение в компании Google?

Э. Ы.: В определенной степени да. У Google было несколько небольших проектов, связанных с нейронными сетями, но именно наша команда инициировала активное использование глубокого обучения. В качестве руководителя проекта я первым делом организовал курсы по этой теме для сотни инженеров. Это обеспечило команду Google Brain партнерами. Сначала мы взаимодействовали с группой распознавания речи. Позже поставили эксперимент с обучением без учителя, в котором нейронной сети предоставили множество случайных кадров из роликов YouTube, и она научилась распознавать кошек. В настоящее время толку от обучения без учителя не очень много, но эксперимент хорошо продемонстрировал, чего можно достичь с помощью алгоритмов глубокого обучения, используя вычислительный кластер Google.