Книга Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - Мартин Форд

М. Ф.: Но разве данные могут быть свободными от человеческих предубеждений, если они собираются в процессе обычной интернет-деятельности пользователей?

Д. М.: Я приведу пример, демонстрирующий, как возникает эта проблема. Известно, что отдельные районы патрулируются полицией более интенсивно, чем остальные. Это позволяет собрать о них больше данных.

Различия в выборке данных между строго охраняемыми и практически не патрулируемыми районами влияют на прогноз криминальной обстановки. Сбор данных может быть вполне объективным, но прогноз окажется далеким от реальности из-за чрезмерной выборки в одном районе и недостаточной выборки в другом.

Или рассмотрим такую процедуру, как выдача кредита. Есть люди, которые активно используют кредитные карты и совершают электронные платежи, и, соответственно, доступно множество данных об их транзакциях. Избыточная выборка в данном случае идет человеку на пользу, так как о нем можно сделать более точный прогноз. При этом о человеке, который предпочитает платить наличными, данных мало, алгоритм дает менее точный прогноз, что может негативно повлиять на окончательное решение о выдаче кредита.

Присутствует эта проблема и в системах распознавания лиц, что продемонстрировали в своих работах Тимнит Гебру, Джой Буоламвини и др.

М. Ф.: А что вы думаете о других опасностях, связанных с ИИ? Об угрозе, исходящей от суперинтеллекта?

Д. М.: Есть много поводов для беспокойства. Несколько лет назад группа, в которую входили, в частности, Илон Маск и Стюарт Рассел, встретилась в Пуэрто-Рико, чтобы обсудить прогресс в области ИИ, а также связанные с этой сферой проблемы. По итогам Стюарт Рассел опубликовал статью, где перечислялись области, которые недостаточно исследуются. Сейчас этот список считается исчерпывающим и включает вопросы безопасности.

Например, вопрос, как остановить вышедшую из-под контроля машину или даже алгоритм? Может понадобиться так называемая большая красная кнопка. Но исследователи из DeepMind в серии простых двумерных видеоигр gridworlds продемонстрировали, что многие алгоритмы теоретически могут научиться отключать свои выключатели.

При этом мы можем не знать, что именно повлияло на неверное решение или ошибочный прогноз, выданный ИИ. Существует интерпретатор сложных нелинейных моделей LIME, который пытается определить, на какие наборы данных опирается обученная модель при составлении прогноза. Другой многообещающий метод – применение обобщенных аддитивных моделей (generalized additive models, GAM). В них складываются модели отдельных признаков, по которым можно отследить, как влияет на прогноз добавление каждого признака.

Далее – проблема обнаружения. Для ИИ-систем нет мониторинга и разведки, и нельзя узнать, что где-то происходит использование ИИ-системы в террористических целях.

К счастью, постепенно появляются организации, небезразлично относящиеся к этим проблемам. Например, консорциумом Partnership on AI рассматриваются как вопросы предвзятости и безопасности, так и различные виды экзистенциальных угроз. Сэм Альтман, Джек Кларк и другие члены OpenAI хотят добиться выгоды от ИИ для всего человечества.

М. Ф.: Как вы относитесь к проблеме выравнивания, о которой предупреждают Илон Маск и Ник Бостром?

Д. М.: Я думаю, что специалисты, которые будут заниматься этим вопросом, нужны. Но сейчас волноваться об этом не имеет смысла, потому что если суперинтеллектуальные машины и появятся, то очень нескоро. Мне нравится, что над этой проблемой думает такой крупный философ, как Ник Бостром. А обычным людям беспокоиться не о чем.

М. Ф.: Мне близка ваша точка зрения. Об этих вопросах должны думать эксперты. Инвестировать в эти вещи государственные ресурсы сейчас неоправданно.

Д. М.: Разумеется, это не политический вопрос. Но с людьми, которые утверждают, что поводов для беспокойства нет, потому что подобного просто не может произойти, я категорически не согласен.

Просто есть более актуальные проблемы. Это вопросы безопасности, использования и злоупотреблений, объяснимости, предвзятости, а также вопросы влияния на экономику и рынок труда. Именно с этими проблемами нам предстоит иметь дело в ближайшие несколько десятилетий.

М. Ф.: Должно ли правительство регулировать вопросы применения ИИ?

Д. М.: Думаю, на данный момент у нас нет ни инструментов регулирования, ни нормативно-правовой базы.

Кто-то должен регулировать ИИ. Главное – не останавливать его использование, не закрывать ящик Пандоры и не откладывать применение новых технологий, пытаясь повернуть время вспять. Это было бы неправильно, потому что технологии приносят огромную социальную и экономическую выгоду. Нужно больше говорить, например, о проблеме производительности труда, которую могут решить ИИ-системы.

М. Ф.: Давайте перейдем к экономическим аспектам. MGI выпустил несколько отчетов о влиянии ИИ на рынок труда. Я занимался этой темой, и с моей точки зрения, мы находимся на пороге глобальных изменений в этой сфере. При этом многие экономисты считают, что поводов для беспокойства нет.

Д. М.: На самом деле это не так. Думаю, мы на пороге новой промышленной революции. Технологии окажут влияние на бизнес, инновации и прогнозирование, а в некоторых случаях выйдут за рамки когнитивных способностей человека. Наши исследования в MGI показывают, что влияние будет несомненно положительным.

Экономика преобразуется за счет повышения производительности и появления новых товаров, услуг и бизнес-моделей. Развитие ИИ откроет перед людьми возможность реализации собственных амбиций в совершенствовании мира через участие в проектах, позволяющих по-новому взглянуть на общественные проблемы и технологии. А исчезновение ряда рабочих мест будет скомпенсировано появлением новых.

М. Ф.: То есть вы считаете, что итоговое влияние будет позитивным, несмотря на трудности перехода?

Д. М.: Спрос на рабочую силу будет всегда. Кроме того, ряд факторов спроса никуда не исчезнет в ближней и среднесрочной перспективе. К таким факторам, например, относится рост благосостояния во всем мире, благодаря которому все больше людей начнет принадлежать к среднему потребительскому классу. Также произойдет трансформация рабочих мест, потому что технологии смогут дополнить рабочий процесс.

Проблема в относительных величинах этих трех процессов – исчезновения рабочих мест, возникновения новых и трансформации. Согласно нашим исследованиям, количество появившихся рабочих мест превысит число исчезнувших. Разумеется, этот вывод основан на ряде допущений, но все равно остается вопрос: с какими проблемами придется столкнуться? Определить их сложнее, чем оценить влияние ИИ на бизнес и экономику как положительное.

М. Ф.: Но посмотрите на показатели производительности за последнее время. Они не очень хорошие, и с точки зрения макроэкономических данных никакого роста мы не наблюдаем. Фактически, по сравнению с другими периодами мы имеем уровень производительности ниже среднего. Вы считаете, что это своего рода интервал запаздывания перед началом роста?