Книга Миры, которые я вижу. Любопытство, исследования и открытия на заре ИИ - Fei-Fei Li

через всю страну, чтобы помочь HAI лучше понять влияние ИИ на рабочие места, богатство и концентрацию власти в современном мире. Иногда возникает ощущение, что вся дисциплина рождается заново, причем в более яркой форме, чем я мог себе представить еще несколько лет назад.

Одно партнерство, в частности, как никакое другое, изменило мое представление о возможностях. Когда я впервые встретил Джона Этчеменди десятью годами ранее, он был проректором университета, а я, переехавший с Восточного побережья, был одержим идеей все еще незавершенного ImageNet. За прошедшие годы мы стали соседями и друзьями, и мое уважение к глубине его интеллекта как ученого только возросло. Но за долгие годы работы администратором Джон приобрел опыт работы в сфере высшего образования - хороший, плохой и откровенно кафкианский - и точно знал, что нужно сделать, чтобы воплотить в жизнь маловероятное видение HAI. Не просто говорить о человеко-ориентированном ИИ или обсуждать его достоинства, а строить его, кирпичик за кирпичиком. Поэтому, когда он согласился сотрудничать со мной в качестве содиректора Stanford HAI, я понял, что у нас есть все шансы сделать это.

Среди моих любимых достижений нашего партнерства - Национальное исследовательское облако, или NRC, - общая платформа для разработки ИИ, полностью поддерживаемая государственным финансированием и ресурсами, а не частным сектором. Ее цель - сделать исследования в области ИИ доступными для ученых, стартапов, неправительственных организаций и правительств по всему миру, чтобы наша область не была навсегда монополизирована технологическими гигантами или даже такими университетами, как наш.

За два года до этого NRC был не более чем идеей. И без Стэнфорда HAI, скорее всего, так бы оно и осталось. Но в руках более разносторонней команды, включая экспертов в области права и государственной политики, это стало миссией. Джон, в частности, задействовал весь свой карьерный потенциал, привлекая университеты по всей стране для создания коалиции, столь впечатляющей, какой я еще не видел в академических кругах, и положил начало шквалу идей, предложений, перелетов через границу и дебатов, которые вскоре превратились в полностью реализованный законодательный проект, направляющийся на Капитолийский холм. Нам еще предстоит пройти долгий путь, чтобы сделать ИИ по-настоящему инклюзивным, но такие достижения, как NRC, - это значительные шаги в правильном направлении.

 

В сентябре 2020 года, спустя почти десять лет после нашего первого разговора, мы с Арни опубликовали всеобъемлющий обзор наших исследований под названием "Освещение темных пространств здравоохранения с помощью Ambient Intelligence". В нем мы представили наше полное видение интеллектуальных датчиков, которые расширяют сознание врачей и медсестер, позволяя им отслеживать хаос медицинской среды с невиданными ранее масштабами и последовательностью.

В статье описывается, какую роль может сыграть окружающий интеллект в улучшении ухода за пожилыми людьми, помощи в лечении хронических заболеваний, выявлении симптомов психических расстройств, отслеживании использования хирургических инструментов в течение всей операции, поддержании гигиены врача в течение всей смены и многом другом. И эта статья была опубликована не в журнале, посвященном компьютерным наукам, искусственному интеллекту или обработке информации, а в Nature, возможно, самом известном журнале во всей науке. Это было напоминание о том, что лучшая работа часто выполняется в общем пространстве науки в целом - в глобальном сотрудничестве, которое без колебаний преодолевает границы, - а не в "пузырях" наших собственных областей.

Я гордился этой работой, но впереди меня ждал долгий путь. Всего через пару месяцев после выхода обзора Nature, в декабре, журнал The Lancet опубликовал своеобразное опровержение под названием "Этические проблемы использования окружающего интеллекта в здравоохранении". Это была откровенная и тщательно аргументированная статья, в которой не было никаких штампов и предлагалось честное, но строгое рассмотрение последствий нашей работы. По словам авторов, потенциал окружающего интеллекта для повышения качества оказания медицинской помощи был сопряжен со "спектром этических проблем", многие из которых связаны с масштабным сбором данных, новыми проблемами конфиденциальности и, с более философской точки зрения, с природой информированного согласия в среде таких иммерсивных, децентрализованных технологий мониторинга. Хотя читать критику собственной работы всегда нелегко, эта статья была именно тем видом этического дискурса, который нужен ИИ, и я со многим в ней согласился.

Ambient intelligence, скорее всего, всегда будет основой исследований моей лаборатории, и достаточно взглянуть на моих родителей, чтобы вспомнить, почему я считаю эту работу такой важной. Именно поэтому даже сейчас я посвящаю определенную часть каждого дня тому, чтобы быть в курсе последних экспериментов, испытаний и изменений в законодательстве. Но когда я размышляю о том, как быстро развивалась наша область в последние несколько лет - прорывы в распознавании объектов, создание человекоподобных описаний фотографий и даже видео, - мне становится все труднее игнорировать общую мысль: при всей изощренности этих методов они, по сути, сводятся к пассивному наблюдению. В той или иной форме каждый из них представляет собой экземпляр алгоритма, рассказывающего нам о том, что он видит. Наши модели научились наблюдать, иногда очень подробно и с поразительной точностью, но не более того. Конечно, думаю я в последнее время, что-то должно лежать за пределами этого.

 

"Эй, помнишь, о чем ты спросил меня пару лет назад в первый день занятий? Мне интересно, остался ли он с тобой".

Кофе-брейк закончился, и мы со студентом возвращались в лабораторию, держа в руках бумажные стаканчики с крышками.

"Вообще-то да", - улыбнувшись, напомнил он. "Я спросил вас, какое отношение этика имеет к этим вещам".

"Ну?" Я улыбнулся в ответ. "Думаете, вы нашли ответ?"

Он вздохнул, глядя на небо, краски которого потускнели, когда полдень сменился ранним вечером.

"Честно? Не совсем. И я определенно думала об этом. Как я мог не думать? В последнее время об этом говорят во всех новостях. Я даже ходила на занятия к профессору Райху".

Он имел в виду курс "Компьютеры, этика и государственная политика", созданный компьютерщиком Мехраном Сахами, ученым-политологом Джереми Вайнштейном и Робом Райхом, политологом и этиком, который до сих пор является одним из основателей HAI. Я кивнул.

"Я знаю, что все это важно на бумаге, наверное". Он сделал глоток кофе. "Но я не знаю. Послушай, Фей-Фей, мой робот до сих пор не может вытащить кусок хлеба из тостера. Работа сама по себе достаточно утомительна, понимаешь? И такое ощущение, что все публикуются без остановки. Я уже живу в страхе перед следующей конференцией и ее сроками публикации! Сколько же мозгов я должен тратить на этику того, что все еще кажется таким примитивным?"

Это был справедливый вопрос. Несмотря на невероятный прогресс ИИ за последнее десятилетие, очень многое в