Книга Сила конфиденциальности. Почему необходимо обладать контролем над своими персональными данными и как его установить - Карисса Велиз

плохой алгоритм не сделает его хорошим. Когда мы проектируем искусственный интеллект, мы стремимся к тому, чтобы создать именно ИНТЕЛЛЕКТ. Но если вы недавно взаимодействовали с онлайн-помощником, то наверняка заметили, что интеллектом он не блещет.

Иногда люди могут узнать что-то новое на одном примере, потом они переносят эти знания на аналогичные, но новые сценарии. По мере того как системы искусственного интеллекта становятся умнее, мы можем ожидать, что им будет требоваться меньше данных[294]. Наиболее важные проблемы для развития искусственного интеллекта являются техническими, и они не будут решены путем наращивания объема персональных данных[295], потому что, и это не должно нас удивлять, самые передовые результаты искусственным интеллектом были достигнуты не за счет использования персональных данных.

AlphaZero – это алгоритм, разработанный Google DeepMind, который играет в древнюю китайскую игру го (а также в шахматы и сёги). Что делает го особенно интересной игрой для освоения искусственного интеллекта? Во-первых, это ее сложность. По сравнению с шахматами в го доска большего размера, и на каждый ход нужно учитывать гораздо больше альтернатив. Из одной позиции в шахматах можно пойти примерно 20 способами, а в го – двумя сотнями. А количество возможных конфигураций на доске больше, чем число атомов во Вселенной. Во-вторых, го – это игра, в которой большую роль играет интуиция. Когда профессионалов спрашивают, почему они сделали тот или иной ход, они часто отвечают, что «это кажется правильным». Именно это интуитивное качество заставляет людей считать го искусством, а игроков – художниками. Таким образом, чтобы компьютерная программа могла победить игрока в го, она должна имитировать человеческую интуицию – или, точнее, результаты человеческой интуиции. Самое примечательное в алгоритме AlphaZero – это то, что его разрабатывали исключительно путем игры против самого себя. Внешние данные не использовались. Алгоритм AlphaGo, предшествовавший AlphaZero, был частично разработан путем демонстрации сотен тысяч игр в го между людьми. DeepMind потребовались месяцы, чтобы так усовершенствовать AlphaGo, что он смог победить чемпиона мира Ли Седола. AlphaZero развил сверхчеловеческие способности по игре в го всего за три дня. И все это – без использования личных данных.

А как насчет медицины?

Медицина представляет собой исключительный случай по части обработки данных. Во-первых, потому что она необычайно важна для всех нас. Мы все желаем быть здоровыми и жить как можно дольше, поэтому хотим, чтобы медицина развивалась максимально быстро. Во-вторых, потому что медицинские данные очень конфиденциальны: их утечка может привести к навешиванию социальных ярлыков, дискриминации и даже худшим последствиям. В-третьих, потому что анонимизировать медицинские данные чрезвычайно сложно, а иногда и невозможно. Генетическая информация, как мы видели, является хорошим примером: это данные, которые идентифицируют вас именно как вас – они включают в себя саму вашу личность. В более общем смысле, чтобы медицинские данные были полезными, важно обозначить различные единицы информации, принадлежащие одному и тому же человеку, и чем больше единиц информации мы имеем о человеке, тем легче его идентифицировать.

Зависит ли развитие медицины от обмена личными данными? Нет. Во-первых, мы должны более скептически относиться к силе цифровых технологий. Во-вторых, есть способы использования персональных данных в медицинских исследованиях, которые минимизируют риск огласки для пациентов и требуют их согласия. В-третьих, некоторые из наиболее важных достижений медицины могут вообще не использовать персональные данные. Давайте подробнее рассмотрим всё пункт за пунктом.

Перспективы цифровых технологий в медицине

Цифровые технологии и большие массивы данных – это не панацея. Мы не можем ожидать, что они решат все наши проблемы. Иногда инновации, которые спасают больше жизней, связаны не с высокими технологиями, а с менее яркими изменениями, такими как улучшение гигиены. Это не означает, что высокие технологии не могут способствовать развитию медицины, но, обсуждая их пользу, мы не должны оставлять за дверью наше критическое мышление. Когда технология становится идеологией, что иногда случается, она уходит от науки в сторону предрассудков. Вот два примера того, как цифровые технологии дают слишком много обещаний и показывают недостаточную эффективность в контексте медицины.

Первый пример – это искусственный интеллект IBM Watson. В 2011 году, после того как Watson удалось победить двух чемпионов в американском игровом шоу «Jeopardy!» (в России выходит под названием «Своя игра». – Прим. ред.), IBM объявила, что разработанный ею искусственный интеллект станет врачом. Компания заявила, что ее первые коммерческие продукты будут доступны через восемнадцать – двадцать четыре месяца. Девять лет спустя это обещание все еще не было выполнено.

В 2014 году IBM инвестировала в развитие Watson 1 миллиард долларов. К 2016 году она приобрела четыре компании по обработке данных о здоровье на общую сумму 4 миллиарда долларов. Однако многим больницам, которые участвовали в проектах Watson от IBM, пришлось их прекратить. Онкологический центр доктора медицины Андерсона был вынужден отменить свой проект с Watson по разработке консультативного инструмента для онкологов, ранее потратив на него 62 миллиона долларов[296]. Университетская больница Гиссена и Марбурга в Германии тоже отказалась от участия в проекте. Когда врач сказал Watson, что пациент страдает от боли в груди, система не учла, что у него может быть сердечный приступ. Вместо этого искусственный интеллект выдвинул предположение, что у пациента редкое инфекционное заболевание[297]. В другом случае больному раком с сильным кровотечением Watson предложил назначить лекарство, которое могло вызвать обострение кровотечения. «Этот продукт – кусок дерьма», – заключил врач больницы Юпитер во Флориде[298].

Проект IBM Watson – не единичный случай разочаровывающего применения технологий в медицине. В 2016 году DeepMind заключила сделку с Royal Free NHS Trust в Лондоне. DeepMind собрала медицинские карты 1,6 миллиона пациентов без их согласия или ведома. Это означает, что компания получила доступ к отчетам о патологии, рентгенологическим исследованиям, ВИЧ-статусу, о том, кто делал аборт, кто болел раком, и так далее. Управление комиссара по информации позже сочло, что Royal Free нарушила законы о защите данных.

Первоначальная идея заключалась в том, чтобы использовать искусственный интеллект для разработки приложения для обнаружения острого поражения почек. Вскоре исследователи поняли, что у них недостаточно данных для использования искусственного интеллекта, поэтому они остановились на чем-то более простом. В итоге обнаружилось, что разработанное приложение Streams «не оказывает статистически значимого положительного влияния на клинические результаты пациентов»[299].

Обе эти неудачи не означают, что все последующие попытки не увенчаются успехом, но они дают некоторое представление о перспективах цифровых технологий в медицине. В недавнем метаанализе было рассмотрено около 20 000 исследований медицинских систем искусственного интеллекта, в которых утверждалось, что они могут диагностировать болезни не хуже врачей. Ученые выявили, что только четырнадцать из этих исследований (менее 0,1 %) были выполнены на достаточном методологическом уровне, чтобы допустить эти алгоритмы до клинических испытаний[300].

То, что медицинский искусственный интеллект может не помочь пациентам, не единственная проблема. Более серьезные опасения вызывает то, что это может навредить пациентам. Например, искусственный интеллект назначит чрезмерное или некорректное лечение. Некоторые медицинские цифровые технологии, похоже, ошибаются в сторону