Книга Сила конфиденциальности. Почему необходимо обладать контролем над своими персональными данными и как его установить - Карисса Велиз

ложноположительных результатов при диагностике (обнаруживают медицинские проблемы, когда их нет). Некоторые алгоритмы, ищущие раковые клетки, например, будут маркировать как аномальные совершенно здоровые клетки, допуская восемь ложноположительных ошибок на одно изображение[301]. Если компании и врачи заинтересованы (финансово или профессионально) во вмешательстве в дела пациентов, то это может привести к избыточному лечению.

Еще одна возможная проблема – это сбои. Опасно полагаться на цифровые технологии, потому что программирование – чрезвычайно сложный процесс, а у цифровых технологий есть потребности, которых нет у аналоговых, и все это приводит к тому, что цифровые технологии зачастую менее надежны, чем аналоговые. Сравните, например, электронную книгу с бумажной. Устройство для чтения электронных книг через определенное время нужно заряжать, оно может быть взломано, может выйти из строя, если вы уроните его в песок, воду или на твердую поверхность, и так далее. Напротив, бумажные книги очень надежны. Их не нужно заряжать, и, если вы уроните книгу с крыши здания, она, скорее всего, не слишком пострадает (пострадать может лишь проходящий мимо человек, в которого она угодит, – так что не делайте так). Когда вы имеете дело с оборудованием, спасающим жизни, вам нужна технология, не уступающая по надежности бумажной книге.

Эти разительные неудачи лишь призваны показать особенности нынешнего положения и путей дальнейшего развития в части использования цифровых технологий в медицине. Конечно, искусственный интеллект может сыграть очень важную роль в развитии медицины. Но, как и в случае с любым другим вмешательством, нам нужно, чтобы эти методы были основаны на убедительных доказательствах, прежде чем нас попросят передать наши персональные данные, и нам необходимы некоторые заверения в том, что наши данные будут обработаны должным образом и будут проанализированы все возможности и риски их использования. Слишком часто искусственный интеллект получает бесплатный допуск к нашим данным. Предположим, мы решили, что хотим провести медицинское исследование с использованием персональных данных и цифровых технологий. В конце концов, обещания персонализированной медицины очень заманчивы. И есть способы организовать это в рамках этических норм, а не так, как сделали DeepMind и Royal Free.

Этические медицинские исследования

Медицинская этика имеет долгую историю привлечения людей для исследований. Исследования с использованием персональных данных не должны сильно отличаться от других видов медицинских исследований. Несмотря на то что предоставление личных данных не похоже на сдачу крови – тут нет иглы и боли, – существуют аналогичные риски. Мы больше не заставляем людей подписываться на клинические исследования (хоть и делали это раньше, до появления медицинской этики). Мы также не должны заставлять людей предоставлять свои персональные данные для медицинских исследований. Недопустимо использовать население в качестве подопытных кроликов без их согласия, без надлежащих мер безопасности и без компенсации. Скорее нам следует запросить согласие людей, установить некоторые правила того, как их данные будут использоваться и когда они будут удалены, а также выплатить соответствующую компенсацию субъектам исследования, как мы делаем это при других исследованиях.

Иногда учреждения общественного здравоохранения не имеют необходимых ресурсов или технологий для анализа данных, и они могут прибегнуть к сотрудничеству с технологическими компаниями. В таких случаях мы должны быть абсолютно уверены в том, что заключенные сделки выгодны для субъектов данных и пациентов. Среди множества ошибок, допущенных Royal Free, две видятся особенно вопиющими. Во-первых, они не получили никаких юридических гарантий того, что DeepMind не будет использовать эти данные ни для чего, кроме разработки приложения. Они лишь взяли с компании обещание, что данные не будут сопоставляться с информацией, хранящейся в Google, но когда подразделение здравоохранения DeepMind было поглощено Google, эксперты по конфиденциальности начали опасаться, что это обещание будет нарушено[302].

Вторая большая ошибка заключалась в том, что компания Royal Free не позаботилась о том, чтобы пациенты получали пользу от продуктов, разработанных на основе их данных[303]. В учреждениях общественного здравоохранения имеется так много ценных медицинских данных, что они могут использовать это как преимущество на переговорах, – и на это стоит обратить внимание. Доступ других организаций к этим данным должен быть ограничен. Например, компании могут использовать данные, но не хранить их. Учреждениям здравоохранения следует потребовать юридических гарантий того, что любой разработанный продукт будет предлагаться учреждениям здравоохранения и населению по доступным ценам.

Всегда будет сложно обеспечить безопасность персональных данных при взаимодействии с компаниями, основной целью которых не является служение на благо обществу. Если нам повезет, то, возможно, самые важные медицинские достижения, которые может предложить искусственный интеллект, вообще не будут связаны с использованием персональных данных.

Достижения в медицине без использования персональных данных

Как мы видели, AlphaZero, один из лучших примеров искусственного интеллекта, является выдающимся достижением, но у него нет практического применения в повседневной жизни (во всяком случае, пока). Один из способов, которым искусственный интеллект может изменить (и, возможно, спасти) нашу жизнь, – это открытие новых лекарств.

Антибиотики, вероятно, являются самым важным достижением медицины прошлого века. До открытия антибиотиков основными причинами смерти во всем мире были бактериальные инфекционные заболевания. Продолжительность жизни в развивающихся странах сейчас значительно увеличилась, и люди умирают в основном от неинфекционных заболеваний, таких как болезни сердца и рак (на момент написания книги все еще неясно, станет ли уровень смертности от пандемии коронавируса выше уровня смертности от неинфекционных заболеваний. – Прим. авт.). К сожалению, эффективность этих чудесных лекарств сейчас находится под угрозой из-за развития устойчивости к антибиотикам.

Благодаря эволюционным процессам, таким как мутации, бактерии становятся устойчивыми к антибиотикам, воздействию которых они подвергались. Чем больше мы используем антибиотики, тем больше у этих бактерий возможностей для развития устойчивости. Мир без эффективных антибиотиков – это реальная и очень пугающая перспектива. Низкий риск неблагоприятного исхода хирургических операций может смениться очень высоким. Больше женщин будет умирать при родах. Риск летального исхода будет возникать при любом визите к стоматологу или сексе на одну ночь, где возможно подхватить инфекцию. Химиотерапия и трансплантация органов станут намного опаснее, поскольку эти методы лечения подавляют иммунную систему. Устойчивость к антибиотикам может быть основным фактором снижения продолжительности жизни.

Нам отчаянно нужны новые антибиотики, но процесс открытия и разработки лекарств идет медленно и стоит дорого. Однако исследователи из Массачусетского технологического института считают, что они, возможно, обнаружили способ разработать новые антибиотики. Загрузив в компьютерную программу информацию об атомных и молекулярных характеристиках тысяч лекарств и природных соединений, они научили алгоритм определять типы молекул, убивающих бактерии. Затем они задействовали базу данных из 6000 соединений. Алгоритм выбрал одну молекулу, которая, по прогнозам, обладает сильным антибактериальным действием и, что особенно важно, имеет химическую структуру, отличную от существующих антибиотиков.

Эта компьютерная модель может проверить более 100 миллионов химических соединений всего за несколько дней, что было бы невозможно сделать в обычной лаборатории[304]. Возможно, новый антибиотик, галицин, окажется сильнодействующим, а