Книга Сила конфиденциальности. Почему необходимо обладать контролем над своими персональными данными и как его установить - Карисса Велиз

сбора данных, но и путем гипотез.

Остановить гипотетическое определение данных в закрытом режиме

Организации, жаждущие узнать о нас больше, могут выйти за рамки, которые мы для них установили, путем гипотез, а не сбора конфиденциальной информации о нас. Цифровые следы, которые мы оставляем после взаимодействия с технологиями, обычно рассматриваются как образцы поведения, которые затем используются, чтобы делать о нас выводы.

Количество теорий о том, что можно узнать о нас по нашим данным, в последние несколько лет показывает стремительный рост. То, как люди используют смартфоны, можно положить в основу для прогнозирования результатов тестов на когнитивные способности, такие как память и концентрация. Проблемы с памятью можно определить по тому, насколько быстро люди набирают текст на телефоне, какие ошибки они делают и насколько быстро они прокручивают свой список контактов[273]. Лайки в Facebook используются для определения сексуальной ориентации, этнической принадлежности, религиозных и политических взглядов, личностных качеств, интеллекта, удовлетворенности жизнью, употребления вызывающих зависимость веществ, развода родителей, возраста и пола[274]. По движению глаз может быть выявлена дислексия. Ваши сообщения в Twitter и выражение вашего лица могут быть использованы для выявления депрессии. Этот список можно продолжить, но вы видите картину: внешние сигналы систематически используются компаниями и учреждениями для получения персональных данных о вас[275].

Существует множество проблем, связанных с гипотетическим определением данных. Такой метод почти ничем не отличается от других видов практик, нарушающих конфиденциальность, но некоторые из них присущи именно гипотезам. Как и в случае с тайным сбором личных данных, вызывает беспокойство то, что наша конфиденциальность может быть нарушена без нашего ведома. Хуже того, у вас мало или совсем нет контроля над некоторыми из этих внешних сигналов, поэтому вы мало что можете сделать, чтобы защитить себя.

Мы можем постараться не разглашать свои персональные данные, но мы не можем изменить лицо, походку, например, или то, как мы печатаем текст на телефоне. Все это – непроизвольные маркеры. И у вас нет возможности узнать, использует ли кто-то эту информацию и для каких целей.

Еще одна проблема, связанная с гипотетическим определением данных, заключается в том, что оно может быть неправильным в отношении человека и при этом использовано против него. Гипотезы, основанные на алгоритмах, являются вероятностными – они верны лишь в некоторых случаях. Степень корректности выводов сильно различается, и у компаний может не быть особого стимула удостовериться в их максимальной точности. Пока компании считают, что выводы дают им преимущество, они могут довольствоваться их использованием, даже если те несовершенны.

Например, исследователи смогли правильно определить, курил ли человек, на основании его лайков в Facebook в 73 % случаев[276]. Предположим, компания использует такой вывод, как фильтр для найма сотрудников. Если у них достаточно претендентов на работу, их может не беспокоить то, что они ошибаются в отношении 27 процентов соискателей, потому что, с их точки зрения, это все равно лучше, чем если бы они не использовали этот метод. Однако если вы один из тех неудачников, которых ошибочно считают курильщиком, то вы пострадали от несправедливости и можете никогда не узнать об этом, потому что компания просто не сообщит вам, почему вы не получили эту работу.

В некоторых случаях использование гипотетических личностных построений может быть приемлемо. Будучи пациентом, вы можете захотеть, чтобы ваш врач проанализировал, как вы печатаете на своем смартфоне, чтобы как можно раньше обнаружить возможные когнитивные проблемы. Но подобные гипотетические построения должны регулироваться так же строго, как и персональные данные, потому что используются в качестве таковых – даже если они ошибочны. У субъектов данных следует запрашивать их согласие всякий раз, когда используются их внешние признаки для гипотетических личностных построений. (Исключением могут быть случаи, когда полиция проводит расследование в отношении подозреваемых в совершении преступлений. В этом случае мы должны установить очень высокие стандарты точности. Но даже в этом случае подозреваемый должен быть проинформирован о деталях этих гипотез сразу после завершения полицейского расследования и у него должна быть возможность оспорить неточные гипотезы. – Прим. авт.) Гипотетические личностные построения должны пользоваться таким же уровнем защиты, как и персональные данные. Как и в случае с персональными данными, в соответствии с европейским GDPR, субъекты данных должны иметь право оспаривать и исправлять неточные гипотезы.

Ситуация значительно улучшится с исчезновением рекламы с микротаргетингом, торговли персональными данными, сбора персональных данных по умолчанию и гипотетических выводов о субъектах данных. Но этих мер по-прежнему недостаточно, потому что нам все еще нужно будет заботиться о тех ситуациях, когда персональные данные не продаются, но могут быть использованы неправильно, вопреки интересам субъектов данных.

Внедрить фидуциарные обязанности

В большинстве стран закон не заставляет подозреваемых в совершении уголовных преступлений давать показания против себя. Есть что-то извращенное в том, чтобы заставить людей действовать против своих интересов. Федеральный судья в Калифорнии запретил полиции заставлять подозреваемых разблокировать свои телефоны, потому что это аналогично самооговору[277]. И все же мы терпим, когда невиновных пользователей Сети заставляют передавать свои персональные данные, которые затем используются всеми способами, противоречащими их интересам.

Мы должны защищать пользователей Сети по крайней мере так же, как мы защищаем подозреваемых в совершении преступлений. Наши персональные данные не должны использоваться в качестве оружия против нас. Для достижения этой цели мы должны наложить на организации, которые собирают персональные данные и управляют ими, фидуциарные обязанности[278]. Фидуциарии – это доверенные лица, такие как финансовые консультанты, врачи и юристы, которые несут ответственность за лояльность и заботу о своих клиентах, то же самое должны делать и компании, хранящие персональные данные. Слово «фидуциарий» происходит от латинского глагола «fidere» – доверять.

В основе фидуциарных отношений лежит доверие. Во-первых, потому что доверенному лицу передают нечто очень ценное: ваши финансы, здоровье, юридические дела или персональные данные. Во-вторых, потому что, доверяя эти ценности другим, вы становитесь весьма уязвимым. Принимая то, что им доверено, и признавая вашу уязвимость, фидуциарии обязаны оправдывать возложенное на них доверие[279].

Фидуциарные обязанности существуют для защиты лиц, находящихся в уязвимом положении, от профессионалов, которые должны их обслуживать, но могут иметь конфликт интересов. Ваш финансовый консультант может совершать избыточные траты с вашего счета, чтобы заработать больше комиссионных, или использовать ваши деньги для покупки ценных бумаг для себя. Ваш врач может провести вам операцию, которая является слишком рискованной или ненужной, просто для того, чтобы попрактиковаться в своих навыках или добавить данные к своим исследованиям. Ваш адвокат может продать ваши секреты другому клиенту, интересы которого противоречат вашим. И, как мы уже видели, те, кто собирает ваши данные, могут передать их стервятникам данных, преступникам