Книга Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

имя его матери, но это ему мало помогло. Алгоритмам ФБР удалось сопоставить видеозапись, сделанную 6 января 2021 года, с фотографией из заявления на получение паспорта, поданного мужчиной в 2017 году. Они также сопоставили отличительную куртку рыцарей Колумба, в которую он был одет 6 января, с курткой, которая была на нем по другому поводу, запечатленному в ролике на YouTube. Телефон, зарегистрированный на имя его матери, был геолокационно привязан к территории Капитолия, а считыватель номерных знаков зафиксировал его машину возле Капитолия утром 6 января.2

Алгоритмы распознавания лиц и базы данных, основанные на искусственном интеллекте, сегодня являются стандартными инструментами полицейских сил по всему миру. Они используются не только в чрезвычайных ситуациях или в целях обеспечения государственной безопасности, но и для решения повседневных задач. В 2009 году в китайской провинции Сычуань преступная группировка похитила трехлетнего Гуй Хао, когда он играл возле магазина своих родителей. Затем мальчик был продан в семью в провинции Гуандун, расположенную примерно в 1500 километрах. В 2014 году главарь банды торговцев детьми был арестован, но найти Гуй Хао и других жертв оказалось невозможно. "Внешность детей настолько изменилась бы, - объяснил один из полицейских следователей, - что даже родители не смогли бы их узнать".

Однако в 2019 году алгоритму распознавания лиц удалось идентифицировать тринадцатилетнего Гуй Хао, и подросток воссоединился со своей семьей. Чтобы правильно идентифицировать Гуй Хао, ИИ опирался на его старую фотографию, сделанную, когда он был совсем маленьким. ИИ смоделировал, как должен выглядеть тринадцатилетний Гуй Хао, с учетом резкого взросления, а также возможных изменений в цвете волос и прическе, и сравнил полученную симуляцию с реальными кадрами.

В 2023 году были зафиксированы еще более удивительные случаи спасения. Юэчуань Лэй был похищен в 2001 году, когда ему было три года, а Хао Чэнь пропал в 1998 году, также в возрасте трех лет. Родители обоих детей не теряли надежды найти их. Более двадцати лет они колесили по Китаю в их поисках, размещали объявления и предлагали денежное вознаграждение за любую значимую информацию. В 2023 году алгоритмы распознавания лиц помогли найти обоих пропавших мальчиков, теперь уже взрослых мужчин двадцати лет. Подобные технологии сегодня помогают найти пропавших детей не только в Китае, но и в других странах, например в Индии, где ежегодно пропадают десятки тысяч детей.

Тем временем в Дании футбольный клуб Brøndby IF в июле 2019 года начал использовать технологию распознавания лиц на своем домашнем стадионе, чтобы выявлять и запрещать футбольных хулиганов. Когда до 30 000 болельщиков приходят на стадион, чтобы посмотреть матч, их просят снять маски, шапки и очки, чтобы компьютер мог просканировать их лица и сравнить их со списком запрещенных нарушителей порядка. Очень важно, что процедура была проверена и одобрена в соответствии со строгими правилами GDPR ЕС. Датское управление по защите данных пояснило, что использование технологии "позволит более эффективно следить за соблюдением запретительного списка по сравнению с ручными проверками, и это может уменьшить очереди у входа на стадион, снизив риск общественных беспорядков из-за нетерпеливых футбольных фанатов, стоящих в очередях".

Хотя в теории такое использование технологий похвально, оно вызывает очевидные опасения по поводу неприкосновенности частной жизни и чрезмерного вмешательства государства. В неумелых руках те же технологии, которые позволяют обнаруживать участников беспорядков, спасать пропавших детей и запрещать футбольных хулиганов, могут быть использованы для преследования мирных демонстрантов или принуждения к жесткому конформизму. В конечном итоге технология наблюдения с помощью ИИ может привести к созданию режимов тотальной слежки, которые будут круглосуточно контролировать граждан и способствовать новым видам вездесущих и автоматизированных тоталитарных репрессий. В качестве примера можно привести иранские законы о хиджабах.

После того как в 1979 году Иран стал исламской теократией, новый режим обязал женщин носить хиджаб. Однако иранской полиции нравов было трудно обеспечить соблюдение этого правила. Они не могли поставить полицейского на каждом углу, а публичные столкновения с женщинами, которые не носили хиджаб, периодически вызывали сопротивление и недовольство. В 2022 году Иран возложил большую часть работы по обеспечению соблюдения законов о хиджабах на общенациональную систему алгоритмов распознавания лиц, которая неустанно следит как за физическими пространствами, так и за онлайн-средой. Высокопоставленный иранский чиновник объяснил, что система "выявляет неуместные и необычные движения", включая "несоблюдение законов о хиджабах". Глава парламентского комитета по правовым и судебным вопросам Ирана Муса Газанфарабади в другом интервью заявил, что "использование камер с записью лиц может систематически выполнять эту задачу и сократить присутствие полиции, в результате чего больше не будет столкновений между полицией и гражданами".

Вскоре после этого, 16 сентября 2022 года, 22-летняя Махса Амини умерла в застенках иранской полиции нравов после того, как ее арестовали за то, что она не носила хиджаб должным образом. Поднялась волна протестов, известная как движение "Женщина, жизнь, свобода". Сотни тысяч женщин и девушек сняли головные платки, а некоторые публично сожгли свои хиджабы и танцевали вокруг костров. Чтобы подавить протесты, иранские власти вновь обратились к своей системе искусственного интеллекта, которая использует программы распознавания лиц, геолокацию, анализ веб-трафика и уже существующие базы данных. По всему Ирану было арестовано более 19 000 человек и более 500 убито.

8 апреля 2023 года начальник полиции Ирана объявил, что с 15 апреля 2023 года начнется новая интенсивная кампания, в рамках которой будут усиленно использоваться технологии распознавания лиц. В частности, алгоритмы отныне будут выявлять женщин, решивших не носить головной платок во время поездки в автомобиле, и автоматически отправлять им SMS-предупреждение. Если женщину поймают на повторном нарушении, ей будет приказано обездвижить свой автомобиль на заранее оговоренный срок, а если она не выполнит требования, автомобиль будет конфискован.

Два месяца спустя, 14 июня 2023 года, представитель иранской полиции похвастался, что автоматизированная система наблюдения отправила почти миллион SMS-сообщений с предупреждениями женщинам, которых запечатлели обнаженными в их личных автомобилях. По всей видимости, система была способна автоматически определить, что перед ней не мужчина, а обнаженная женщина, идентифицировать ее и узнать номер ее мобильного телефона. Кроме того, система "выдала 133 174 SMS-сообщения с требованием обездвижить автомобили на две недели, конфисковала 2 000 автомобилей и направила более 4 000 "рецидивистов" в судебные органы".

52-летняя женщина по имени Марьям поделилась с Amnesty International своим опытом работы с системой наблюдения. "В первый раз я получила предупреждение за то, что не носила платок за рулем, - я проезжала перекресток, когда камера сделала снимок, и я сразу же получила предупреждающее текстовое сообщение. Во второй раз я делала покупки, заносила