Книга Внутри Facebook. Голая правда - Шира Френкель

В течение дня Facebook получила 455 жалоб на страницу с указанием конкретных комментариев, нарушающих правила соцсети о призывах к насилию. Но по мере приближения часа начала протеста страница оставалась доступной.

Когда спустились сумерки, начались столкновения между протестующими и группой вооруженных людей, которые называли себя «Гвардия Кеноши». В 23:45 по местному времени в Кеноше двоих человек застрелили, а третий был ранен молодым человеком, предположительно имевшим при себе винтовку AR-15.

В тот вечер Цукерберг получил уведомление о стрельбе и возможной связи события с Facebook. Он попросил свои команды по политике провести расследование. За шесть дней до этого платформа приняла политику запрета именно таких экстремистских групп и ополчений. «Почему, – спросил Цукерберг, – страница в Кеноше не была удалена?»

На следующее утро, когда новостные издания со всех концов США обратились в Facebook за комментариями, он получил ответ. Страница в Кеноше действительно нарушала правила Facebook, но модераторы еще не были обучены тому, что нужно делать в таком случае.

PR-команда Facebook сообщила журналистам, что платформа удалила страницу Кеноши и что стрелок не был ее подписчиком. Оба заявления искажали истину. Хотя стрелок действительно не подписывался на Kenosha Guard, он был активен на Facebook и в прошлом смотрел и комментировал страницы, посвященные полиции. И хотя Facebook удалила мероприятие в ночь на 25 августа, на самом деле она не предприняла никаких действий в отношении Kenosha Guard. Один из администраторов страницы удалил ее самостоятельно223.

На следующий день на встрече «Вопросы и ответы» Цукерберг сказал, что произошла «операционная ошибка», связанная с модераторами контента, которые не были обучены передавать подобные сообщения специализированным группам. Он добавил, что при повторном рассмотрении ответственные за опасные организации лица поняли, что страница нарушает политику компании, и «мы ее удалили». Объяснение Цукерберга не понравилось сотрудникам, которые посчитали, что он обвиняет модераторов, самых низкооплачиваемых контрактных работников в карьерной системе Facebook. А когда один из инженеров написал на форуме Tribe, что Цукерберг сказал неправду о том, кто на самом деле удалил страницу, многие посчитали, что их ввели в заблуждение. «И снова Марк отнесся к этому как к единичной ошибке. Он пытался свалить вину на других. Он не мог понять, что в Facebook что-то систематически не так, раз такая группа вообще может существовать, не говоря уже о создании мероприятия и постах участников, открыто призывающих стрелять и убивать людей», – сказал один инженер, который повторил эти опасения своему руководителю, но получил в ответ рекомендацию «набраться терпения», пока Facebook реализует свои новые правила.

В последующие недели правые группы сплотились вокруг стрелка из Кеноши. В его честь были созданы фан-страницы на Facebook, а его поступок восхвалялся как действия настоящего патриота. В течение месяца Facebook удалила более 6500 страниц и групп, посвященных ополченцам. Как только одна страница удалялась, на ее месте появлялось несколько других, обходя автоматические системы, запрограммированные на их обнаружение.

Кризис в Кеноше высветил все уязвимые места платформы. Сбивая людей в группы, Facebook дала возможность маргинальным движениям, включая ополченцев и поклонников теорий заговоров, организовывать и вербовать последователей на сайте. Даже когда Facebook предприняла шаги по введению прямого запрета, многим удалось найти лазейку, что привело к кровопролитию. Цукерберг и Facebook продолжали разбираться с группами в индивидуальном порядке, но это означало, что меры принимались лишь после того, как группа становилась проблемой.

Комментарий одного из его опытных инженеров на форуме Tribe был передан Цукербергу через менеджеров компании. «Если мы развалим демократию, это станет единственным, за что нас будут помнить, – написал тот, сетуя на острую ненависть, политиканство и дезинформацию, наводнившие Facebook. – Разве такое наследие мы хотим оставить после себя?»

В течение шести дней в октябре 2020 года Facebook сделала два больших заявления. 6 октября компания объявила о полном запрете QAnon на сайте. А 12 октября было объявлено о правилах насчет дезинформации о холокосте. Втихомолку, не афишируя этого, Facebook удаляла тысячи групп ополченцев. Цукерберг отступался от своих давних убеждений в отношении свободы слова, но никто в компании, включая его самого, не сформулировал это как последовательное изменение политики. На встрече «Вопросы и ответы» 15 октября он ответил отрицательно на вопрос, изменил ли он своим принципам: «Многие прислали один и тот же вопрос: почему мы делаем это сейчас? В чем причина, и отражает ли это изменение в нашей основной философии? Поэтому я хотел бы, пользуясь возможностью, поговорить об этом прямо. Вот мой ответ: нет, это не означает, что мы изменили свою основополагающую философию или перестали всеми силами поддерживать свободу слова. Это реакция на повышенный риск насилия и беспорядков».

И Цукерберг, и PR-отдел Facebook преподнесли эти действия как индивидуальные решения, которые в силу совпадения были приняты в одно и то же время. «Все в Facebook как бы приняли такое положение дел, и это как раз тот культ, который существует во внутреннем круге Марка. Никто не сказал: “Подождите-ка, то есть мы изменили нашу позицию в отношении того, что мы разрешаем на Facebook? Может, нам следует объяснить нашу точку зрения?” Никто этого не сделал, – говорит один из сотрудников, в то время принимавший участие во встречах с Цукербергом. – Это было за месяц до выборов, и казалось, что мы просто работаем в чрезвычайном режиме».

Разные группы, от Антидиффамационной лиги до Американо-израильского комитета по общественным связям, высоко оценили запреты, но сказали, что этого недостаточно: они настаивали на том, чтобы платформа запретила политическую рекламу за неделю до голосования и приняла решительные меры против дезинформации, особенно против заявлений о победе какого-либо одного кандидата до официального окончания подсчета голосов. Цукерберг согласился. Facebook потратила последние несколько лет на внедрение функций, направленных на выявление дезинформации в ходе выборов, включая работу с внешними специалистами по проверке фактов, маркировку ложного или вводящего в заблуждение контента и удаление десятков тысяч аккаунтов на Facebook, пытавшихся повторить «скоординированное манипулятивное воздействие», которое русские использовали в 2016 году. Также обсуждалось создание «аварийного выключателя», который отключит политическую рекламу после 3 ноября, если один из кандидатов оспорит результаты выборов. «Чем ближе к выборам, тем яснее становилось, что у нас может возникнуть ситуация, когда один из кандидатов использует нашу платформу, чтобы объявить о своей победе, – сказал один из членов группы Facebook по выборам, в которую входили сотни людей со всей компании. – Мы не произносили слово “Трамп”, но очевидно подразумевали его». Цукерберг участвовал в ежедневных совещаниях с командой по выборам и сказал близким к нему людям, что 3 ноября станет решающим моментом для компании. «Он сказал, что, если мы не сделаем все правильно, никто больше не будет доверять Facebook», – вспоминает член этой команды.