7 января, когда большая часть мира пыталась понять, что, черт возьми, только что произошло, в блоге Эндрю Босворта, где он публиковал свои мысли о философии и лидерстве, появилось небольшое эссе под названием "Проблемы со стороны спроса". Его тезис заключался в том, что пользователи Facebook испытывают такую же ненасытную тягу к ненависти, как американцы - к наркотикам. Поэтому усилия Facebook по подавлению ненависти, хотя и с благими намерениями, потерпят неудачу, как и "война с наркотиками" - по крайней мере, "пока мы не добьемся большего социального прогресса как общество".
Никто не обратил на это внимания - в конце концов, это был личный философский блог руководителя Facebook, - но сообщение все равно произвело большое впечатление. Через день после того, как бунт, вызванный ненавистью и дезинформацией, потряс демократию, один из лучших лейтенантов Цукерберга обвинял в злодеяниях общество в целом - то есть пользователей Facebook.
Заметка представляла собой сокращенную версию предыдущего сообщения Босворта на Workplace, которое послужило началом дискуссии с коллегами по работе, в которой он пошел дальше. Он писал, что слишком жесткое подавление - плохая идея, потому что пользователи, стремящиеся к ненависти, "просто удовлетворят свои потребности в другом месте".
Аргументы Босворта содержали некоторые нюансы: Как организация, контролирующая поставку контента, Facebook была обязана "инвестировать огромные средства" в безопасность пользователей. И руководитель, который курировал аппаратный бизнес Facebook, а не модерацию контента, в других заметках говорил, что он выступает за то, чтобы больше работать над устранением предвзятости рекомендаций по отношению к проблемам, связанным с возмущением и вирусностью.
Но многие сотрудники Integrity, прочитавшие этот пост, поняли его проще. Если люди должны быть фанатиками, компания предпочла бы, чтобы они были фанатиками на Facebook.
-
К тому времени, когда в Facebook начались вскрытия бунта в Капитолии, мы с Хаугеном встречались примерно каждую неделю на заднем дворе моего дома в Окленде, штат Калифорния. Чтобы максимально предотвратить возможную слежку, я заплатил наличными за дешевый телефон Samsung и дал его Хоген, которую я теперь называл "Шон Маккейб". Это имя она выбрала сама, позаимствовав его у своего друга из местной художественной среды Сан-Франциско, который умер сразу после нашей встречи. Маккейб был смутьяном и любителем острых ощущений, и она была уверена, что он одобрил бы то, что она делала.
Теперь "Шон" использовал телефон, чтобы делать скриншоты файлов на своем рабочем ноутбуке и переносить изображения на компьютер, который она купила, чтобы иметь устройство, которое никогда не было подключено к Интернету.
Один из этих файлов - итоговый документ, составленный Facebook по результатам вскрытия, озаглавленный "Stop the Steal and the Patriot Party: Рост и ослабление вредоносного движения". Многие из тех, кто участвовал в его составлении, были бывшими членами Civic. Документ был проиллюстрирован карикатурой на собаку в каске пожарного на фоне горящего здания Капитолия. (Горячий документ будет опубликован BuzzFeed в апреле).
"Что делать, если движение аутентично, координируется низовыми или аутентичными средствами, но по своей сути вредно и нарушает дух нашей политики?" - спрашивается в докладе. "Мы разрабатываем инструменты, протоколы и проводим политические дискуссии, чтобы в следующий раз действовать лучше".
Менее чем за полтора года до этого, выступая в Джорджтауне, Цукерберг отругал неназванных критиков социальных сетей, которые хотели, чтобы Facebook "навязывал толерантность сверху вниз". Путь к прогрессу, заявил он, "требует противостояния идеям, которые бросают нам вызов". Теперь Facebook столкнулась с возможностью того, что ее платформам не суждено приносить здоровые результаты. Небольшая группа гиперактивных пользователей использовала собственные инструменты Facebook для стимулирования роста, чтобы добиться широкого распространения подстрекательского контента.
После 6 января Хауген был включен в состав рабочей группы, призванной заниматься "вредоносными сетями". Перед ней была поставлена задача выявить уроки, которые можно извлечь из уже проделанной Facebook работы по Патриотической партии, которая рассматривалась как шаблон для будущих действий. Составив карту вредоносных движений и определив их руководящие структуры, Facebook могла бы при необходимости нанести молниеносный удар, чтобы выбить их из строя, а затем начать операции по зачистке, чтобы предотвратить перегруппировку новых лидеров. Мы с ней в шутку назвали эту новую стратегию "подходом "Шестой команды морских котиков"".