В то время как Трамп агитировал из Белого дома, только что созданная группа в Facebook под названием "Остановить кражу" росла на десятки тысяч пользователей в час, став центральной частью инфраструктуры для диких заявлений о наглой фальсификации выборов. Ни одно из этих заявлений не выдержало более чем нескольких часов проверки. Но это не имело значения. К тому времени, когда специалисты по проверке фактов опровергли утверждения о фальсификации электронных машин для голосования в Пенсильвании, Stop the Steal уже перешел к крикам о том, что работники избирательных участков предоставляют избирателям-республиканцам в Аризоне ручку не того типа, что позволяет признать их голоса недействительными.
Менее чем через двадцать четыре часа, когда Facebook удалил группу, сославшись на "чрезвычайные меры", ее численность превысила 360 000 человек. Распространение ложных утверждений о фальсификации выборов среди массовой аудитории в то время, когда вооруженные люди призывали прекратить подсчет голосов возле центров подведения итогов, было очевидной проблемой, и компания знала, что она будет только разрастаться. На момент прекращения работы Facebook в группе Stop the Steal находилось еще 2,1 миллиона пользователей, ожидавших вступления в нее.
Руководство Facebook назвало бы рост Stop the Steal беспрецедентным, хотя сотрудников Civic можно было бы простить за то, что они не разделяли чувства удивления. Более поздний анализ подтвердил то, что многие сразу же заподозрили. Супервизитеры делали свое дело: 30 процентов членов группы Stop the Steal можно было отследить всего по 0,3 процента пользователей.
Были и другие признаки проблем. Классификаторы Facebook были достаточно хороши, чтобы обнаружить, что во время подъема Stop the Steal по всей стране разгорелась ненависть, но они не были достаточно хороши, чтобы уничтожить его. Наступил "безудержный вредоносный вирус", о котором предупреждал КХ Джин, и, как он и предупреждал, защита Facebook была слишком слабой, а правила - слишком запутанными, чтобы успеть за ним. Платформа была просто слишком быстрой.
Днем 5 ноября, через два дня после окончания голосования, Facebook "разбил стекло" на выборах 2020 года в США. Внезапно посты в группах с историей нарушения правил Facebook стали требовать одобрения администратора. Пользователи, желающие поделиться контентом, связанным с выборами, должны были пройти через уведомление, направляющее их к законным источникам информации. Посты, классифицированные как имеющие 70-процентную или более высокую вероятность подстрекательства к насилию, стали исчезать, а темы комментариев с аномально высоким количеством ненавистнических высказываний - замораживаться. Издания, получившие низкие оценки по показателям качества, получили гораздо меньшее распространение, как и сообщения, которые перепощивались в длинных вирусных цепочках.
Название одной из мер "Разбить стекло" - "Прекратить поднимать контент из нерекомендуемых групп" - подчеркивает, насколько все это было исправлено. Вместо того чтобы замедлить работу платформы теми тонкими способами, которые давно рекомендовали сотрудники компании по вопросам честности, Facebook включила экстренный тормоз. В общей сложности шестьдесят четыре отдельные меры по устранению нарушений были приняты задолго до того, как 7 ноября Байден был избран на выборы.
Меры Facebook по экстренному успокоению сработали, как и планировалось, и были отменены, как и планировалось. Менее чем через месяц, когда показатели насилия и подстрекательства в Facebook снизились до предвыборного уровня, компания начала их сворачивать. Одними из первых были ужесточены наказания за подстрекательство к насилию и штрафы за неоднократное размещение дезинформации.
-
2 декабря около двухсот членов команды Facebook по обеспечению гражданской целостности собрались на общее собрание. Никто не был уверен, на чем сосредоточится команда теперь, когда выборы прошли. Все знали, что между командами Civic, Public Policy и рядом продуктовых отделов существует напряженность и назрели какие-то перемены. По их мнению, настало время для очередной реорганизации.
Розен начал встречу, поблагодарив команду Civic и сказав, что они многое изменили. Работа, которую они выполняли, была тяжелой, междисциплинарной и важной, и теперь, когда выборы остались позади , пришло время мыслить более методично. Усилия Civic не очень хорошо масштабировались, поэтому многое из того, что делала команда, было разовым. Чтобы исправить это, требовалось более тесное сотрудничество с другими командами внутри компании.
"И поэтому я очень рад следующему этапу в нашем подходе к целостности", - сказал он всем собравшимся, после чего предоставил слово Чакрабарти, чтобы рассказать о том, что Розен назвал "эволюцией Civic org".