В то время как на Facebook оказывалось все большее давление, вице-президент компании по глобальным вопросам и коммуникациям, бывший заместитель премьер-министра Великобритании Ник Клегг, выступил в защиту политики компании, заявив, что платформу социальных сетей следует рассматривать как теннисный корт: "Наша работа заключается в том, чтобы убедиться, что корт готов - поверхность ровная, линии нарисованы, сетка на правильной высоте. Но мы не берем в руки ракетку и не начинаем играть. Как игроки будут вести игру, зависит от них, а не от нас".
На следующей неделе после выборов Facebook ввел чрезвычайную меру, изменив свои алгоритмы, чтобы остановить распространение правых теорий заговора, утверждающих, что на самом деле выборы выиграл Трамп, но они были украдены из-за незаконного голосования и нарушений в урнах. Однако к концу декабря алгоритм Facebook вернулся к своему обычному виду, и "теннисный корт" был открыт для реванша фиаско 2016 года.
Несколько экстремистских правых групп, а также Дональд Трамп продолжали распространять ложь, и теперь мы знаем, что восстание 6 января 2021 года было частично организовано с помощью Facebook и других социальных сетей. Например, члены ультраправой группы ополченцев "Хранители присяги" использовали Facebook для обсуждения того, как и где они встретятся, а несколько других экстремистских групп 6 января обменивались сообщениями в прямом эфире на этой платформе. Один из лидеров "Хранителей клятвы" Томас Колдуэлл, как утверждается, размещал информацию о том, как он вошел в Капитолий, и получал через платформу информацию о том, как ориентироваться в здании, а также подстрекал к насилию в отношении законодателей и полиции.
Дезинформация и язык вражды не ограничиваются Facebook. Примерно в 2016 году YouTube стал одной из самых мощных площадок для вербовки ультраправых. В 2019 году Калеб Кейн, двадцатишестилетний выпускник колледжа, снял видео на YouTube, объяснив, как он был радикализирован на этой платформе. По его словам, "я упал в кроличью нору альт-правых". Кейн объяснил, как он "все глубже и глубже погружался в это", просматривая все более радикальный контент, рекомендованный алгоритмами YouTube.
Журналист Роберт Эванс изучил, как десятки обычных людей по всей стране были завербованы этими группами, и пришел к выводу, что сами группы чаще всего упоминали YouTube на своем сайте: "15 из 75 фашистских активистов, которых мы изучили, приписывали видеоролики с YouTube своей вербовке". ("Red-pilling" означает жаргон, который использовали эти группы, со ссылкой на фильм "Матрица": принятие истин, пропагандируемых этими ультраправыми группами, было эквивалентно принятию красной таблетки в фильме).
Выбор алгоритмов YouTube и намерение увеличить время просмотра на платформе сыграли решающую роль в достижении этих результатов. Чтобы увеличить время просмотра, в 2012 году компания изменила свой алгоритм, придав больший вес времени, которое пользователи тратят на просмотр, а не просто кликают на контент. Этот алгоритмический твик начал благоприятствовать видео, которые люди стали смотреть, включая некоторые из самых зажигательных экстремистских материалов, на которые подсел Кейн.
В 2015 году YouTube привлек исследовательскую группу из подразделения ИИ своей материнской компании, Google Brain, для улучшения алгоритма платформы. Новые алгоритмы привели к тому, что у пользователей появилось больше возможностей для радикализации, и, конечно, они стали проводить больше времени на платформе. Один из исследователей Google Brain, Минмин Чен, похвастался на конференции по ИИ, что новый алгоритм успешно изменяет поведение пользователей: "Мы действительно можем направлять пользователей в другое состояние, а не рекомендовать знакомый контент". Это было идеальным решением для экстремистских групп, пытающихся радикализировать людей. Это означает, что пользователям, просматривающим видео о событиях 11 сентября, будет быстро рекомендован контент о заговоре 11 сентября. Поскольку около 70 процентов всех видео, просматриваемых на платформе, поступают по рекомендациям алгоритмов, это означает, что у пользователей есть много возможностей для дезинформации и манипуляций, чтобы затянуть их в кроличью нору.
Твиттер не стал исключением. Будучи любимым средством коммуникации бывшего президента Трампа, он стал важным инструментом общения между правыми (и отдельно среди левых). Антимусульманские твиты Трампа получили широкое распространение и впоследствии вызвали не только увеличение числа антимусульманских и ксенофобских сообщений на платформе, но и реальных преступлений на почве ненависти к мусульманам, особенно в тех штатах, где у президента было больше последователей.