Сегодня на ток-шоу AM много дезинформации и языка ненависти, но они не имеют того охвата, которого достигли национальные передачи отца Кофлина, или той платформы, которую алгоритмы Facebook предоставляют для дезинформации в сети.
Послевоенная реакция Германии на радиопропаганду была еще более всеобъемлющей. Конституция Германии запрещает высказывания, классифицируемые как Volksverhetzung, что означает "разжигание ненависти", а также подстрекательство к насилию или действия, унижающие достоинство определенных слоев населения. Согласно этому закону, отрицание Холокоста и распространение подстрекательской антиеврейской пропаганды находятся вне закона.
Цифровой выбор
Технологии ИИ не обязательно должны быть направлены на автоматизацию труда и контроль сотрудников на рабочих местах. Они также не должны были разрабатываться для усиления государственной цензуры. В цифровых технологиях также нет ничего антидемократического по своей сути, а социальные сети, безусловно, не должны быть направлены на максимальное усиление возмущения, экстремизма и негодования. Это был вопрос выбора - выбора технологических компаний, исследователей ИИ и правительств - который привел нас в наше нынешнее затруднительное положение.
Как мы уже упоминали ранее в этой главе, YouTube и Reddit изначально были в такой же степени поражены ультраправым экстремизмом, дезинформацией и языком вражды, как и Facebook. Но за последние пять лет эти две платформы предприняли некоторые шаги, чтобы уменьшить проблему.
По мере усиления общественного давления на YouTube и его материнскую компанию, Google, после появления таких инсайдерских рассказов, как рассказ Калеба Кейна, и разоблачений в New York Times и New Yorker, платформа начала изменять свои алгоритмы, чтобы уменьшить распространение наиболее вредоносного контента. Теперь Google утверждает, что продвигает видео из "авторитетных источников", которые с меньшей вероятностью могут быть использованы для радикализации или содержать дезинформацию. Компания также утверждает, что эти алгоритмические корректировки позволили сократить просмотр "пограничного контента" на 70 процентов ("пограничный" здесь означает, что компания утверждает, что язык ненависти уже прошел проверку).
История Reddit похожа. Являясь домом для самых экстремистских и подстрекательских материалов, изначально защищаемых одним из основателей, Стивом Хаффманом, как полностью соответствующие философии "открытого и честного обсуждения" сайта, платформа впоследствии отреагировала на давление общественности и ужесточила свои стандарты модерации. После того, как в 2017 году в Шарлотсвилле, штат Вирджиния, на митинге белых супремацистов "Объединяйтесь, правые", организованном и подпитываемом платформой, произошла вспышка насилия, в результате которой погиб один участник акции, а десятки других получили ранения, основатели Reddit и платформа изменили свою позицию. Платформа начала удалять десятки подразделов Reddit, пропагандирующих язык ненависти, расистские высказывания и откровенную дезинформацию. В 2019 году она удалила The_Donald.
Не стоит преувеличивать улучшения, вызванные саморегулированием платформ. На YouTube по-прежнему много дезинформации и манипуляций, которым часто способствуют алгоритмы, а на Reddit много ненавистного контента. Ни одна из платформ не изменила свою бизнес-модель, и в большинстве своем обе платформы продолжают полагаться на максимизацию вовлеченности и доходов от целевой рекламы. Платформы с другой бизнес-моделью, такие как Uber и Airbnb, были гораздо более активны в запрете языка ненависти на своих сайтах.
Но лучшей демонстрацией жизнеспособности альтернативных моделей является Википедия. Эта платформа является одним из самых посещаемых сервисов в Интернете, получив за последние несколько лет более 5,5 миллиардов уникальных посетителей в год. Википедия не пытается монополизировать внимание пользователей, поскольку не финансирует себя за счет рекламы.
Это позволило платформе выработать совершенно иной подход к дезинформации. Записи в этой онлайн-энциклопедии пишут анонимные добровольцы, и любой добровольный редактор может начать новую запись или изменить существующую. Платформа имеет несколько уровней администраторов, выдвинутых из числа частых пользователей с хорошим послужным списком. Среди добровольных авторов есть опытные редакторы с дополнительными привилегиями и обязанностями, такими как техническое обслуживание или разрешение споров. На более высоком уровне "стюарды" обладают большими полномочиями для разрешения разногласий. Согласно самой платформе, на стюардов "возложена задача технической реализации консенсуса сообщества, решение чрезвычайных ситуаций, вмешательство в борьбу с кросс-вики вандализмом". Над стюардами находится "Арбитражный комитет", состоящий из "добровольных редакторов, которые действуют согласованно или в подгруппах, навязывая обязательные решения по спорам о поведении, которые сообщество не смогло разрешить". "Администраторы" имеют возможность защищать и удалять страницы, а также блокировать редактирование в случае спорного содержания или случаев вандализма или дезинформации в прошлом. Самих администраторов контролируют и продвигают "бюрократы".