Слышно, что рохинья-террористы из так называемой Организации солидарности рохинья пересекают границу и попадают в страну с оружием. То есть в страну прибывают рохинья из других стран. Поскольку наши военные получили эту новость заранее, мы будем искоренять их до конца! Я считаю, что мы уже делаем это.
Пост продолжал: "Мы не хотим слышать о гуманитарных вопросах или правах человека от других". Этот пост не только разжигал ненависть к мусульманскому меньшинству, но и усиливал ложный нарратив о том, что рохинья проникают в страну извне.
В 2013 году буддийский монах Ашин Виратху, которого журнал Time в том же году назвал лицом буддийского террора, публиковал в Facebook сообщения, в которых называл рохинья вторгшимися иностранцами, убийцами и опасностью для страны. В конце концов он сказал: "Я принимаю термин "экстремист" с гордостью".
Призывы активистов и международных организаций к Facebook пресекать недостоверную информацию и подстрекательские посты продолжали расти. Один из руководителей Facebook признал: "Мы согласны, что можем и должны делать больше". Однако к августу 2017 года, что бы ни делал Facebook, этого было далеко недостаточно для контроля языка ненависти. Платформа стала главным средством организации того, что Соединенные Штаты в итоге назовут геноцидом.
Популярность языка вражды на Facebook в Мьянме не должна была стать сюрпризом. Бизнес-модель Facebook основана на максимизации вовлеченности пользователей, и любые сообщения, вызывающие сильные эмоции, включая, конечно, язык вражды и провокационную дезинформацию, предпочитаются алгоритмами платформы, поскольку они вызывают активное участие тысяч, иногда сотен тысяч пользователей.
Правозащитные группы и активисты еще в 2014 году обратились к руководству Facebook с обеспокоенностью по поводу растущего количества разжигания ненависти и совершаемых в результате этого злодеяний, но без особого успеха. Поначалу проблема игнорировалась, активисты упирались, в то время как количество ложной, подстрекательской информации против рохинджа продолжало расти. Так же как и свидетельства того, что на платформе организовывались преступления на почве ненависти, включая убийства мусульманского меньшинства. Хотя компания не хотела предпринимать значительных усилий для решения проблемы преступлений на почве ненависти, это не потому, что ей было наплевать на Мьянму. Когда правительство страны закрыло Facebook, руководители компании немедленно приступили к действиям, опасаясь, что отключение может оттолкнуть часть из двадцати двух миллионов пользователей в стране.
Facebook также удовлетворил требования правительства в 2019 году обозначить четыре этнические организации как "опасные" и запретить их на платформе. Эти сайты, хотя и связаны с этническими сепаратистскими группами, такими как Армия Аракана, Армия независимости Качина и Армия Национального демократического альянса Мьянмы, были одними из основных хранилищ фотографий и других доказательств убийств и других зверств, совершенных армией и экстремистскими буддийскими монахами.
Когда Facebook наконец отреагировал на давление, его решение заключалось в создании "стикеров" для идентификации потенциального языка ненависти. Стикеры позволяли пользователям размещать сообщения, содержащие вредный или сомнительный контент, но предупреждали их: "Подумайте, прежде чем поделиться" или "Не будьте причиной насилия". Однако оказалось, что алгоритм Facebook, подобно тупой версии программы ИИ, одержимой скрепками, был настолько нацелен на максимальное вовлечение, что регистрировал вредные сообщения как более популярные, поскольку люди вовлекались в контент, чтобы отметить его как вредный. Затем алгоритм рекомендовал этот контент более широко в Мьянме, что еще больше усугубляло распространение языка ненависти.
Уроки Мьянмы, похоже, не были хорошо усвоены Facebook. В 2018 году похожая динамика начала разыгрываться в Шри-Ланке: в Facebook появились посты, подстрекающие к насилию против мусульман. Правозащитные группы сообщали о разжигании ненависти, но безрезультатно. По оценке одного исследователя и активиста, "есть подстрекательства к насилию против целых сообществ, а Facebook говорит, что это не нарушает стандарты сообщества".
Два года спустя, в 2020 году, настала очередь Индии. Руководители Facebook проигнорировали призывы своих сотрудников и отказались удалить индийского политика Т. Раджа Сингха, который призывал расстреливать мусульманских иммигрантов рохинья и призывал к разрушению мечетей. Многие из них действительно были разрушены во время антимусульманских беспорядков в Дели в том году, в результате которых также погибло более пятидесяти человек.