В еще более широком масштабе, с XVI по XX век, многочисленные колониальные бюрократии в Северной и Южной Америке, от Бразилии, Мексики и Карибского бассейна до Соединенных Штатов, создали расистскую мифологию и придумали всевозможные интерсубъективные расовые категории. Людей делили на европейцев, африканцев и коренных американцев, а поскольку межрасовые сексуальные отношения были широко распространены, были придуманы дополнительные категории. Во многих испанских колониях законы различали метисов - людей со смешанным испанским и коренным американским происхождением; мулатов - людей со смешанным испанским и африканским происхождением; замбос - людей со смешанным африканским и коренным американским происхождением; пардос - людей со смешанным испанским, африканским и коренным американским происхождением. Все эти, казалось бы, эмпирические категории определяли, могут ли люди находиться в рабстве, пользоваться политическими правами, носить оружие, занимать государственные должности, быть принятыми в школу, заниматься определенными профессиями, жить в определенных кварталах, иметь право заниматься сексом и вступать в брак друг с другом. Утверждалось, что, поместив человека в определенный расовый ящик, можно определить его личность, интеллектуальные способности и этические наклонности.
В XIX веке расизм претендовал на звание точной науки: он утверждал, что различает людей на основе объективных биологических фактов, и опирался на научные инструменты, такие как измерение черепов и учет статистики преступлений. Но облако цифр и категорий было лишь дымовой завесой для абсурдных интерсубъективных мифов. Тот факт, что у кого-то бабушка - коренная американка или отец - африканец, конечно же, ничего не говорит об их интеллекте, доброте или честности. Эти фиктивные категории не открывали и не описывали никакой правды о людях; они навязывали им угнетающий, мифологический порядок.
По мере того как компьютеры заменяют людей во все большем количестве бюрократических структур, от сбора налогов и здравоохранения до обеспечения безопасности и правосудия, они тоже могут создать мифологию и навязать ее нам с беспрецедентной эффективностью. В мире, где правили бумажные документы, бюрократам было сложно следить за расовыми границами или отслеживать точную родословную каждого человека. Люди могли получать фальшивые документы. Замбо мог переехать в другой город и притвориться пардо. Чернокожий мог иногда выдавать себя за белого. Точно так же в Советском Союзе детям кулаков иногда удавалось подделать свои документы, чтобы получить хорошую работу или место в колледже. В нацистской Европе евреи иногда могли принимать арийскую идентичность. Но в мире, где правят компьютеры, способные считывать радужные оболочки глаз и ДНК, а не бумажные документы, обмануть систему будет гораздо сложнее. Компьютеры могут с пугающей эффективностью навешивать на людей ложные ярлыки и следить за тем, чтобы эти ярлыки приклеивались.
Например, системы социальных кредитов могут создать новый низший класс "людей с низкой кредитоспособностью". Такая система может утверждать, что она просто "открывает" истину с помощью эмпирического и математического процесса суммирования баллов для формирования общей оценки. Но как именно она будет определять просоциальное и антисоциальное поведение? Что произойдет, если такая система будет снимать баллы за критику политики правительства, за чтение иностранной литературы, за исповедование религии меньшинства, за отсутствие религии или за общение с другими людьми с низким кредитом? В качестве эксперимента подумайте, что может произойти, когда новая технология системы социальных кредитов встретится с традиционными религиями.
В таких религиях, как иудаизм, христианство и ислам, всегда считалось, что где-то там, за облаками, есть всевидящее око, которое начисляет или снимает баллы за все, что мы делаем, и что наша вечная судьба зависит от того, сколько баллов мы набрали. Конечно, никто не мог быть уверен в своем результате. Это можно было узнать только после смерти. С практической точки зрения это означало, что греховность и святость - интерсубъективные явления, само определение которых зависит от общественного мнения. Что может случиться, если иранский режим, например, решит использовать свою компьютерную систему наблюдения не только для того, чтобы обеспечить соблюдение строгих законов о хиджабах, но и для того, чтобы превратить греховность и святость в точные межкомпьютерные феномены? Вы не надели хиджаб на улице - это -10 баллов. Вы поели в Рамадан до захода солнца - еще 20 баллов. Вы ходили на пятничную молитву в мечеть - +5 баллов. Вы совершили паломничество в Мекку - +500 баллов. Затем система может суммировать все баллы и разделить людей на "грешников" (менее 0 баллов), "верующих" (от 0 до 1 000 баллов) и "святых" (более 1 000 баллов). Кто является грешником или святым, будет зависеть от алгоритмических расчетов, а не от убеждений человека. Будет ли такая система открывать правду о людях или навязывать им порядок?