К сожалению, алгоритмы социального кредитования в сочетании с вездесущими технологиями наблюдения теперь грозят объединить все статусные соревнования в одну бесконечную гонку. Даже в собственном доме или во время расслабленного отдыха люди должны будут крайне внимательно следить за каждым своим поступком и словом, как будто выступают на сцене перед миллионами. Это может создать невероятно напряженный образ жизни, разрушительный как для благополучия людей, так и для функционирования общества. Если цифровые бюрократы будут использовать точную систему баллов, чтобы постоянно следить за всеми, то зарождающийся рынок репутации может уничтожить частную жизнь и контролировать людей гораздо жестче, чем это когда-либо делал денежный рынок.
ВСЕГДА ВКЛЮЧЕН
Люди - органические существа, живущие по циклическому биологическому времени. Иногда мы бодрствуем, иногда спим. После интенсивной деятельности нам нужен отдых. Мы растем и разрушаемся. Сети людей также подвержены биологическим циклам. Они то включаются, то выключаются. Собеседования не длятся вечно. Полицейские агенты не работают двадцать четыре часа в сутки. Бюрократы берут отпуск. Даже денежный рынок уважает эти биологические циклы. Нью-Йоркская фондовая биржа работает с понедельника по пятницу, с 9:30 утра до 4:00 дня, и закрыта по праздникам, таким как День независимости и Новый год. Если война разразится в пятницу в 16:01, рынок не отреагирует на нее до утра понедельника.
В отличие от этого, сеть компьютеров может быть всегда включена. Следовательно, компьютеры подталкивают людей к новому виду существования, в котором мы всегда подключены и всегда находимся под наблюдением. В некоторых контекстах, например в здравоохранении, это может быть благом. В других контекстах, например для граждан тоталитарных государств, это может стать катастрофой. Даже если сеть потенциально благотворна, сам факт того, что она всегда "включена", может оказаться губительным для таких органических существ, как люди, поскольку лишит нас возможности отключиться и расслабиться. Если у организма нет возможности отдохнуть, он в конце концов разрушается и умирает. Но как заставить неумолимую сеть замедлиться и дать нам передышку?
Мы должны предотвратить полный контроль компьютерной сети над обществом не только для того, чтобы дать нам время на отдых. Перерывы еще более важны для того, чтобы дать нам шанс исправить ситуацию в сети. Если сеть продолжит развиваться ускоренными темпами, ошибки будут накапливаться гораздо быстрее, чем мы сможем их выявить и исправить. Ведь несмотря на то что сеть неумолима и вездесуща, она также небезупречна. Да, компьютеры могут собирать беспрецедентные объемы данных о нас, наблюдая за тем, что мы делаем двадцать четыре часа в сутки. И да, они могут выявлять закономерности в океане данных со сверхчеловеческой эффективностью. Но это не значит, что компьютерная сеть всегда будет точно понимать мир. Информация - это не истина. Система тотального наблюдения может сформировать очень искаженное представление о мире и людях. Вместо того чтобы узнать правду о мире и о нас, сеть может использовать свою огромную мощь для создания нового типа мирового порядка и навязывания его нам.
ГЛАВА 8.
Неверный: Сеть часто ошибается
В книге "Архипелаг ГУЛАГ" (1973) Александр Солженицын описывает историю советских трудовых лагерей и информационной сети, которая их создавала и поддерживала. Он писал отчасти из горького личного опыта. Когда Солженицын служил капитаном в Красной армии во время Второй мировой войны, он вел частную переписку со своим школьным другом, в которой иногда критиковал Сталина. Чтобы подстраховаться, он не называл диктатора по имени и говорил только о "человеке с усами". Это мало помогало ему. Его письма перехватывала и читала тайная полиция, и в феврале 1945 года, во время службы на передовой в Германии, он был арестован. Следующие восемь лет он провел в исправительно-трудовых лагерях. Многие из выстраданных Солженицыным историй по-прежнему актуальны для понимания развития информационных сетей в XXI веке.