В одной из историй рассказывается о событиях на районной партийной конференции в Московской области в конце 1930-х годов, в разгар сталинского Большого террора. Прозвучал призыв воздать должное Сталину, и собравшиеся, которые, конечно, знали, что за ними внимательно наблюдают, разразились аплодисментами. После пяти минут аплодисментов "ладони болели, а поднятые руки уже болели. А пожилые люди задыхались от усталости.... Однако кто же осмелится первым остановиться?" Солженицын рассказывает, что "люди из НКВД стояли в зале, аплодировали и смотрели, кто первый остановится!" Так продолжалось шесть минут, потом восемь, потом десять. "Они не могли остановиться, пока не падали в обморок от сердечных приступов! ...С неправдоподобным энтузиазмом на лицах, глядя друг на друга со слабой надеждой, руководители района собирались продолжать и продолжать аплодировать, пока не упадут там, где стояли".
Наконец, через одиннадцать минут директор бумажной фабрики взял свою жизнь в руки, перестал хлопать и сел. Все остальные тут же перестали хлопать и тоже сели. В ту же ночь тайная полиция арестовала его и отправила в ГУЛАГ на десять лет. "Его следователь напомнил ему: Никогда не будь первым, кто перестанет аплодировать!"
Эта история раскрывает важнейший и тревожный факт об информационных сетях, и в частности о системах наблюдения. Как уже говорилось в предыдущих главах, вопреки наивному мнению, информация часто используется для создания порядка, а не для выявления истины. На первый взгляд, агенты Сталина на московской конференции использовали "тест на хлопанье" как способ узнать правду об аудитории. Это был тест на лояльность, который предполагал, что чем дольше вы хлопаете, тем больше любите Сталина. Во многих контекстах такое предположение небезосновательно. Но в условиях Москвы конца 1930-х годов природа аплодисментов изменилась. Поскольку участники конференции знали, что за ними наблюдают, и знали о последствиях любого намека на нелояльность, они хлопали скорее от страха, чем от любви. Директор бумажной фабрики мог первым остановиться не потому, что он был наименее лоялен, а, возможно, потому, что он был наиболее честен, или даже просто потому, что у него больше всего болели руки.
Хотя тест на хлопанье не открывал правды о людях, он был эффективен для наведения порядка и принуждения людей к определенному поведению. Со временем такие методы воспитывали раболепие, лицемерие и цинизм. Именно это советская информационная сеть делала с сотнями миллионов людей на протяжении десятилетий. В квантовой механике акт наблюдения за субатомными частицами меняет их поведение; то же самое происходит и с актом наблюдения за людьми. Чем мощнее наши инструменты наблюдения, тем больше потенциальное воздействие.
Советский режим создал одну из самых мощных информационных сетей в истории. Он собирал и обрабатывал огромные объемы данных о своих гражданах. Он также утверждал, что непогрешимые теории Маркса, Энгельса, Ленина и Сталина дают ему глубокое понимание человечества. На самом деле советская информационная сеть игнорировала многие важные аспекты человеческой природы и полностью отрицала ужасные страдания, которые ее политика причиняла собственным гражданам. Вместо того чтобы производить мудрость, она производила порядок, а вместо того чтобы раскрыть универсальную истину о людях, она фактически создала новый тип человека - Homo sovieticus.
По определению советского философа-сатирика Александра Зиновьева, Homo sovieticus - это подневольные и циничные люди, лишенные всякой инициативы и самостоятельного мышления, пассивно подчиняющиеся даже самым нелепым приказам и безразличные к результатам своих действий. Советская информационная сеть создавала Homo sovieticus с помощью слежки, наказаний и поощрений. Например, отправив директора бумажной фабрики в ГУЛАГ, сеть дала понять другим участникам, что конформизм приносит плоды, а быть первым, кто делает что-то спорное, - плохая идея. Хотя сеть не смогла открыть правду о людях, она была настолько хороша в создании порядка, что завоевала большую часть мира.
ДИКТАТУРА СЕБЕ ПОДОБНЫХ
Аналогичная динамика может поразить компьютерные сети XXI века, которые могут породить новые типы людей и новые антиутопии. Хрестоматийный пример - роль алгоритмов социальных сетей в радикализации людей. Конечно, методы, используемые алгоритмами, кардинально отличаются от методов НКВД и не предполагают прямого принуждения или насилия. Но как советская тайная полиция создала рабский Homo sovieticus с помощью слежки, поощрений и наказаний, так и алгоритмы Facebook и YouTube создали интернет-троллей, поощряя определенные низменные инстинкты и наказывая лучших ангелов нашей природы.