В конце концов кто-то - возможно, невестка Тиберия Антония - обнаружил брешь в информационном кордоне Сеянуса. Императору было тайно доставлено письмо, в котором он объяснил, что происходит. Но к тому времени, когда Тиберий осознал опасность и решил избавиться от Сеянуса, он был почти беспомощен. Как он мог свергнуть человека, который контролировал не только телохранителей, но и все коммуникации с внешним миром? Если бы он попытался что-то предпринять, Сеянус мог бы заточить его на Капри на неопределенный срок и сообщить сенату и армии, что император слишком болен, чтобы куда-то ехать.
Тем не менее Тиберию удалось переломить ход событий. По мере того как Сеянус рос в могуществе и был поглощен управлением империей, он потерял связь с повседневными мелочами, связанными с аппаратом безопасности Рима. Тиберию удалось тайно заручиться поддержкой Невия Сутория Макро, командира римской пожарной команды и ночной стражи. Макро организовал переворот против Сеяна, и в награду Тиберий сделал Макро новым командиром преторианской гвардии. Через несколько лет Макро убил Тиберия.
Власть находится в узле, где сливаются информационные каналы. Поскольку Тиберий позволил информационным каналам слиться в лице Сеянуса, тот стал истинным центром власти, а Тиберий превратился в марионетку.
Судьба Тиберия указывает на хрупкое равновесие, к которому должны стремиться все диктаторы. Они пытаются сосредоточить всю информацию в одном месте, но при этом должны следить за тем, чтобы различные информационные каналы сливались только в их собственной персоне. Если же информационные каналы сливаются в другом месте, то именно оно становится истинным узлом власти. Когда режим опирается на таких людей, как Седжанус и Макро, умелый диктатор может играть ими друг против друга, чтобы оставаться на вершине. Сталинские чистки были именно этим. Когда же режим опирается на мощный, но непостижимый ИИ, который собирает и анализирует всю информацию, диктатор-человек рискует потерять всю власть. Он может оставаться в столице, но при этом быть изолированным на цифровом острове, контролируемым и манипулируемым ИИ.
ДИЛЕММА ДИКТАТОРА
В ближайшие несколько лет диктаторы нашего мира столкнутся с более насущными проблемами, чем алгоритмический захват власти. Ни одна из существующих систем ИИ не способна манипулировать режимами в таких масштабах. Однако тоталитарные системы уже находятся в опасности, поскольку слишком доверяют алгоритмам. В то время как демократические государства предполагают, что все люди ошибаются, в тоталитарных режимах основополагающим является предположение, что правящая партия или верховный лидер всегда правы. Режимы, основанные на этом предположении, вынуждены верить в существование непогрешимого интеллекта и не желают создавать мощные самокорректирующиеся механизмы, которые могли бы контролировать и регулировать гения на самом верху.
До сих пор такие режимы возлагали свою веру на человеческие партии и лидеров и были рассадниками культов личности. Но в XXI веке эта тоталитарная традиция готовит их к ожиданию непогрешимости ИИ. Системы, способные поверить в безупречный гений Муссолини, Чаушеску или Хомейни, готовы поверить и в безупречный гений сверхразумного компьютера. Это может привести к катастрофическим последствиям для их граждан, а в перспективе и для всего остального мира. Что произойдет, если алгоритм, отвечающий за экологическую политику, допустит большую ошибку, а механизмов самокоррекции, способных выявить и исправить ее, не существует? Что произойдет, если алгоритм, управляющий государственной системой социального кредитования, начнет терроризировать не только население, но даже членов правящей партии и одновременно навешивать ярлык "враг народа" на всех, кто подвергает сомнению его политику?
Диктаторы всегда страдали от слабости механизмов самокоррекции и всегда подвергались угрозе со стороны могущественных подчиненных. Возникновение искусственного интеллекта может значительно усугубить эти проблемы. Таким образом, компьютерная сеть ставит диктаторов перед мучительной дилеммой. Они могут решить вырваться из лап своих подчиненных, доверившись якобы непогрешимой технологии, и в этом случае они могут стать ее марионеткой. Или же они могут создать человеческий институт для надзора за ИИ, но этот институт может ограничить и их собственную власть.
Если хотя бы несколько мировых диктаторов решат довериться ИИ, это может иметь далеко идущие последствия для всего человечества. Научная фантастика полна сценариев, в которых ИИ выходит из-под контроля и порабощает или уничтожает человечество. В большинстве научно-фантастических сюжетов эти сценарии рассматриваются в контексте демократического капиталистического общества. Это вполне объяснимо. Авторов, живущих в демократических странах, очевидно, интересует их собственное общество, в то время как авторы, живущие в диктаторских государствах, обычно не склонны критиковать своих правителей. Но самое слабое место в защите человечества от ИИ - это, пожалуй, диктаторы. ИИ легче всего захватить власть не путем побега из лаборатории доктора Франкенштейна, а путем сближения с каким-нибудь параноиком Тиберием.