Страшный сценарий: взятие заложников
А если я скажу, что в истории человечества не было ни одной тирании? Что бы вы на это ответили? Не спешите выходить из себя; сначала подумайте о том, что человечество еще никогда не обладало технологическим фундаментом, необходимым для построения действительно тоталитарного общества.
Все знаменитые диктаторы, стремившиеся управлять людьми, использовали пирамиду власти. Эта структура полностью состояла из людей, хитрость и непредсказуемость которых ставила под удар всю структуру. Диктаторы тратят невероятное количество энергии просто на то, чтобы укрепить эту структуру власти, и часто терпят неудачу. Доверенные лица внезапно предают их, военные могут в любой момент устроить переворот: знаменитые слова Цезаря «И ты, Брут?» – звучат в кошмарных снах всех тиранов. И поскольку авторитарными обществами обычно управляет небольшая горстка людей, власти не могут следить за каждой секундой жизни каждого человека. Даже порабощенные народы могли в течение длительных периодов времени избегать внимания со стороны новых повелителей и их надзирателей.
Если посмотреть на развитие технологий через призму истории, можно сказать, что оно в целом принесло пользу как обществу, так и правящим кругам. Промышленная революция привела в города толпы крестьян, и эти люди помогли осуществить демократические революции и реформы; технологии в издательском деле и сфере коммуникаций позволили просветить людей и распространить принципы демократии. В определенном смысле именно развитие технологий помогло солнцу гуманизма осветить каждый уголок общества в эпоху Возрождения. А в наше время развитие информационных технологий помогает еще большему числу людей публично заявлять о своих желаниях.
Но здесь необходимо сделать оговорку: пока еще не появились технологии, которые радикально изменили бы облик общества. Механизмы государства и правительства состоят из людей. Пока большинство людей хранит верность идеалам демократии, государственной машиной не сможет управлять тиран.
Однако зарождается сила, которая сделает государственный аппарат по-настоящему механистическим, находящимся под управлением машин. Я говорю об искусственном интеллекте.
Когда искусственные интеллекты (ИИ) станут такими же разумными, как и люди, возникнет государственная администрация, которая будет в полной мере управляться ИИ; кроме того, появится армия роботов. Эта система будет абсолютно стабильной, и если контроль над ней получит диктатор, то гражданам придется быть абсолютно покорными. И поскольку у сети ИИ будет почти неограниченное количество энергии, она, скорее всего, сможет следить за каждым членом общества и контролировать его.
Но ИИ дает только технологическую базу для тоталитаризма; пока история идет обычным курсом, этот кошмар, скорее всего, не воплотится в жизнь, потому что мечты о демократии уже укоренились в сердцах людей. Демократия стала краеугольным камнем современного общества, и останется им. Но есть определенные сценарии, которые нужно учитывать, например катастрофы – либо природные, либо антропогенные. Мы должны помнить, что для появления невиданной ранее системы слежки понадобилось всего лишь обрушить два небоскреба в США.
Возможно, общество людей пострадает от последствий даже более страшной технологической сингулярности, чем появление искусственного интеллекта: возможно, кто-то возьмет в заложники саму Землю.
Прежде всего, мы должны прояснить термин «взять в заложники»: я имею в виду ситуацию, в которой один человек или группа людей, стремящиеся добиться своих политических целей, угрожают применить оружие, которое уничтожит всех или большинство людей (и в том числе их самих) в закрытом, ограниченном пространстве (часто в движущемся и даже летящем объекте). По сравнению с самолетом, кораблем или катером Земля является еще более опасным объектом – тем, кто живет на ней, бежать некуда. Итак, как же можно взять Землю в заложники?
Сейчас это невозможно, ведь чтобы этот сценарий стал угрожающим, террористам нужно оружие, способное уничтожить планету. Только ядерное оружие может уничтожить Землю, но ядерные заряды слишком большие и сложные, и поэтому один человек не способен их взорвать. Чтобы взять в заложники планету, один человек может использовать только одну атомную бомбу, а самая мощная бомба в истории – это советская водородная бомба мощностью 50 мегатонн. Даже если ее взорвать, она уничтожит все живое на поверхности только в радиусе 100 километров – этого слишком мало, чтобы взять Землю в заложники.