В кульминации классического фильма 1983 года «Военные игры» Третья мировая война кажется неизбежной. Искусственный интеллект (известный как Джошуа) возглавил систему управления запуском ядерного оружия в США. Думая, что взломал своего любимого производителя игр, хакер-подросток (которого сыграл Мэтью Бродерик) по незнанию просит Джошуа сыграть с ним в «игру», называющуюся «Глобальная термоядерная война», инициируя цепь событий, вследствие которой Джошуа пытается устроить полномасштабную ядерную атаку на Россию.
Персонаж фильма по имени профессор Фалькен объясняет, почему он создал Джошуа и эту игру:
Весь смысл был в том, чтобы найти способ опробовать ядерную войну, не уничтожив самих себя. Чтобы заставить компьютер учиться на ошибках, которые мы не можем себе позволить совершить.
Но я так и не смог заставить Джошуа усвоить самый важный урок…
Что иногда усилия тщетны. Что иногда нужно просто сдаться.
Затем профессор Фалькен проводит аналогию с игрой в крестики-нолики, продолжая:
Там нет никакого способа победить. Сама по себе игра бессмысленна! Но в стратегическом центре думают, что можно выиграть ядерную войну. Что бывают «приемлемые потери».
Когда кажется, что все пропало, подросток вспоминает этот разговор и спрашивает, есть ли способ заставить Джошуа играть против самого себя в крестики-нолики, в надежде, что компьютер усвоит, что любая стратегия заканчивается ничьей. Узнав о тщетности игры в крестики-нолики, Джошуа начинает моделировать все возможные стратегии для игры в «Глобальную термоядерную войну» и приходит к тому же выводу. Он говорит (компьютерным голосом):
Какая странная игра. Единственный выигрышный ход – не играть вообще. Может, сыграем лучше в шахматы?
В «Глобальной термоядерной войне» не может быть победителей, потому что обе стороны накопили достаточно оружия, чтобы уничтожить противника, и поэтому любой ядерный конфликт быстро превратится во взаимное гарантированное уничтожение (по-английски MAD, что можно также перевести как «безумие»). В результате ни одна из сторон не имеет никаких стимулов использовать свое вооружение для атаки или полностью разоружиться, и возникает стабильный, хоть и напряженный, мир.
Взаимное гарантированное уничтожение – это не только военная модель. В бизнесе компании накапливают крупные патентные портфели, но, как правило, не используют их друг против друга, боясь лавины судебных исков, которые потенциально могут дестабилизировать всех участников. Иногда вы видите эти иски и контр-иски между Apple и Qualcomm (по поводу патентов на чипы), Oracle и Google (патенты на Java) и Uber и Google (патенты на автономные транспортные средства). Но у этих компаний часто бывает так много патентов (иногда по десятку тысяч), что таких исков могли бы быть сотни, если бы не MAD.
Есть бесчисленное множество потенциально разрушительных последствий конфликта помимо, возможно, самого экстремального итога – MAD. Однако участие в любом прямом конфликте опасно, поскольку конфликты непредсказуемы и часто приводят к сопутствующим потерям. Например, бракоразводные споры могут навредить детям. Вот почему есть смысл обдумать меры предотвращения конфликта, например медиаторы или, в более общем смысле, дипломатию.
Если сама по себе дипломатия не работает, существует модель сдерживания – использование угроз для предотвращения (сдерживания) действий противника.
Взаимное гарантированное уничтожение является прекрасным сдерживающим фактором.
Но даже один ядерный удар настолько нежелателен, что само владение ядерным оружием показало себя мощным сдерживающим фактором. Например, Северная Корея, по-видимому, разработала ядерное оружие, чтобы обеспечить свое выживание как государства, несмотря на то что это авторитарная диктатура с хорошо задокументированной историей нарушения прав человека. До сих пор эта тактика работала как стратегия сдерживания наряду с другими стратегиями, к которым она прибегает, включая угрозы неядерной бомбардировки Южной Кореи и альянс с Китаем.
Модель сдерживания подходит, если вы хотите помешать другому человеку или организации предпринять действия, которые навредят вам или обществу в целом. В системе уголовного правосудия наказания применяются для того, чтобы предотвратить преступления в будущем (например, законы трех ошибок[85]). Государственные нормативные акты часто разрабатываются отчасти для предотвращения нежелательных экономических и общественных последствий в будущем (например, страхование вкладов предотвращает массовое изъятие вкладов из банков). Компании также принимают меры для сдерживания новых конкурентов: например, используют свой масштаб, назначая такую низкую цену за товары, что новые компании не могут с ними тягаться (например, Walmart), или лоббируя законы, которые им выгодны за счет конкуренции (например, законы о противодействии сетевому нейтралитету).
85
Законы трех ошибок или трех преступлений – это законодательные акты в США, на основании которых суды штатов должны приговаривать совершивших три серьезных преступления к длительным срокам тюремного заключения.