Эти угрозы человечеству и наши ответы на них определяют наше время. Появление ядерного оружия создало реальный риск уничтожения человечества в XX веке. Технологии развиваются все быстрее, а серьезных усилий для защиты человечества не прикладывается, поэтому есть все основания полагать, что в текущем столетии риск станет еще выше и будет расти с каждым веком, пока продолжается технический прогресс. Поскольку такие антропогенные риски превосходят все природные риски, вместе взятые, именно они определяют, сколько у человечества времени, чтобы отойти от края пропасти.
Я не утверждаю, что вымирание – это неизбежный итог научного прогресса или даже самый вероятный его результат. Я утверждаю, что человечество становится все могущественнее и уже достигло той точки, когда само создает серьезную угрозу собственному существованию. Нам решать, как мы будем работать с этим риском.
Я не призываю и к отказу от технологий. Технологиям принадлежит огромная заслуга в улучшении благосостояния человечества. Кроме того, без технологий человечество не сумеет раскрыть свой потенциал в долгосрочной перспективе. В отсутствие технологий мы были бы обречены из-за совокупного риска таких природных катастроф, как падение астероидов. В отсутствие технологий мы никогда не придем к истинному процветанию, хотя мы могли бы его достичь.
Проблема не столько в переизбытке технологий, сколько в недостатке мудрости[65]. Особенно хорошо об этом сказал Карл Саган:
Большинство угроз, с которыми мы сталкиваемся, действительно обусловлены наукой и технологиями, но на более фундаментальном уровне они вызваны тем, что мы стали могущественнее, при этом не став соизмеримо мудрей. Средства изменения миров, полученные нами благодаря технологии, требуют такой осмотрительности и дальновидности, которые не требовались нам никогда ранее[66].
Адвокатом этой идеи выступает даже бывший президент США:
Сама искра, которая служит отличительной особенностью нашего вида, – наши мысли, наше воображение, наш язык, наше умение изготавливать инструменты, наша возможность отстраняться от природы и подчинять ее своей воле – всё это также дает нам беспрецедентные способности к разрушению… Технологический прогресс, не сопровождаемый эквивалентным прогрессом в сфере человеческих институтов, обречет нас на гибель. Научная революция, которая привела к делению атома, требует и революции в моральной сфере[67].
Нам нужно обрести эту мудрость, пережить моральную революцию. Поскольку вымирание необратимо, нельзя откладывать дела на потом и ждать, когда угроза воплотится в жизнь. Необходимо действовать заблаговременно. Мудрость не обрести, а моральную революцию не начать в одночасье, поэтому нам пора браться за дело.
Думаю, мы, скорее всего, переживем этот период. Не потому, что трудности незначительны, а потому, что мы сумеем с ними справиться. Упомянутые риски проистекают из действий человека, и одно это показывает, что человек в состоянии на них ответить[68]. Пораженчество неуместно и контрпродуктивно, как самосбывающееся пророчество. Нам следует работать с этими рисками, рассуждая трезво и беспристрастно и руководствуясь позитивным видением будущего, которое мы стараемся защитить.
Как серьезны эти риски? Сложно точно ответить на этот вопрос, ведь речь идет о комплексных (то есть не поддающихся простому математическому анализу) и беспрецедентных (то есть не подлежащих аппроксимации по частоте возникновения в долгосрочной перспективе) рисках. И все же очень важно хотя бы попытаться дать количественную оценку. Такие качественные утверждения, как “серьезный риск вымирания человечества”, можно трактовать как риск в диапазоне от 1 до 99 %[69]. Они не проясняют ситуацию, а усиливают путаницу. В связи с этим я предлагаю количественные оценки, но с оговоркой, что их нельзя считать точными и можно пересматривать.
Насколько я могу судить, в XX веке риск вымирания человечества или непоправимого коллапса цивилизации составлял примерно один к ста. С учетом всего, что мне известно, я оцениваю экзистенциальный риск в текущем столетии как примерно один к шести: это русская рулетка[70]. (См. Таблицу 6.1 на с. 199, где приводятся оценки для разных рисков.) Если мы не возьмемся за ум, если мы допустим, чтобы наша сила и дальше нарастала быстрее, чем накапливается мудрость, то стоит ожидать, что этот риск станет еще выше в следующем столетии и далее будет усиливаться от века к веку.
65
Это связано с “проблемой темпов” (pacing problem), знакомой всем, кто изучает регулирование технологической сферы. Проблема темпов заключается в том, что технологические инновации все сильнее обгоняют способность законов и норм эффективно регулировать эти технологии. Ларри Даунс (2009) отметил: “Технологии меняются экспоненциально, а социальные, экономические и правовые системы – поступательно”.
Ключевое различие между двумя контекстами состоит в том, что проблема темпов связана со скоростью технологических изменений, а не с их растущей способностью менять мир.
67
Barack Obama, Remarks at the Hiroshima Peace Memorial (2016). Обратите также внимание на слова Джона Ф. Кеннеди, сказанные по случаю двадцатой годовщины с момента первой ядерной цепной реакции (всего через месяц после окончания Карибского кризиса): “Мы добились огромных успехов в применении науки, но наши успехи в налаживании отношений невелики” (Kennedy, 1962).
68
В своем стремлении к установлению мира после Карибского кризиса Кеннеди (1963) выразился так: “Проблемы, с которыми мы столкнулись, возникли по вине человека, поэтому и решить их может сам человек. Человек может быть великим настолько, насколько он этого пожелает. Нет такой проблемы в судьбе человечества, которую человечество не могло бы разрешить”.
Разумеется, теоретически можно столкнуться с проблемами, возникшими по вине человека и уже прошедшими точку невозврата, но с теми проблемами, которые рассматриваются в этой книге, такого пока не произошло. Мы могли бы предотвратить их даже простым бездействием: перестав делать то, что грозит бедой.
69
Проблема здесь особенно очевидна, поскольку, описывая степень серьезности риска словами, мы часто учитываем и вероятность его наступления, и размер ставок. Проиграть в карты с вероятностью 1 % не так уж страшно, а потерять ребенка с такой же вероятностью – весьма. Аналогичная проблема возникает, когда МГЭИК применяет качественные термины, описывая вероятность различных сценариев изменения климата (Mastrandrea et al., 2010), что, на мой взгляд, ошибочно.
70
Точное определение “экзистенциального риска” см. на с. 47. Это понятие включает в себя риск вымирания, а также риск иными способами навсегда лишить человечество его потенциала, например в результате непоправимого коллапса цивилизации.