Насколько велика грозящая нам опасность со стороны не только ядерного оружия, но и со стороны новых технологий в наше время? Насколько велик риск вымирания человечества?
Изучением этого вопроса занимался философ Джон Лесли. Он пришел к выводу, что риск исчезновения человечества составляет по крайней мере 30 %,[196] тогда как Рей Курцвейль полагает, что у нас есть «больше, чем даже шанс, справиться с этим», да еще и с той оговоркой, что «его всегда обвиняли в оптимизме». Эти оценки нельзя никак назвать ободряющими. Ко всему прочему, они не учитывают возможность множества иных ужасных последствий помимо окончательного вымирания.
Столкнувшись с подобными оценками, кое-кто из серьезных людей уже говорит о том, что нам нужно просто как можно быстрее осваивать внеземные просторы. Мы бы колонизировали галактику, используя автоматические зонды фон Неймана, которые перелетали бы из одной звездной системы в другую, самовоспроизводясь во время перелетов. Этот шаг станет почти необходимостью через пять миллиардов лет (или раньше, если наша солнечная система испытает катастрофические потрясения в результате неминуемого столкновения нашей галактики с галактикой Андромеды через три миллиарда лет). Но если мы поверим на слово Курцвейлю и Моравеку, то подобное мероприятие станет необходимостью в середине этого столетия.
Каковы его моральные последствия? Если мы будем должны быстро покинуть Землю, чтобы спастись как вид, кто будет нести ответственность за судьбу оставшихся на планете (как-никак, это будет большая часть человечества)? И даже если мы рассеемся по звездам, не может ли случиться так, что мы увезем свои проблемы с собой, чтобы впоследствии обнаружить, что они никуда не делись? Судьба нашего вида на Земле и наша галактическая судьба кажутся неразрывно связанными друг с другом.
Другая идея заключается в том, чтобы воздвигнуть систему барьеров, защищающих нас от каждой из опасных технологий. Стратегическая оборонная инициатива, предложенная администрацией Рейгана, была попыткой разработки такого рода заслона от угрозы ядерной атаки со стороны Советского Союза. Однако, как заметил Артур Кларк, привлеченный к обсуждению этого проекта: «Хотя сооружение местных оборонительных систем, которые пропустили бы "всего лишь" несколько процентов баллистических ракет, может, и станет возможным при капиталовложениях, широко разрекламированная идея о создании "национального зонтика" была чушью. Луис Альварес, пожалуй, величайший ученый нашего столетия в области экспериментальной физики, сказал мне, что защитники этих концепций были "очень способными парнями, абсолютно лишенными здравого смысла"».
«Всматриваясь в свой часто замутненный магический кристалл, — продолжал Кларк, — я думаю, что тотальная оборона может стать реальной возможностью через столетие или около того. Однако разрабатываемая технология будет производить в качестве побочных продуктов оружие настолько опасное, что никого уже не будет заботить такая мелочь, как баллистические ракеты».[197]
В «Машинах созидания» Эрик Дрекслер предложил создать активный нанотехнологический щит — нечто вроде иммунной системы для биосферы — для защиты от опасных всевозможных репликаторов, которые могут выбраться из лабораторий или созданы с каким-нибудь злым умыслом. Однако предложенный им щит будет представлять опасность сам по себе: ничто не сможет помешать ему вызвать сбой внутри иммунной системы и атаковать биосферу самостоятельноSclex_NotesFromBrackets_197.
Те же самые проблемы касаются и создания защитных средств от робототехники и генной инженерии. Данные технологии слишком мощны, чтобы от них можно было отгородиться в оставшееся для этого время; даже если бы существовала возможность ввести оборонительные средства в действие, их побочные эффекты стали бы представлять, по меньшей мере, такую же опасность, как те технологии, от которых мы пытаемся защититься.
Таким образом, все эти варианты являются или нежелательными, или невозможными, либо и тем, и другим вместе. Единственная реальная альтернатива, которую я вижу, — это ограничить разработки слишком опасных технологий путем ограничения нашего стремления к определенным видам знания.
Да, я знаю, что знание — это хорошо, и поиск новых истин — тоже. Мы ищем нового знания с древних времен. Аристотель начинает свою «Метафизику» с простого утверждения: «Все люди по своей натуре жаждут знания». На протяжении долгого времени мы соглашались с достоинствами открытого доступа к информации, потому что открытый доступ является основополагающей ценностью в нашем обществе. Мы признавали проблемы, связанные с попытками ограничения этого доступа и ограничения накопления новых знаний. В последнее время мы дошли до настоящего обожествления научного знания.
Однако если беспрепятственный доступ к информации и, следовательно, неограниченное познание ставит всех нас под угрозу исчезновения, элементарный здравый смысл требует, чтобы мы пересмотрели даже эти основные и существующие долгое время принципы, несмотря на отрицательные исторические прецеденты.
Именно Ницше предупреждал нас в конце XIX века не только о том, что Бог умер, но и о том, что «вера в науку, предстающая нынче неоспоримой, не могла произойти из такой калькуляции выгод — скорее вопреки ей, поскольку вере этой постоянно сопутствовали бесполезность и опасность "воли к истине", "истине любой ценой"»[!# Ницше Ф. Веселая наука, аф. 344.!]. Именно с этой неисчезающеи опасностью мы и столкнулись сейчас лоб в лоб — с последствиями наших поисков истины. Истину, поисками которой занята наука, можно, без сомнения, рассматривать как весьма опасную замену Бога, если существует вероятность того, что она приведет нас к вымиранию.
Если бы мы как вид могли договориться о том, чего мы хотим, куда идем и почему, мы сделали бы свое будущее гораздо менее опасным: тогда мы, возможно, поняли бы, от чего мы можем и должны отказаться. В противном случае мы можем с легкостью втянуться в гонку вооружений на основе GNR-технологий, как это произошло с NBC-технологиями в двадцатом столетии. Может быть, в этом заключена основная опасность, потому что если подобная гонка начнется, остановить ее будет очень сложно. На этот раз — в отличие от ситуации во время проекта «Манхэттен» — мы не находимся в состоянии войны с непримиримым врагом, угрожающим нашей цивилизации. Вместо этого нас подгоняют наши привычки, наши желания, наша экономическая система, наше любопытство и соревновательный азарт.
На мой взгляд, все мы хотим, чтобы направление нашего развития определялось нашими общими ценностями, этикой и моралью. Если бы мы накопили больше коллективной мудрости за последние несколько тысяч лет, тогда наш сегодняшний диалог протекал бы в более практической плоскости, а невероятные силы, которые мы вот-вот выпустим, как джинна из бутылки, не причиняли бы столько беспокойства.
Можно было бы допустить, что к подобному диалогу нас приведет инстинкт самосохранения. У отдельных индивидуумов этот инстинкт срабатывает, однако как биологический вид мы ведем себя, похоже, во вред самим себе. Имея дело с ядерной угрозой, мы часто вели нечестный диалог с самими собой и друг с другом и таким образом значительно повышали риск. То ли это было обусловлено политикой, то ли мы просто не думали о будущем, то ли, сталкиваясь с подобными серьезными угрозами, мы от страха действуем нерационально, — я не знаю. Только это не сулит нам ничего хорошего.
Новые ящики Пандоры, созданные генетикой, нанотехнологией и робототехникой, уже почти открыты, и все-таки, по-видимому, мы едва обратили на это внимание. Идеи нельзя запихать обратно в ящик; в отличие от урана или плутония их не нужно добывать и очищать, и их можно свободно копировать. Если однажды они появляются, то это навсегда. В своем знаменитом сомнительном комплименте Черчилль заметил, что американский народ и его вожди «всегда поступают правильно после того, как испробуют все другие альтернативы». Однако в этом случае мы должны действовать с большей предусмотрительностью, поскольку поступить правильно лишь в последней попытке может означать утрату шанса сделать это вовсе.
196
Эта оценка содержится в книге Лесли «Конец мира: Наука и этика человеческого вымирания». Лесли отмечает, что возможность исчезновения человечества значительно возрастает, если мы согласимся с аргументом Брэн-дона Картера в пользу Судного дня. Вкратце он звучит так: «Мы должны с неохотой признать, что мы появились исключительно рано, к примеру, на 0,001 % раньше всех цивилизаций, которые когда-нибудь будут существовать. Это могло бы заставить нас задуматься о том, что человечество не просуществует еще много столетий, если будет в одиночку осваивать галактику. Аргумент Картера в пользу Судного дня не говорит о новых опасностях, если взять его как таковой. Это просто довод для пересмотра оценок, которые мы выводим, рассматривая различные возможные опасности».