Разумная цивилизация подходит к X с осторожностью и проводит обширные исследования соответствующих принципов, используя безопасные теоретические инструменты и компьютерное моделирование. Но после всех этих исследований может остаться некоторая неопределенность, которую можно устранить, лишь проведя эксперимент, в результате которого рассматриваемое явление действительно возникнет. Если вероятность катастрофы в свете всей информации, которую можно безопасно собрать, окажется слишком высокой, то дальнейшее продвижение по этому технологическому пути будет неосмотрительным. Нам придется довольствоваться тем, что мы будем путешествовать по космосу с меньшей скоростью и пустим на ветер большую часть космического богатства. Но предположим, что феномен на самом деле безвреден. Тогда существует более утопическое будущее, в котором возможна технология X - не препятствуемая ни физическими законами, ни технологической неосуществимостью, ни трудностями социальной координации, - которая, тем не менее, будет запрещена в силу того, что особенности эпистемического ландшафта образуют благоразумный барьер для дальнейшего продвижения в этом направлении.
Не исключено, что цивилизация может "пробить туннель" через пруденциальный барьер в квантовом стиле, если она достаточно иррациональна или нескоординирована. Тогда она может пойти на риск, который было бы неосмотрительно брать на себя, и ей повезет. Я не уверен, что мы были бы там, где находимся сегодня, если бы в прошлом не было такого безрассудного туннелирования.
Могут также существовать благоразумные барьеры, которые высоки, но не бесконечно высоки: полосовые фильтры, блокирующие цивилизации только в определенном диапазоне эпистемической изощренности - те, которые слишком умны и скоординированы, чтобы просто пробить туннель, но недостаточно умны, чтобы перелезть через него. Рассмотрим бутылку с жидкостью с надписью "монооксид дигидрогена". Младенец, испытывающий жажду, с удовольствием выпьет ее, поскольку не может прочитать текст. Так же поступит и жаждущий химик, поскольку поймет, что это просто вода. Но малообразованный середнячок откажется пить, учитывая пугающую номенклатуру. Это, кстати, та самая скобка, в которую многие из вас попадут после отсрочки получения диплома.
Тессиус [шепчет]: Гори!
Кельвин (шепотом): Возможно, это не тот способ завоевать сердца и умы вашей аудитории, чтобы называть их начинающими "середнячками".
Тессиус (шепотом): Но правда в рекламе. Или он думает, что если некоторые бросят учебу, то будет меньше работ, которые нужно будет оценивать?
Бостром: Будем надеяться, что если мы столкнемся с пруденциальным барьером, который заблокирует наше продвижение к утопии, мы либо найдем способ обойти его (разработав альтернативные средства для достижения аналогичного результата), либо обнаружим, что барьер имеет конечную высоту, так что, когда мы достаточно расширим наше понимание, мы сможем в конечном итоге преодолеть его.
(Но что, если сам барьер состоит из страхов, связанных с расширением понимания или увеличением эпистемического потенциала? Просвещение - это не совсем нестрашно).
Аксиологические контуры
Помимо ограничений, связанных с ресурсами и технологической осуществимостью, координацией и неприемлемым риском, возможности улучшения нашей жизни также подвержены некоторым ограничениям более внутреннего характера, которые мы могли бы назвать аксиологическими контурами - ограничениями, связанными с формой наших ценностей.
ПАМЯТКА 3. ОГРАНИЧЕНИЯ, ВЫТЕКАЮЩИЕ ИЗ ПРИРОДЫ НАШИХ ЦЕННОСТЕЙ
Позиционные и конфликтные товары
Воздействие
Назначение
Новинка
Насыщенность
Моральные ограничения
Аксиологические контуры - это фундаментальные пределы совершенствования, которые остаются на месте независимо от того, насколько сильно увеличивается наш инструментарий. Они останутся на месте, даже если у нас будет буквально бесконечное количество материи, энергии, пространства, времени и негэнтропии, а также произвольно мощные автоматизированные технологии для преобразования всего этого в любые структуры и процессы, которые мы захотим, и собрание самых совершенных ангелов для руководства и управления нашими делами.
Позиционные и конфликтные товары
Один из таких пределов возник вчера: позиционные блага. Когда люди жаждут позиционных благ, например, занять вершину глобальной статусной иерархии, возникает изначальный дефицит, который не может устранить никакой технологический, экономический или социальный прогресс.