Фирафикс: Что вы думаете о сериале в целом - о проблеме утопии?
Кельвин: Немного странно рассматривать это как "проблему". Согласно многим теориям ценности, утопические жизни могут быть в миллионы раз лучше наших нынешних. Он мог бы просто пройтись по основным теориям благосостояния и показать для каждой из них, как она подразумевает, что мы можем иметь жизнь, которая астрономически ценна.
Фирафикс: Он вроде как это сделал?
Он зарылся в литературную обивку.
Тессиус: Вот вопрос. Предположим, вам предоставили следующий выбор. Вы можете либо прожить свою нынешнюю жизнь обычным образом, и тогда вы умрете в возрасте восьмидесяти или девяноста лет. Или же вы можете пойти на авантюру, которая дает вам х % шанс прожить оптимальную для вас жизнь. Начиная с сегодняшнего дня, ваша будущая траектория будет наилучшей из возможных - возможно, в итоге вы превратитесь в суперблагополучного постчеловека, который проживет миллионы лет и достигнет невообразимых высот счастья. Однако эта игра также дает вам шанс (100-x)% мгновенно умереть . Насколько большим должно быть x, чтобы вы предпочли эту игру?
Фирафикс: Хм.
Тессиус: Кажется, что в рамках выявленных предпочтений, если вы действительно считаете, что лучшая утопическая жизнь, которую вы могли бы иметь, была бы в миллионы раз лучше вашей нынешней жизни, то вы должны принять 99,9999% шанс умереть немедленно ради 0,0001% шанса получить это оптимальное продолжение жизни.
Кельвин: Около 10 %.
Фирафикс: То есть вы согласны на 90-процентную вероятность умереть сейчас ради 10-процентной вероятности достичь утопии с экстремальным долголетием?
Кельвин: Да, если бы альтернативой была очень хорошая современная человеческая жизнь. Если же я ожидаю, что с этого момента у меня будет исторически типичная человеческая жизнь, то 1 или 2 % шансов на идеальное постчеловеческое будущее будет достаточно, чтобы я рискнул. А вы, Фирафикс?
Фирафикс: О, я не знаю.
Кельвин: Вы должны выбрать число.
Фирафикс: Что-то ближе к 50%. Я бы, конечно, хотел еще подумать, прежде чем принять решение, если бы это было реальное предложение.
Тессиус: Итак, можем ли мы сделать вывод, что вы, Кельвин, считаете, что утопическая жизнь может быть максимум в десять раз лучше, чем (остаток) вашей нынешней жизни? А Фирафикс считает, что она может быть в два раза лучше, чем ее?
Фирафикс: Может быть, есть разница между тем, что было бы хорошо для нас, и тем, чего мы хотим? Может быть, я хочу стоять и есть яблоки целыми днями, а то, что для меня хорошо, - это нечто другое.
Кельвин: Но вы же не хотите стоять и есть весь день напролет.
Фирафикс: Разве нет?
Кельвин: Ну, вы не делаете этого, хотя могли бы.
Фирафикс: Я должна следить за своей фигурой.
Кельвин: Вы бы не выбрали жизнь, состоящую исключительно из поедания яблок, даже если бы могли делать это, сохраняя фигуру.
Фирафикс: Думаю, нет. Так что, возможно, это не самый удачный пример. Но все равно кажется, что может быть разница между тем, что я бы выбрал, даже в идеальных условиях, и тем, что на самом деле было бы лучше для меня.
Кельвин: Бостром затеял все это как исследование наиболее желательных вариантов продолжения жизни для людей вроде нас. Он ничего не говорил о создании суперблагополучия. Это было бы гораздо эффективнее, если бы мы просто хотели, чтобы существовали исключительно хорошие жизни.
Фирафикс: Супербенефициары?
Кельвин: "Монстры полезности" - существа, которые чрезвычайно эффективны в извлечении благ из ресурсов, чем мы. Можно сконструировать существа, которым нужно очень мало ресурсов, чтобы испытывать сверхчеловеческие уровни удовольствия, или которые имеют чрезвычайно сильные предпочтения, которые тривиально легко удовлетворить. Большинство теорий о том, что делает жизнь удачной, подразумевают, что у вас могут быть супербенефициары. Но он говорил не об этом. Он говорил о том, что было бы желательно для таких людей, как мы.
Фирафикс: Да?
Кельвин: Ну, кажется правдоподобным, что то, что желательно для нас, должно быть как-то связано с тем, что мы желаем, или с тем, что мы могли бы желать, если бы абстрагировались от различных ограничений в наших знаниях и мышлении.
Фирафикс: Интересно, играет ли здесь роль страх смерти? Я имею в виду, что 50% вероятность умереть в ближайшие несколько минут была бы очень страшной. Может быть, это влияет на наш выбор?
Тессиус: Предположим, вы принимаете решение за кого-то другого - того, кого вы никогда не видели. Вы не боитесь их смерти. Если бы вам пришлось выбирать от их имени, выбрали бы вы авантюру с 50-процентным риском немедленной смерти ради 50-процентного шанса на то, что они смогут насладиться лучшей будущей утопической жизнью, которая возможна для них при достижении технологической зрелости?