Думаю, в этом контексте различие между диктатом этики и диктатом благоразумия может оказаться несколько размытым. Но и то, и другое в принципе может удержать нас от коллективного пути к утопии. На индивидуальном уровне у нас тоже могут быть свои знаки остановки или места, где мы выходим из автобуса - возможно, по духовным или религиозным соображениям.
Я не думаю, что опасения такого рода являются чисто гипотетическими. Но я надеюсь, что они не будут решающими и что будет найден путь.
Метафизика
Вот вам и аксиологические контуры. Какие еще границы мы можем определить для пространства утопических возможностей? До сих пор мы рассматривали, какие технологии доступны на этапе технологической зрелости, каковы объемы доступных ресурсов, каковы возможности постоянных проблем координации, пруденциальных барьеров и ограничений, вытекающих из природы наших ценностей. Следующая категория, на которую я хочу обратить внимание, включает в себя ограничения, вытекающие из метафизических фактов.
Например, предположим, что вы хотите создать так называемого "философского зомби", или "p-зомби". Это будет существо, физически идентичное обычному человеку, которое, следовательно, ведет себя и говорит точно так же, как человек, но при этом не имеет сознания. В философской литературе ведутся споры о том, действительно ли p-зомби мыслимы, и если да, то возможны ли они в других соответствующих смыслах. Многие философы - особенно среди тех, кто принадлежит к числу вычислителей, - утверждают, что p-зомби метафизически невозможны. Другие, даже если они признают, что p-зомби метафизически возможны - к ним относится большинство дуалистов, - утверждают, что они номологически невозможны (это значит, что какие бы психофизические связующие законы ни существовали, они исключают возможность создания p-зомби в нашей вселенной). Если одна из этих философских точек зрения верна, то даже если желание иметь p-зомби концептуально обосновано, создать их будет невозможно даже для технологически развитой цивилизации.
Подобная блокировка может распространяться шире, чем просто предотвращение создания бессознательных существ, физически идентичных нормально сознающим людям. Также может оказаться метафизически невозможным создать существ, которые в целом достаточно разумны или способны пройти достаточно строгий тест Тьюринга, не заставив их тем самым обладать сознательным опытом.
(Вы все слышали о тесте Тьюринга, верно? Хорошо.)
Если эти вещи метафизически (или номологически) заблокированы, то определенные концепции утопии не могут быть реализованы. Например, было бы удобно иметь возможность создавать сущности, неотличимые от обычных людей, но не обладающие сознанием, поскольку это, возможно, позволило бы нам избежать некоторых моральных осложнений. Подумайте, насколько сложнее было бы работать автору, если бы персонажи ее романов, просто будучи воображаемыми автором или читателем, тем самым сами переживали феноменальные состояния. Это могло бы сделать морально неприемлемым написание трагедий и историй о горе.
Можно вспомнить и другие метафизические факты, помимо тех, что связаны с феноменальным опытом, которые могут аналогичным образом усложнить утопические построения. Например, у нас есть понятие морального статуса (он же "моральное положение", или "моральное терпение"). Это идея о том, что некоторые существа обладают свойствами, которые делают их достойными морального отношения ради них самих: их благополучие, интересы, предпочтения или права должны учитываться в наших решениях и суждениях, и к ним следует относиться не просто как к средству, а как к самоцели.
Философы разработали различные концепции того, что наделяет существо моральным статусом. В некоторых из них сознание (или способность к сознанию) не является необходимым условием для обладания моральным статусом. Хотя наличие способности к страданию, по общему признанию, является достаточным условием для обладания хотя бы некоторой формой морального статуса, могут существовать альтернативные атрибуты , которые могли бы обосновать моральный статус - например, наличие сложного представления о себе как сохраняющемся во времени; способность к агентству и реализации долгосрочных планов; способность общаться и реагировать на нормативные причины; наличие предпочтений и полномочий; нахождение в определенных социальных отношениях с другими существами, имеющими моральный статус; способность брать на себя обязательства и вступать во взаимные соглашения; или наличие потенциала для развития некоторых из этих атрибутов. Если моральный статус может быть основан на любом из этих признаков, то появится дополнительный класс существ, которые не могут быть созданы без вступления в силу моральных обязанностей, которые могут ограничивать использование этих существ или обращение с ними.