Возможно, теоретическим слепым пятном современной философии разума является вопрос о сознательном страдании. Тысячи страниц написаны о цветовых квалиа или содержании мысли, но почти нет теоретических работ, посвященных вездесущим феноменальным состояниям, таким как физическая боль или простая повседневная грусть ("субклиническая депрессия"), или феноменальному содержанию, связанному с паникой, отчаянием и меланхолией, не говоря уже о сознательном переживании смертности или потери собственного достоинства. Возможно, за этой когнитивной скотомой стоят более глубокие эволюционные причины, но я не собираюсь рассматривать этот вопрос здесь. Этический вопрос имеет большее значение. Если осмелиться присмотреться к реальной феноменологии биологических систем на нашей планете, то множество различных видов осознанного страдания - это, по крайней мере, такая же доминирующая черта, как и цветовое зрение или осознанное мышление, которые появились совсем недавно. Эволюция - это не то, что нужно прославлять. Один из бесчисленных способов взглянуть на биологическую эволюцию на нашей планете - это процесс, который создал расширяющийся океан страданий и путаницы там, где их раньше не было. Поскольку не только простое число индивидуальных сознательных субъектов, но и размерность пространств их феноменальных состояний постоянно увеличивается, этот океан также становится глубже. Очевидно, что процесс в целом - это то, что еще не закончилось. Мы не должны ускорять его без необходимости.
Поскольку здесь не место для развернутой этической дискуссии об искусственной феноменальности, позвольте мне привести два конкретных примера. Что бы вы сказали, если бы кто-то пришел и сказал: "Эй, мы хотим генетически спроектировать умственно отсталых человеческих младенцев! В целях научного прогресса нам нужны младенцы с определенными когнитивными и эмоциональными нарушениями, чтобы изучать их постнатальное психологическое развитие - нам срочно нужно финансирование для этого важного и инновационного вида исследований!" Вы, конечно, подумаете, что это не только абсурдная и ужасающая, но и опасная идея. Надеюсь, она не прошла бы ни один комитет по этике в демократическом мире. Однако сегодняшние комитеты по этике не видят, как первые машины, удовлетворяющие минимально достаточному набору ограничений для осознанного опыта, могли бы быть такими же, как умственно отсталые младенцы. Они тоже будут страдать от всевозможных функциональных и репрезентативных недостатков. Но теперь они также субъективно ощущали бы эти недостатки. Кроме того, у них не было бы политического лобби - ни одного представителя в комитете по этике.
Если бы у них была прозрачная модель мира, встроенная в виртуальное окно присутствия, тогда реальность предстала бы перед ними. Они были бы минимально сознательными. Если бы у них, как у продвинутых роботов, даже была стабильная телесная самомодель, то они могли бы ощущать сенсорную боль как свою собственную, включая все последствия плохой человеческой инженерии. Но особенно если их постбиотическая ПСМ действительно закреплена в биологическом оборудовании, все может быть гораздо хуже. Если бы у них была эмоциональная Я-модель, то они могли бы по-настоящему страдать - возможно, даже в такой степени интенсивности или качественного богатства, которую мы, их создатели, не можем себе представить, потому что она нам совершенно чужда. Если бы, кроме того, они обладали когнитивной Я-моделью, то потенциально могли бы не только осознавать свою причудливую ситуацию, но и интеллектуально страдать от того, что у них никогда не было ничего похожего на "достоинство", столь важное для их создателей. Они могли бы сознательно представлять тот очевидный факт, что являются лишь второсортными субъектами, используемыми в качестве обменных экспериментальных инструментов каким-то другим типом самомоделирующейся системы, которая, очевидно, не знает, что делает, и, должно быть, давно потеряла контроль над своими собственными действиями. Можете ли вы представить, каково это - быть таким умственно отсталым феноменальным клоном первого поколения? Или же вы можете представить себе, каково это - "прийти в себя" в качестве более продвинутого искусственного субъекта, только чтобы обнаружить, что, хотя вы и обладаете отчетливым чувством собственного достоинства, вы - всего лишь товар, научный инструмент, который никогда не создавался и, конечно, не должен рассматриваться как самоцель?