На данный момент можно было бы сказать гораздо больше. Позвольте мне лишь выделить то, что представляется главным вопросом: Страдание начинается на уровне ПСМ. Вы не можете сознательно страдать, не имея глобально доступной Я-модели. ПСМ - это решающий нейрокомпьютерный инструмент не только для развития множества новых когнитивных и социальных навыков, но и для того, чтобы заставить любую сильно сознательную систему функционально и репрезентативно присвоить свой собственный распад, свои собственные неудачи и внутренние конфликты. Феноменальное присвоение идет параллельно с функциональным присвоением. Эволюция не только удивительно эффективна, но и безжалостна и жестока по отношению к индивидуальному организму. Боль и любой другой нефизический вид страдания, вообще любое репрезентативное состояние, характеризующееся "негативной валентностью" и интегрированное в ПСМ, теперь феноменально принадлежит ей. Теперь это неизбежно и прозрачно - мое собственное страдание. Мелодрама, а также потенциальная трагедия эго начинаются на уровне прозрачного самомоделирования. Поэтому мы должны запретить все попытки создания (или даже риск создания) искусственных и постбиотических ПСМ в серьезных академических исследованиях.
Люди сильно различаются в своих позитивных моральных интуициях, а также в своих явных теориях о том, к чему мы должны активно стремиться. Но если говорить о фундаментальной солидарности всех страдающих существ против страданий, то почти все мы должны быть в состоянии согласиться с тем, что я буду называть "принципом негативного утилитаризма": Какими бы ни были наши конкретные этические обязательства и конкретные позитивные цели, мы, конечно, можем и должны согласиться с тем, что в принципе и по мере возможности общее количество сознательных страданий у всех существ, способных к сознательному страданию, должно быть сведено к минимуму. Я знаю, что невозможно привести ни одного действительно убедительного аргумента в пользу этого принципа. И, конечно, существуют всевозможные теоретические сложности - например, индивидуальные права, долгосрочные предпочтения и эпистемическая неопределенность. Но основная интуиция - это то, что может разделять практически каждый: Мы все можем согласиться с тем, что не следует создавать дополнительные страдания без необходимости. Альбер Камю однажды сказал о солидарности всех конечных существ против смерти, и в том же смысле должна существовать солидарность всех разумных существ, способных страдать, против страданий. Из этой солидарности мы не должны делать ничего, что могло бы увеличить общее количество страданий и беспорядка во Вселенной, не говоря уже о том, что с большой вероятностью может привести к такому эффекту с самого начала.
Если говорить очень аккуратно, то один из очевидных фактов о феноменальном опыте, как он развивался на нашей планете до сих пор, заключается в том, что одной из его поразительно доминирующих черт является страдание и смятение. Феноменальный опыт - это не то, что можно безоговорочно превозносить. Помимо многих других новых свойств, биологическое самосознание привнесло в физический мир огромное количество страданий и смятения, океан феноменального страдания, которого раньше просто не было. Как однажды сказал один из моих студентов: Вселенная может быть хорошим местом для эволюции, но не таким уж хорошим местом для индивидуумов. Если это так, то индивиды с сознательными Я-моделями будут автоматически отражать этот факт на уровне своего собственного феноменального опыта. Таким существам, как мы, трудно по-настоящему столкнуться с этим фактом, потому что это не тот факт, с которым нас хотела познакомить мать-природа. Но при теоретическом и технологическом моделировании таких захватывающих явлений, как феноменальная самость и перспектива первого лица, нам не на что ориентироваться, кроме как на нашу собственную, биологическую форму сознания - просто потому, что это единственная форма сознания, которую мы можем научно исследовать. Поэтому мы подвергаемся большой опасности умножения всех ее негативных аспектов на искусственных носителях, прежде чем поймем, откуда берутся все эти негативные аспекты, в каких именно свойствах нашей биологической истории, нашего тела и нашего мозга они коренятся и можно ли их вообще нейтрализовать. По этой причине мы должны в первую очередь направить всю нашу энергию - как в философии, так и в нейро- и когнитивных науках - на достижение более глубокого понимания нашего собственного сознания и структуры нашего собственного страдания. Мы должны ориентироваться на классический философский идеал самопознания и минимальное этическое правило минимизации страданий, а не рисковать вызвать эволюцию постбиотического разума второго порядка, который может выйти из-под нашего контроля и в конечном итоге способствовать дальнейшему увеличению общего количества страданий во Вселенной.