Многое здесь зависит от того, какие критерии мы принимаем для идентификации личности. Существует некоторый набор задач, которые необходимо решать на этапе технологической зрелости, и некоторый набор возможных разумов и тел, оптимальных для их выполнения. Некоторые из этих задач, по-видимому, требуют высокого уровня и общих форм интеллекта. Можем ли мы - те, кем мы являемся сейчас, - превратиться в некое существо, обладающее типом разума и тела, оптимальным для выполнения некоторого подмножества этих практических задач, сохраняя при этом нашу личную идентичность?
В данном контексте смысл сохранения "той же личности" заключается в том, что с точки зрения нынешних собственных интересов уместно проявить некоторую значительную степень заботы о будущем субъекте. Заметим, что без этого требования о сохранении личной идентичности вопрос становится неинтересным. То есть, допустим, можно "превратить" себя в оптимальную по задаче систему, разобрав себя на нуклоны, а затем вновь собрав их в элементы, которые используются для создания оптимальной машины: это никоим образом не поможет показать, что наш труд может остаться практически полезным в период технологической зрелости.
Я думаю, что не так уж маловероятно, что, по крайней мере, для некоторых функциональных задач, которые должны быть выполнены при достижении технологической зрелости, мы, возможно, в принципе сможем стать тем типом существ, которые будут наиболее эффективны в их выполнении.
Высказывая это предварительное предположение, я исхожу из довольно широкой концепции личной идентичности: такой, которая допускает, что характер человека со временем может претерпевать довольно серьезные изменения, а он все равно будет считаться "тем же человеком", что и раньше, при условии, что трансформация будет достаточно постепенной и непрерывной, а также, возможно, при условии, что она будет удовлетворять некоторым дополнительным ограничениям, например, что изменение в какой-то степени связано с самостоятельным выбором человека.
Одним из аргументов в пользу такой расширительной концепции личной идентичности - той, которая не требует особого качественного сходства между двумя сегментами личности, вменяемыми в обязанность одному и тому же человеку, - является то, что мы обычно считаем маленького ребенка тем же человеком, что и взрослого, в которого он превращается, даже если физическая субстанция, морфологические и психологические характеристики взрослого сильно отличаются от характеристик ребенка. Если такая радикальная трансформация согласуется с сохранением личностной идентичности, то вполне правдоподобно, что мы можем оставаться "тем же человеком", даже если, достигнув совершеннолетия, мы продолжим расти, постепенно, в длинной медленной серии небольших самовыбирающих шагов, со временем превращаясь в некую программу, подобную ИИ, оптимальную для выполнения некоторых функциональных задач в развитой цивилизации.
Это может показаться хорошей новостью с точки зрения того, что мы сможем обеспечить себе ту цель, которая вытекает из наличия практической пользы даже в пластиковой утопии. Однако, думаю, большинство из нас при ближайшем рассмотрении сочтет этот путь к сохранению трудоспособности непривлекательным.
Одна из проблем заключается в том, что даже если бы мы могли стать существом, практически полезным в утопии, мы могли бы не захотеть быть таким существом. Полезное существо было бы жестко оптимизировано для выполнения определенного набора задач. Оно не будет тратить память и вычислительные ресурсы на дела, не связанные с этими задачами. Однако многое из того, что мы ценим в жизни, может не иметь отношения к основным инструментальным задачам технологически развитой цивилизации (например, к тем, которые я перечислил в раздаточном материале). Будь то воспоминания детства, личная дружба, любовь к музыке, наслаждение едой и т. д., да и вообще любой вид досуга или безделья: такие составляющие, которые мы можем считать важными для нашей эвдемонии, скорее всего, будут безвозмездными, а значит, расточительными, а значит, не входящими в оптимальную систему задач, и поэтому нам, скорее всего, придется отойти на второй план, если мы решим попытаться остаться в гонке.
Более того, если оптимальная система должна тратить время и ресурсы на подобные "изыски" - например, потому, что задача, которой она посвящена, включает в себя попытку смоделировать возможные инопланетные цивилизации, для которых такие изыски могут быть важны, - не очевидно, что то, как оптимальная система потратит это время и эти ресурсы, будет полностью соответствовать тому, как мы решили бы их потратить, если бы мы не подчинялись требованию, что наша работа должна быть функционально оптимальной, и вместо этого непосредственно преследовали бы цель хорошей жизни. Например, максимально эффективный анализ того, как инопланетная культура может относиться к музыке, вполне может включать когнитивную деятельность, совершенно отличную от той, которой мы занимались бы, если бы на самом деле сами ценили и наслаждались музыкой.