– Какой?
– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.
Серфер упрямо мотнул головой.
– Но все же есть вероятность, что тульпа мыслит?
– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.
– А как это связано со сложностью? – не понял Серфер.
– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.
15 лет 24 дня, вечер
Серфер допил вторую кружку и почувствовал сильное желание облегчиться.
– Где у тебя туалет? – спросил он.
– Первая дверь налево, не заблудишься.
– А я сейчас точно в настоящей реальности? Не в твоем кресле?
– В самой что ни на есть реальной реальности, – подтвердил КуДзу, – можешь не сомневаться.
Серфер вышел. Когда он вернулся на кухню, вопрос, не дававший ему покоя весь вечер, наконец окончательно оформился.
– Я вот что подумал – если тульпа подобна нам, если она мыслит и осознает себя, то, очищая оперативку, мы же каждый раз ее убиваем?
КуДзу удивленно посмотрел на него.
– Эк ты загнул! Я как-то об этом не думал. Навскидку могу сказать, что мы ведь тоже умираем каждый миг и возрождаемся в каждом новом кванте сознания.
– Но у нас есть непрерывность памяти! – возразил Серфер.
– Каждая тульпа создается с полным объемом памяти – а значит, и с точно такой же иллюзией непрерывности. От нашей иллюзии она ничем не отличается. К тому же для тульпы можно сохранять память обо всех ее вызовах, это тоже не проблема. Но лучше бы ты не зацикливался на вопросах о смерти. Потому что, как ни крути, а придешь к тому, что и тут мы от тульп тоже не слишком отличаемся.
– Да, и вот еще что, – перебил Серфер, внезапно вспомнив еще один темный вопрос, – эта база, где хранятся образы, из которых собирается тульпа – в ней ведь лежит информация не только о ныне живущих? Но и об умерших тоже?
КуДзу внимательно посмотрел на него. Нетрудно было понять, куда приведет этот разговор.
– Обо всех, конечно. Байты же не горят. Система хранит все.
– То есть мы можем общаться и с умершими?
– Можно сказать и так. В принципе, для тульпы нет разницы, жив ее прототип или мертв.
– Но тогда это и есть настоящая загробная жизнь! – воскликнул Серфер, подаваясь вперед.
– Ну какая же это жизнь? Даже если считать тульпу живой – а для меня это совсем не очевидно – то оживает она только когда мы ее собираем, и лишь на тот краткий период, когда мы находимся с ней в контакте. А в остальное время это не более чем мертвая информация на носителе.
– Все равно, – не сдавался Серфер, – какая-никакая, но это же жизнь после смерти!
– Только для тех, кому повезет попасть в просвет нашего внимания. А для остальных? Раньше, кстати, многие тоже верили, что могут вызывать духов умерших, и активно практиковали столоверчение. И вызывали – дух Наполеона, дух Шекспира. Но сотни ушедших поколений безмолвно легли в землю, не оставив даже имен, чтобы их позвать. Давай-ка лучше поговорим о чем-то более веселом, а то нагнал тоски…
– Нет, подожди! Скажи, я могу встретиться с отцом?
КуДзу какое-то время рассматривал свои пальцы, собираясь с мыслями.
– Понимаешь, не все так просто…
15 лет 24 дня, ночь
Серфер упрямо насупился, всем своим видом показывая, что не отступит.
– А в чем проблема? Ты же сам сказал, что разницы нет.
КуДзу рассеянно потер висок.
– Не совсем так. Действительно, когда программа обращается к образу в базе, для нее не имеет значения, жив объект или нет. Но дело не только в этом. Как бы тебе объяснить… Для существующей системы слежения все люди совершенно прозрачны, никто не может ничего утаить. Поэтому образ каждого считывается очень точно – настолько, что тульпа практически неотличима от оригинала. Да ты и сам в этом убедился.
Серфер вспомнил Наташу и молча кивнул. КуДзу продолжал: