– Как вы вообще живете? – вырвалось у него.
– Так и живем, – криво усмехнулся КуДзу, – на страхе и на химии. Но ты не грузись, тебя-то это пока не касается.
– Вот именно – пока! А потом что? Всю жизнь бояться и таиться, глотать транквилизаторы и антидепрессанты?
– Все так живут, – пожал плечами КуДзу, – и до кризиса, между прочим, дело пока не дошло. Кстати, сам-то еще не дозрел что-нибудь заглотить? Пиццу, например?
Серфер представил ароматный треугольник на тарелке, и рот мгновенно наполнился слюной. Он кивнул. КуДзу достал из холодильника коробку, ловко покромсал ее содержимое на куски, переложил их на блюдо и отправил в микроволновку. Чувствовалось, что эта операция была ему привычной.
– Я не представляю, как можно жить на лабораторном столе, под микроскопом! – Серфер все никак не мог успокоиться. – Это же противоестественно! И что, теперь это навсегда? Никакой надежды?
– Если ничего не изменится, потребность в постоянной слежке постепенно будет уменьшаться. Но меня эти перемены пугают еще больше.
– Почему?
– Судя по всему, на следующем этапе людей собираются отливать в готовые формы, как болванки. А у стандартного изделия все реакции предсказуемы заранее, для этого никакие предварительные наблюдения не нужны.
– Но это же невозможно! – возмутился Серфер. – Люди же все разные, совсем непохожие! Каждый человек уникален!
– Ты преувеличиваешь, – возразил КуДзу. – Сейчас как раз идет работа по полной классификации психотипов. И их там, если не ошибаюсь, всего шестьдесят четыре. По этой теории, почти все наши проблемы происходят из-за того, что мы часто выбираем способы реагирования, не соответствующие нашему психотипу. Но в будущем у детей хотят блокировать саму возможность любых реакций, кроме аутентичных. Комитет считает, что ранняя диагностика и соответствующее воспитание могут это обеспечить. И если у них все получится, из детей-болванок будут вырастать взрослые болванки, полностью просчитываемые и предсказуемые. Причем предсказуемые уже не на уровне индивида, а на уровне всего типа.
– Ничего у них не получится! – воскликнул Серфер.
– Будем надеяться, – ответил КуДзу, – иначе твоему поколению будет очень неуютно в этом новом мире.
Пока Серфер наливал себе вторую кружку, КуДзу успел достать готовую пиццу и разложить ее по тарелкам. Серфер жадно набросился на свою порцию, утоляя внезапный голод. Только разделавшись со вторым куском, он смог, наконец, вернуться к главному вопросу, мучившему его в последние дни.
– Слушай, я все думаю про эту девушку, про Наташу. Я ведь ее сильно обидел?
– Даже не сомневайся, – подтвердил КуДзу.
– Но я же был уверен, что это тульпа.
– Разумеется. Иначе бы ты так не сказал.
– Вот я и хочу спросить. А если бы это все же была тульпа – она бы так же обиделась?
– Да, реакция была бы точно такой же. Ну, или очень близкой.
Серфер недовольно поморщился.
– Я не про реакцию! Скажи, тульпа бы обиделась? Она может чувствовать? Может думать, осознавать себя – как мы?
КуДзу отодвинул тарелку, поставил локти на стол и сцепил пальцы.
– Хороший вопрос. Твой отец любил поговорить на эту тему. Кстати, философы бьются над ней уже давно, они даже специальные термины придумали – китайская комната, мельница Лейбница, философский зомби. В практической сфере – тест Тьюринга. Слышал о таком?
– Слышал. Так все же – мыслит?
– Мы считаем, что нет. Что комплекс просто механически подбирает наиболее вероятный вариант вербального реагирования на основе имеющейся информации. По заранее определенным алгоритмам. Никакой свободы воли, чистая математика. Правда, тут есть один маленький нюанс…
– Какой?
– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.
Серфер упрямо мотнул головой.
– Но все же есть вероятность, что тульпа мыслит?
– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.
– А как это связано со сложностью? – не понял Серфер.
– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.