— Да, правда. Я бы никогда не причинил кукле вреда.
— А тыне боишься?
— Чего?
— Что кукла причинит тебе вред. Ты пытался меня уничтожить. Вдруг я вынашиваю в уме план мести?
— Ты не обладаешь ни сознанием, ни мышлением. Такой довод тебя устраивает?
— Может, я решил дождаться, когда ты уснешь, а потом выпустить тебе кишки ударом ледоруба. Мне сон без надобности, я всегда наготове.
— Если бы меня собирались убить, это уже давно бы сделали.
— Но если это сделаю я, все будет выглядеть как несчастный случай. Ловкое решение маленькой проблемы, возникшей у властей.
— Убьешь меня, так убьешь, — пожал плечами Адам. — Меня это не шибко волнует. Если надо, забирай тело, только не души, что и душа тебе достанется.
Форд, извиваясь, медленно отполз в дальнюю часть комнаты. Выло видно, что движения причиняют ему боль. Выждав несколько мгновений, Арт последовал за ним.
Человек вздохнул.
— Надеюсь, ты на меня не обидишься, если я скажу, что от тебя дурно пахнет, — начал робот.
— Тебе не под силу чувствовать запах. — Я не сделаю тебе ничего дурного.
Я не могу причинить тебе вред. Хочешь узнать почему?
— Нет.
— Я все-таки расскажу тебе. Считай это своеобразным наказанием.
— Как у тебя получится меня наказать, если ты не можешь причинить мне вреда? — поинтересовался Адам.
— Иногда наказание может пойти на пользу, — отозвался Арт. — На стадии разработки велось много спорое о том. какие именно элементы моего поведения следует подавить. Некоторые (наивные) Философы полагали, что следует избавить меня от всех отрицательных поведенческих элементов, свойственных человеку, однако оказалось, сделать это далеко не так просто. И вот, если робота программировали так, чтобы он всякий раз просчитывал последствия всех своих действий, машину парализовывало. Из-за чудовищной нерешительности, вызванной страхом совершить ошибку, она не могла сдвинуться с места, если ослабляли стремление заботиться о других, робот раньше других отключался от процесса подзарядка и демонтировал конкурирующие прототипы. Я не преувеличиваю, такое и впрямь случалось. Если же со стремлением заботиться о других перебарщивали, автомат начинал работать на износ, во всем стараясь угодить другим. Именно поэтому я здесь и с тобой. Чем больше Философы прикладывали усилий, тем яснее им становилось, что они не в состоянии отличить правильное от ошибочного, хорошее от плохого. Правильное можно оценить только по поступкам. Единственный способ обойти проблему заключался в том, чтобы предоставить андроиду возможность самому во всем разобраться в процессе обучения. Заодно во время общения с человеком он должен был освоить парочку фокусов, которыми люди овладели в процессе эволюции. В результате понятие «добродетель» исчезло из списка основных мотиваций робота. Главным приоритетом стала «совместимость». Однако тебе не о чем беспокоиться. Вне зависимости от того, какие дурные уроки ты мне преподашь, я не смогу причинить вред другому существу, обладающему самосознанием. Это является одним из фундаментальных императивов моей программы.
— Ты же знаешь, мне это неинтересно. Ведь знаешь же, да? — произнес Адам.
— Я тебе не верю, — ответил Арт. — У меня есть специальная программа, детектор лжи. Она сканирует радужную оболочку твоих глаз. Очень хорошая программа.
— Как жаль, что у тебя нет программы, позволяющей тебе понять, какой же ты стал для меня занозой в заднице.
— Честно говоря, у меня и на это есть интересная история.
— Ничего в ней интересного нет.
— Так что, ты действительно хочешь, чтобы я замолчал?
— Пожалуйста. — Я попробую.
Тишина не продлилась и минуты. Все это время губы Арта шевелились, словно он проговаривал мысли, ворочавшиеся у него в голове.
— Знаешь, тебе это в итоге надоест, — наконец произнес робот. — Мы это оба понимаем, Так какой тогда смысл притворяться?
Адам ничего не ответил.
— Сейчас я перейду на режим пониженного потребления энергии, но оставлю включенными сенсоры. Если захочешь поговорить, тебе будет достаточно лишь обратиться ко мне. По-моему, мы делаем успехи, а? Сегодня ты ненавидишь меня не так сильно, как вчера. Тебе так не кажется?
Изображение растаяло. Первая голографическая сцена, составленная Анакс, подошла к концу. Настроение в помещении переменилось. Свет, казалось, слегка померк, а воздух стал чуть холоднее. Все три Экзаменатора не сводили взглядов с испытуемой. Анакс вдруг почувствовала себя как в западне. Впервые ее посетило чувство легкого страха.
Экзаменатор: Вам нравится Арт?
Анаксимандр: Прошу меня простить, но я не уверена, что правильно поняла ваш вопрос. В каком смысле «нравится»?
Экзаменатор: Кому вы сочувствуете?
Анаксимандр: Я сочувствую Адаму.
Экзаменатор: Почему?
Анаксимандр: Он растерян и напуган.
Экзаменатор: А что же Арт?
Анаксимандр: У него куда меньше оснований испытывать страх.
Экзаменатор: Надо сказать, что ваши ответы стали менее точными и продуманными.
Анаксимандр: Да, это так.
Экзаменатор: Вы уверены, что это умно с вашей стороны?
Анаксимандр: Уверена, что нет.
Анакс знала, что сделала решительный шаг. Теперь как бы ни повернулся разговор, путь назад отрезан, и у нее не осталось другого выбора, кроме как устремиться вперёд и доказать, что ее точка зрения, пусть и отличающаяся от общепринятой, может помочь по-новому взглянуть на события, случившиеся в далеком прошлом.
Анакс догадывалась: все может сложиться именно так. Перикл предупреждал ее, что путь, выбранный ей, весьма спорен. «Ну что же делать? — всегда отвечала она. — Ведь хуже не будет. Я всегда была готова к тому, что не попаду в Академию. Поэтому можно попытаться, и никакой опасности в этом нет».
Теперь на нее давило осознание возможной ошибки. Это было расплывчатое чувство непонятного страха, словно тень, которую порой замечаешь краем глаза, а она тут же пропадает, стоит повернуться к ней лицом. Анакс надеялась, что комиссия не заметила ее беспокойства. Она сосредоточилась на следующем вопросе, преисполненная решимости ответить на него как можно более честно, чтобы потом напрасно не печалиться и не сожалеть.
Экзаменатор: О чем сейчас думает Адам? Как он относится к андроиду?
Анаксимандр: Его отношение складывается из трех элементов. Первый — это рассудочная реакция. Форд говорит правду, утверждая, что Арт для него — не более чем машина. С рационалистической точки зрения, механизмы не могут думать, им под силу только считать. Так полагает и Адам. Он искренне верит, что упрочит свое положение, если будет строить линию поведения исходя из этой точки зрения. Этого человека растили и воспитали в сословии Философов. Именно оно сформировало его мировосприятие. Он верит, что мысли первичны, а чувства вторичны.
Экзаменатор: Ранее вы упоминали, что не верите в теорию заговора, и одновременно утверждали, что, когда Адам увидел Еву, он действовал по велению сердца, а не разума.
Анаксимандр: Противоречие в моих словах лишь кажущееся. Я уверена, Адам искренне считает, что должен следовать велению разума, а не чувств. Однако у него далеко не всегда это получается. И тут вступает в действие второй элемент. Внутри Форда идет борьба, знакомая каждому мыслящему существу. Разум велит ему действовать, исходя из логики, но при этом человек все равно оказывается жертвой собственных страстей. Давайте возьмем для примера диких котов, которыми кишат наши улицы. Вы когда-нибудь наблюдали, как маленький ребенок пытается завести дружбу с одним из этих костлявых созданий? Он терпеливо сидит, не приближаясь к коту, и пытается заинтересовать животное замысловатыми играми в надежде разбудить его любопытство. А потом, когда кот, преодолев страх, нерешительно подходит к нему, что вы видите на лице ребенка? Улыбку во весь рот. Ребенок начинает говорить со зверем, он тянется к нему, словно к себе подобному. В этом суть нашего инстинкта: в других мы видим себя. Когда кот мурлычет, нам кажется, будто его чувство счастья ничем не отличается от нашего. Когда внезапный шум пугает кота и он убегает, мы считаем, что способны понять его страх. Адам заговорил с Артом. В этом заключается его ошибка. Ему не под силу общаться с роботом и одновременно с этим верить, что тот всего-навсего машина. С каждой парой фраз, которыми они обмениваются друг с другом, иллюзия того, что Адам общается с живым существом, становится пусть и немного, но сильнее. Если вы будете слушать как я, если будете говорить как я, то со временем, независимо от количества причин верить в иное, я стану относиться к вам как к себе подобной. Со временем последовательность действий станет привычкой, вытеснив доводы разума, и от них не останется и следа. Однако, как я говорила, мои ощущения складываются из трех элементов…