— Значит, возможно создать автоматон, который будет выглядеть, как человек? — нетерпеливо спросил Герти, — Обладающую полным сходством механическую куклу? Вопрос лишь в её поведении?
Инженер неохотно кивнул.
— Пожалуй, что так. Сделать хорошую марионетку не так и сложно. Вся штука в том, какая начинка будет в её голове. Нынешние автоматоны, как вы, наверно, знаете, не очень-то умны. Программы, которым они подчинены, просты и однозадачны. Я попытаюсь объяснить, хоть вы и не инженер… Автоматон — это механизированная функция, единственная способность которой заключается в реакции на определённые стимулы. Ткните себя булавкой в палец, и рука непроизвольно дёрнется. Простейшая реакция, не требующая вмешательства высшей нервной системы. Автоматоны действуют именно так же. У них нет разума, нет внутреннего «я», нет даже развитой системы взаимодействия с внешним миром.
— Валики и свитки с программой, — вставил Герти, — Я знаю.
— Именно так. Двоичная система. Программы, которые разрабатывает наш отдел алгоритмов, заставляют автоматон определённым образом реагировать на события, и это совершенно нормально для промышленного агрегата или даже домашнего слуги. Если вы не ожидаете от него слишком многого, конечно. Но для того, чтоб выглядеть как человек, этого бесконечно мало. Автоматон не сможет находиться в человеческом обществе и действовать так, как в нём полагается действовать. Он попросту не способен на это.
— Но что сдерживает его возможности?
— Очень и очень многое. Во-первых, вы даже не представляете себе сложность программной части. Как объяснить автоматону, какие действия требуются в той или иной ситуации? Возможность выбора, вот что по-настоящему делает человека человеком. Сами мы об этом привыкли не задумываться, а ведь ежесекундно перед нами возникает огромное количество вариантов действия, которые мы подсознательно сортируем и отбрасываем.
— Не очень-то лестного вы мнения о человеке, — заметил Герти. Слова инженера почему-то задели его.
Коллуотер улыбнулся, на этот раз вполне искренне. Так, что на мгновение даже стал почти симпатичен, несмотря на нервное лицо и облысевшую голову.
— Неужели в Канцелярии тоже держатся антропоцентризма? Впрочем, неважно. Увы, мистер Уизерс, но, столкнувшись с автоматизацией и поняв её принципы, мы кое-что поняли и о человеческом разуме. Человек есть не более, чем машина для осуществления выбора. Очень сложная, даже переусложненная, я бы сказал, но всё же. Все наши чаяния, которые мы привыкли считать исконно-человеческими, духовные позывы, моральные стремления, всё прочее, это не более чем реализация нашей возможности выбора. Знаете, как устроена рулетка? Такое колесо с цифрами, а по нему бегает крохотный шарик… Так вот, это модель человеческого разума в миниатюре. Конечно, у нас в голове всё устроено на порядок сложнее, но принцип тот же.
— Но мы способны мыслить, — неуверенно сказал Герти, — Разве не это делает человека человеком? Мы можем размышлять, делать выводы, анализировать, чувствовать, наконец…
— Ну, чувства-то тут не играют никакой роли, это всего лишь контуры восприятия. Что же до мышления, это тоже перманентный процесс выбора из неисчислимого множества вариантов, направляемый нашими биологическими особенностями. Каждую миллисекунду времени мы делаем множество выборов, сами того не замечая.
— Для того, чтоб сделать выбор, достаточно подкинуть монетку. Не хотите же вы сравнить…
Мистер Коллуотер молча достал монетку, потёртый медный пенс. Он подкинул её один раз, и монетка прыгнула к окну. Мистер Коллуотер поднял её и подбросил ещё раз. Звенящий медный кружок шлёпнулся ему на ладонь.
— Решка, — сказал он, поглядев на неё.
— Один из двух вариантов, — заметил Герти, — Несложно догадаться.
— Киньте миллион монеток, мистер Уизерс. Киньте миллион монеток одновременно. И посмотрите, что выпадет.
— То есть, вся невозможность создания человекоподобного автоматона упирается в то, что вы пока не можете подкинуть так много монеток?
— Суть проблемы глубже, а сама проблема имеет куда более сложную структуру, но в целом можно выразить это и так. Для того, чтоб у автоматона появилась хотя бы гипотетическая возможность симулировать мыслительный процесс, требуется программа необычайной сложности и объёма. К примеру, наша лучшая модель автоматона-садовника на данный момент имеет программу, которая, если её размотать с валика, составит в длину где-то сто двадцать ярдов[56]. И это на специальной тончайшей рисовой бумаге. Этой программы хватает садовнику, чтобы выполнять нехитрые операции по прополке и подрезке, но даже с ней он не в силах различать, к примеру, дни недели. Можете себе представить объём, необходимый для того, чтоб автоматон стал разбираться в социальном устройстве человеческого общества и действовать нужным образом?