— Вероятно, тебе придется привыкнуть, Пимми. Это повторится еще не раз. Не думаю, чтобы это было приятно, — кому может понравиться такая вот перемещающаяся потеря памяти! — но у тебя нет возможности бороться. Воспринимай это как одну из профессиональных болезней прототипа.
— Но мне не нравится это, — сказал я.
Хейвуд криво усмехнулся и вздохнул:
— Верно, Пимми, — и мне тоже не нравится. С другой стороны, у тебя нет ни малейших оснований упрекать нас за то, что мы испытываем новую машину, даже если машина случайно осознает это. И уж во всяком случае ты не вправе возмущаться. Мы создали машину. Теоретически и юридически мы имеем полное право делать с ней все что угодно, если это помогает нам изучать работу этой машины и совершенствовать ее.
— Но ведь я не машина! — воскликнул я.
Хейвуд закусил нижнюю губу и взглянул на меня исподлобья.
— Мне очень жаль, Пимми. Боюсь, в определенном смысле ты все-таки машина.
Но я не машина! Не машина!
17 августа 1974 г. Прошлой ночью Рассел с Хейвудом работали со мной допоздна. Время от времени они перебрасывались словами. Рассел был очень взвинчен, и, в конце концов, терпение Хейвуда лопнуло.
— Все, хватит, — сказал он, швыряя на стол таблицы. — Так у нас ничего не получится. Может, ты все-таки сядешь и объяснишь толком, что у тебя приключилось?
Рассел был захвачен врасплох. Голова его как-то странно дернулась.
— Да так, ничего особенного. Пустая болтовня. Сам знаешь, как это бывает. — И он попытался сделать вид, будто поглощен изучением одной из таблиц.
Но от Хейвуда было не так-то просто отделаться. Его взгляд, словно резец, слой за слоем снимал с лица Рассела обманчивое спокойствие, обнажая откровенный страх.
— Нет, я не знаю, как это бывает. — Он положил руку Расселу на плечо. — Послушай-ка, если тебя что-то беспокоит, давай лучше выясним. Мне совсем не улыбается, чтобы из-за твоих опасений провалился наш проект. Нам и без того хватает сложностей, кто только ни пытается давить на нас, заставить поступать так, как нужно именно ему. А ведь ни один из них понятия не имеет, что и как нужно делать на самом деле.
Последние слова, очевидно, задели какую-то струнку в душе Рассела, потому что он швырнул свои таблицы на стол рядом с таблицами Хейвуда и стал лихорадочно доставать из нагрудного кармана пачку сигарет.
— В том-то и дело, — сказал он, глядя перед собой расширившимися глазами. Он потер щеку и несколько раз бесцельно прошелся по лаборатории. И вдруг его прорвало: — Мы же тычемся вслепую, Вик! Да, вслепую, а пока мы спотыкаемся на каждом шагу, кто-то размахивает над нашими головами дубинкой. Мы понятия не имеем, кто он, не знаем даже, один он или их много, и нам вовек не предугадать, когда они замахнуться в очередной раз. Послушай, мы — инженеры, специалисты по кибернетике. Наша цель — создать такой мозг, который, будучи помещен в соответствующий самоходный корпус, мог бы управлять им. Это чисто инженерная проблема, и незачем рассматривать ее иначе. Но при этом нельзя забывать, что возможность заниматься этим делом нам предоставили только потому, что кому-то стукнуло в голову, штамповать солдат на конвейере так же, как пушки и танки. И СЕКИМПОВС формулирует нашу задачу не как разработку электронного мозга, помещенного в независимый подвижный корпус, а исключительно как создание робота, который воплощал бы в себе концепцию идеального солдата. Да только никому неведомо, каким должен быть идеальный солдат. Одни говорят, что он должен выполнять приказы максимально точно и с недоступной для человека скоростью. Другие считают, что он должен обдумывать свои действия, чтобы не создавать себе излишних препятствий, импровизировать в ситуациях, не предусмотренных полученным приказом, — словом, действовать, как обычный солдат-человек. Тот, кто ждет от него повиновения приказам, доведенного до абсурда явно не желает, чтобы он оказался достаточно сообразительным и осознал, что он — робот. Они боятся самой этой идеи — понимания. Другие, согласные наделить его свободой воли, опасаются, что ему достанет разума, чтобы отказаться беспрекословно выполнять приказ в безнадежных ситуациях. А ведь это — лишь начало.
СЕКИМПОВС — межведомственный проект, но если ты думаешь, что военно-морской флот не шпионит за армией и наоборот, и оба они не заглядывают за плечо ВВС… Да ты же прекрасно знаешь эти игры скорпионов в банке.
Рассел безнадежно махнул рукой. Хейвуд, все это время спокойно попыхивающий сигарой, пожал плечами.
— Ну и что? От нас требуется одно — работать до тех пор, пока не удастся создать экспериментальную модель, удовлетворяющую всем требованиям. А потом пусть они устраивают столько сравнительных испытаний, сколько вздумается. Это их дело. Почему это так тебя волнует?
Рассел бросил сигарету и с силой растер окурок подошвой.
— Потому что мы не сможем создать такую модель, и ты должен понимать это не хуже меня! — Он ткнул пальцем в мою сторону. — Вот прототип. Он обладает всеми характеристиками, которые им нужны, и в нем предусмотрено изменение тех или иных параметров, которые могут помешать какому-то конкретному назначению. Мы можем отключить ту часть схемы, которая определяет его индивидуальность и тем самым превратить его в автомат, который хотят видеть в нем некоторые. Или мы можем оставить ему индивидуальность и отдавать приказы общего характера, чтобы он выполнял их теми способами, которые считает лучшими. Или, наконец, мы можем общаться с ним, как с человеческим существом — обучать его с помощью программ, воспитывать, предоставлять самому выбирать себе дело, как мы и поступаем с человеческими существами. — В голосе Рассела зазвучали истерические нотки. — Однако, если мы низводим его до машины, выполняющей приказы, словно какой-нибудь примитивный манипулятор, он становится медлительным. Невероятно медлительным, Вик, — в бою ему не протянуть и полминуты. И тут уже ничего не поделаешь. Как минимум, до тех пор, пока кто-нибудь не заставит электрический ток бежать по проводам быстрее, чем допускают законы физики. Мы получим лишь громоздкую безмозглую игрушку вроде дистанционно управляемых выставочных роботов, развлекавших публику еще сорок лет назад. Само собой, это никуда не годится. Ладно, мы оставим ему свободу воли, но ограничим ее настолько, чтобы она соответствовала психологии раба. Это уже кое-что. Так он сможет — теоретически — оказаться лучшим солдатом, чем обычный человек. Допустим, офицер прикажет ему патрулировать в определенном секторе, и он будет выполнять это наилучшим образом, выбирая каждый раз оптимальное решение в данной конкретной ситуации.
Но что он станет делать, если вернувшись обратно, не найдет офицера, который отдал приказ? Или, паче того, за это время произойдет отступление, и он вообще никого не застанет? Или наступит перемирие?
Кстати, как насчет перемирия? Можешь ли ты представить себе роботараба, впавшего в прострацию из-за того, что он не получает приказов, соответствующих принципиально новой обстановке? С тем же успехом он мог бы вовсе не ходить в это патрулирование, поскольку теперь не в состоянии выполнить то, к чему предназначен. Ведь действует он от сих до сих, от приказа к приказу. Насколько он способен оценить ситуацию, свое задание он выполнил. Тем временем противник может захватить его позицию и он понятия иметь не будет, что же теперь делать. А ну как тем временем заключили мир? Как ему сориентироваться? Ожидать прихода техников, которые заменят военную программу какой-то другой? Конечно, мы можем обойти это затруднение, заложив в него целый комплекс таких, например, приказов: Отправиться на патрулирование и по возвращении доложить; если меня не будет, доложить такому-то или такому-то; если здесь никого не будет, поступить следующим образом; если это будет невозможно, попытаться сделать так-то; если случится то-то и то-то, перейти к тому-то; но не смешивать то-то и то-то с тем-то и тем-то. Можешь себе представить военные действия, построенные на такой основе? А как с проблемой переориентации? сколько времени все эти роботы будут сидеть без дела, пока не окажется возможным снова их задействовать?
И сколько человеко-часов и материалов потребуется для всей этой работы? Ей-богу, мне нарочно не придумать более нелепого способа ведения войны. Что ж, мы можем уподобить всех этих роботов Пимми в том варианте, когда все его цепи функционируют безо всяких там пробных отключений. Но тогда перед нами окажется искусственное человекоподобное существо. Существо, которое не устает, не нуждается в еде и пище, пока его силовому реактору хватает плутониевых галет.