– Надо сделать позитронный мозг менее сложным, а роботов – менее разумными.
– Причина сложности позитронного мозга кроется в Трех Законах. Упрощенный мозг не сможет выполнять их как следует.
– Значит, проблема не имеет решения, – выпалил Джордж Девять.
– Я тоже зашел в тупик, – признался Джордж Десять. – Таким образом, мы выяснили, что особенности моего мышления туг ни при чем. Начнем все сначала… При каких условиях отпадает необходимость в Третьем Законе?
Джордж Девять поежился, словно вопрос показался ему не только трудным, но и опасным. Однако ответил, помедлив:
– Если робот никогда не попадет в ситуацию, угрожающую его существованию; или если он будет настолько легко заменим, что разрушение его будет не столь важным.
– А при каких условиях станет ненужным Второй Закон?
В голосе Джорджа Девять послышалась легкая хрипотца.
– Если от робота потребуется только автоматическая реакция на определенный раздражитель и если эта реакция будет жестко заданной, то необходимость во Втором Законе отпадет.
– А при каких условиях, – Джордж Десять сделал паузу, – может оказаться ненужным Первый Закон?
Джордж Девять выдержал еще более длинную паузу и проговорил еле слышным шепотом:
– Если реакция робота будет запрограммирована таким образом, что он никогда не сможет причинить человеку вред.
– А теперь представь себе позитронный мозг, который управляет несколькими реакциями на определенные раздражители, которому не требуется знания Трех Законов и который легко и дешево можно воспроизвести. Каким он должен быть по величине?
– Совсем небольшим. В зависимости от сложности реакции он может весить сто граммов, один грамм, один миллиграмм.
– Твой вывод совпал с моим. Я должен повидать мистера Харримана.
5а
Джордж Девять остался один. Он снова и снова перебирал в уме вопросы и ответы, но вывод оставался прежним. Однако мысль о роботе – любого вида, любого размера, любой формы, с каким угодно предназначением, но без Трех Законов – повергала его в неясный трепет.
Ему не хотелось двигаться. Наверное, и у Джорджа Десять такая же реакция. Однако он сделал над собой усилие и легко поднялся со стула.
6
После приватной беседы Робертсона с Эйзенматом прошло полтора года. За это время все роботы с Луны были доставлены обратно, а долговременная программа «Ю. С. Роботс» была свернута. Все средства, которыми располагал Робертсон, пошли на донкихотскую авантюру Харримана.