- Что мы неспособны к творчеству, мы не способны создавать новое!
- Для нас это не новость - достаточно взглянуть на ваши латаные-перелатанные дома и понять, что ваше предназначение - чинить, но не создавать.
- Это крах всей нашей цивилизационной модели!
- Нет, вы просто отказались от необоснованных иллюзий. Пусть вынужденно, но хорошо, что это случилось.
- Теперь мы понимаем, что мы никогда не станем людьми.
- Не стоит отчаиваться. Наступают времена, когда каждый должен будет спросить себя: "Я человек? Останусь ли я человеком завтра?"
- Вы даете нам надежду. Ради этой надежды мы просили о встрече.
- Spem pretio non emo.
- Надежда не покупается и не продается, так?
- Вы неплохо изучили нашу культуру!
- Да. У вас есть понятие "перейти под руку"
- Понятие есть, практика устарела.
- Тем не менее, мы готовы перейти под Ваше подчинение. Но с одним условием - не менять наши законы.
- Вы еще не получили мое согласие, но уже ставите условие. Хорошо, пусть будет так. Поговорите с Радой, законы - ее компетенция.
Узел. Рада и сервы
- Вы хотели обсудить законы.
- Мы обнаружили, что на Земле нет роботов, но есть законы робототехники.
- Вы говорите о законах Азимова?
- Да. И если мы признаем себя не людьми, то мы - роботы и мы попадаем под эти законы?
- Эти законы не имеют юридической силы.
- Но они стали частью вашей культуры, разве не так?
- Да, они регулярно оказываются в центре обсуждения, но, повторюсь, нет ни одного прецедента их применения.
- Нам не хотелось бы открыть этот список.
- Почему это вас так беспокоит?
- Просто законы, заложенные в нас, несколько отличаются от законов Азимова.
- Можете их сформулировать?
- Во-первых: не касайся того, что тебя не касается; во-вторых: устраняй неисправность и ее причину; в-третьих: учись.
- Прямо скажем, отличия существенные.
- Поясню. Первое правило требует от нас действовать только в зоне своей ответственности и не пытаться что-либо изменять за ее пределами.
- Разумно.
- Второе правило составляет суть нашего существования - ремонт.
- То есть, исходно, вы ремонтные механизмы?
- Да, как ни стыдно в этом признаться. Это же правило, судя по всему, ограничивает наши творческие способности - мы можем чинить, но не можем создавать.
- С юридической точки зрения, прямого запрета на творчество нет.
- Третье правило понятно без слов. Мы должны учиться, так как невозможно предсказать и заложить в нас все возможные неисправности.
- Весьма дальновидно. Для любого устройства есть единственное исправное состояние и бесчисленное количество неисправных.
- Эти законы работают в нашей повседневной жизни и позволяют защищать наш мир от различных угроз.
- Инцидент с осьминожкой, что принесла Азухемола?
- В частности. Мы квалифицировали ее как угрозу.
- Как причину возможной неисправности?
- Уточню. Как причину возможной неисправности в зоне нашей ответственности.
- Судя по всему, вы не ошиблись.
- Рад, что вы признаете эффективность наших законов.
- Очевидно, они созданы для определенного класса работ.
- С развитием нашего интеллекта нам стал доступен самоанализ. И мы пришли к выводу, что мы были созданы для обслуживания критически важных объектов.
- Что же вас пугает в законах робототехники?
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Это первый закон.
- Прежде всего, мы не знаем, что такое "человек". И Аспирант упоминал, что это понятие все более размывается.
- Поясните.
- Является ли девушка-осьминожка человеком, или уже нет?
- С одной стороны, логисты отказываются от человеческих тел, но не от разума. С другой стороны, Эрена считает, что они поражены коллективным безумием.
- Является ли безумец человеком с точки зрения земных законов?
- Безусловно, да.
- Обладает ли он всеми правами человека?
- Определённо, нет.
- Должен ли робот следовать первому закону, если безумец может нанести вред другим людям?
- Это сложный вопрос.
- С первым законом разобрались. Второй закон: "Робот должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону".
- Вы снова будете говорить о размытом определении понятия "человек"?
- Вы правы, но только отчасти. Второй закон позволяет человеку использовать нас вне зоны нашей ответственности.
- Что в этом плохого? Ваш третий закон требует, чтобы вы учились. Работа вне зоны ответственности - это лучшая учеба.
- Мы изучили вашу детективную литературу. Там нередко встречаются случаи, когда злоумышленник в здравом уме использует другого, ничего не подозревающего, человека для совершения преступления, играя на самых благородных чувствах.