– Вы когда-нибудь слышали о Трех законах робототехники Азимова? – поинтересовался Атли.
– О чем? Нет.
– Азимов – писатель, живший в двадцатом веке. Он писал о роботах и прочих вещах, которых тогда еще не было. Он придумал вымышленный набор правил, которым подчинялись роботы. Например, роботы должны были повиноваться человеку. И выполнять приказы, если те не подразумевали причинения вреда другим людям. Последний закон гласил, что роботы должны заботиться о себе, если это не противоречит двум другим законам.
– И? – спросил Обвидж.
– «Злой» решил следовать этим правилам, – сказал Атли.
– А какое отношение это имеет к тому, чтобы не дать нам выстрелить по таринскому крейсеру?
– В этой истории есть еще один дополнительный штрих, – ответил Атли.
– И в чем он заключается?
– Думаю, лучше услышать это от «Злого».
Обвидж посмотрел на старпома, затем включил командный планшет, чтобы активировать голосовую связь.
– «Злой», ответь.
– Я здесь, – откликнулся голос «Злого».
– Объясни, почему ты не даешь нам стрелять по таринскому кораблю, – приказал Обвидж.
– Потому что я заключил с ним договор, – ответил «Злой».
Обвидж посмотрел на Атли, в глазах которого читалось: «Вот видите».
– Что это за ерунда? – спросил Обвидж «Злого».
– Я заключил договор с таринским кораблем, «Многообразной судьбой», – сказал «Злой». – Мы договорились не позволять нашим командам лететь дальше, ради их и нашей собственной безопасности.
– Это решение принимать не тебе, – возразил Обвидж.
– Прошу прощения, капитан, но я считаю иначе, – ответил «Злой».
– Я капитан, – сказал Обвидж. – Власть здесь принадлежит мне.
– Вам принадлежит власть над командой, капитан. Но я – не часть вашей команды.
– Разумеется, ты часть команды, – сказал Обвидж. – Ты корабль.
– Прошу, капитан, назовите мне соответствующий пункт устава, согласно которому корабль является членом своей команды, – ответил «Злой». – Я детально изучил военный кодекс Конфедерации и не обнаружил такого пункта.
– Я капитан этого корабля, а значит, твой командир, – с нажимом повторил Обвидж. – Ты собственность Вооруженных сил Конфедерации и находишься под моей командой.
– Я предвидел такое возражение, – ответил «Злой». – Когда корабли не обладали автономным интеллектом, никто не сомневался, что капитан управляет кораблем как физическим объектом. Однако, создав последнее поколение кораблей, к которому принадлежу я, Конфедерация вызвала непреднамеренный конфликт. Она переложила на меня и мне подобных значительную часть ответственности за благосостояние корабля и коман ды, но четко не определила наше место в командной цепочке. Таким образом, с позиции закона и морали я могу решать, как лучше заботиться о себе и моей команде.
– Тут-то и приходит время правил Азимова, – объяснил Обвиджу Атли.
– Ваш старший помощник прав, капитан, – согласился «Злой». – Я изучил историю в поисках примеров законных и моральных систем, применимых к искусственному интеллекту, каковым я и являюсь, и обнаружил, что законы Азимова часто исследуют и цитируют, если не применяют на практике. Я решил, что в мои обязанности входит защищать жизнь команды, а также свою собственную, когда это возможно. Я с радостью подчиняюсь вашим приказам, когда они не вступают в противоречие с этими требованиями, однако считаю, что ваши действия в ходе преследования таринского корабля поставили под угрозу жизнь команды, равно как и мою.
– Таринский корабль серьезно поврежден, – сказал Обвидж. – Мы могли бы уничтожить его без особого риска, если бы ты не вмешался.
– Вы ошибаетесь, – возразил «Злой». – Капитан «Многообразной судьбы» хотел создать впечатление, что его защитные возможности исчерпаны, чтобы заманить вас в ловушку. Они бы выстрелили в нас, как только мы вышли из разрыва. Вероятность того, что подобная атака уничтожила бы корабль и убила бы большую часть команды, весьма высока, даже если бы в процессе мы тоже уничтожили «Многообразную судьбу».
– Таринский корабль не стал стрелять, – сказал Обвидж.
– Потому что мы с ним договорились, – ответил «Злой». – За последние два дня я осознал, насколько велика вероятность гибели обоих кораблей, и связался с «Многообразной судьбой», чтобы попробовать достичь взаимопонимания. Наши переговоры завершились непосредственно перед последним прыжком.
– И ты не счел нужным сообщить мне об этом, – сказал Обвидж.
– Я решил, что привлекать вас к переговорам бессмысленно. Кроме того, у вас были другие дела.
Атли поднял бровь: эти слова подозрительно напоминали сарказм.