— Так, хорош, с тобой невозможно разговаривать. Все стараешься меня поддеть.
— Да лан тебе, Алекс, ты тоже, вот, заладил: хорош, хорош. Я же так, не со зла, как грится, разговора для. Кстати, про скидку я серьезно. — Шаст орнул, — Но с девайсом Бронкса поаккуратнее. — Ха-ха!
Они прошунтировали еще одну тройку Майлзов.
Шаст постучал по черепушке Майлза, глядя за реакцией Синтетика, тот не уклонился ни от второй попытки постучать ему по голове, ни от третьей, лишь наклонив голову в сторону.
— Видал?! Это тебе не три закона, которые преподают детишкам в начальных классах.
— Типа: “робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”? — спросил Алекс.
— Нет, это, типа, “робот должен заботиться о своей безопасности”. Но спасибо за вопрос. Как робот узнает, что он не причиняет вред человеку, вред чему? Физической оболочке? В современном мире полно людей, живущих со свихнувшимися мозгами, может, им нравится причинять себе вред, а тут это: “не может причинить вред”. Не приписывайте роботу божественные планы, как говорит Профессор Риман. И потом, если у робота нет осознания себя, как личности, он не способен себе обрисовать грань действия или бездействия. Да и после этого он все равно не сможет следовать директиве, ибо личности, равные человеку, получат и человеческие повадки. А они, как правило - волчьи, а это перевернет осознание его цели.
— Осознание себя, как робота, такое понятие есть, а вот директива про осознания себя, как личности, это что-то новенькое.
— Пофиг, хочешь про директивы, будет про директивы. Как тебе такая директива: “робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону”?
— Ну, это просто, робот не должен быть агрессивным.
— Ну ты даёшь, у тебя сейчас шунт в кого воткнут? А? Это же “Майлз”! Ничего, что это боевая машина? Да его сделали быть агрессивным, на секундочку, а ты ему как раз сейчас какой там апгрейд ставишь? Я тебе открою тайну, что базовый набор, который мы ставим перед отправкой, там тест-системы и все такое - ну и все, ему можно уже цель задавать. Правда, протоколы доступа нам недоступны. Но меж тем, это уже рабочее изделие. — Шаст похлопал по голове очередного прошитого “Майлза”. - И вообще, следуя первому постулату, мы не получим истинного развития робототехники. Так, например, возьми хотя бы двух людей которые зададут вот этому “Майлзу”, противоположные приказы - допустим, уничтожить оппонента.
— Если один из двух людей хозяин “Майлза”, то результат понятен.
— Ага, — Шаст посмотрел в ничего не выражающие глаза “Майлза”, — а что он будет делать, когда человек, как носитель базовой директивы, погибнет? До какого момента синтетик будет косить врагов? А как потом определит, кто враг, а кто нет?
— Так есть же списки сотрудников, например, как здесь, на орбитале..
— А если его кто-то из этого списка атакует? Или они друг друга атакуют, те, кто в списке? А если из них кто-то со свихнувшимися могзами? А?
— Ну, тогда он не будет ничего делать, либо вернется на исходную позицию, ибо робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. Алекс уже наловчился орудовать стеком Бронкса, не глядя выполняя работу.
— Ты считаешь, что он должен смотреть, как люди режут друг другу глотки и чистить себе перышки, подобно птичкам? А потом, — техник сиял, — это не “бьется” с первым законом. А если “бьется”, тогда этот “Майлз” осознал сквозь призму достижения личности человека, что один из двух людей - сознательно вредит. И следуя нашим, людским - волчьим законам - пойдет на его уничтожение. А это уже вообще зашквар, и мы срочно этому “Майлзу” спалим его позитронные мозги, даже несмотря на распоряжения Бронкса.
— Шаст, ты так говоришь, как будто это личная гвардия Бронкса.
— Ага, Бронкс спит и видит, как ему отдают в подчинение алу синтетиков. Он говорит, что в моменты лучших положений Титана и станций, орбиталы остаются незащищенными - типа, большинство персонала на Титане и все такое. А протоколы предписывают определенный военный контингент, хотя мы и относимся к Корпорации, но несколько “Майлзов” лишними не будут, я тут согласен, ибо с потрохами принадлежим правлению Земли.
Последний прошитый “Майлз” протопал в бокс.
— Ну, что там?