Вот это поворот, как говорится. Значит, роботы все-таки могут нарушать законы и убивать людей. Тем более это же роботы Ares Robotics, наверняка, у них есть какой-нибудь экстренный протокол на случай угрозы безопасности компании. Похоже, после Филадельфии папа далеко не сразу зайдет домой. Думается мне, у него теперь много проблем, раз выяснилось, что роботы, как и люди, способны убивать. Главное, чтобы он второго органика не завел, ибо две дерзящих копии отца - это уже слишком.
Вообще, пугающий тренд. Побоище в офисе Ares Robotics - уже второй случай за неделю, когда андроиды увечат людей. Так это быстро станет обыденностью, и все начнут относиться к совершенным роботами убийствам как к данности. Вот сто процентов, что скоро мы узнаем об ограблениях, мошенничествах и прочих преступлениях, которые провернули механизированные члены общества. Нет, такой прогресс нам не нужен.
Тут дверь дома Стивенса распахнулась, время было 6:50. Хм, для выхода в школу рановато. Одет он был странно. Ну как странно... опять же, не для школы. На нем был черный спортивный костюм Adidas с тремя полосами, бело-черные кроссовки, а в ушах можно было заметить «эппловские» наушники-невидимки. Честно говоря, видок у него был знатный... высокий, стройный, даже атлетичный... с таким видом ему бы в рекламе сниматься.
Выйти в 6:50 в спортивном костюме, неужто наш робот бегать собрался. Не поверите, но да. Он посмотрел на часы, потыкал что-то в телефоне и в довольно бодром темпе засеменил в мою сторону. Я резко нагнул голову и ненароком расплескал кофе. Пришлось неслабо напрячься, чтобы не вскрикнуть от боли. Пока моя рука офигевала от кипятка на ней, Стивенс убегал вдаль. Я видел его в зеркало заднего вида, но не знал, что делать. Если развернуть машину и ринуться за ним вслед, будет слишком заметно, особенно утром, когда на улице такая пустота.
Мои размышления прервал iPhone. В этот момент зазвонила трубка, на экране высветилось «Папа».
- Привет, пап, - сказал я.
- Привет, встал уже? Не прогуливаешь без меня учебу?
- Нет, как раз пью кофе и в школу готовлюсь.
- Молодец, чего вчера звонил? Я в самолете был, мы едем с Уокером на пресс-конференцию, и у меня есть пара минуток с тобой переговорить.
- Да так ничего особенного, - сказал я, замешкавшись несколько секунд, и переформулировал свою мысль. - Пап, скажи, а насколько роботы могут выходить за рамки своей начальной программы? Насколько они способны эволюционировать? В чем именно они подражают людям?
- Само собой, они выходят за рамки базиса... а зачем ты спрашиваешь? Случилось чего?
- Нет, просто... эээ... по робототехнике задали реферат, и нужно было взять экспертный комментарий. Вот я, недолго думая, позвонил тебе.
- Вот как, в общем, объяснять долго, а времени у меня не много, поэтому вкратце. Само собой, робот может выходить за рамки базовой программы. Он обучается, эволюционирует. Если он не востребован в одном, он может попробовать себя в другом. У него заложена потребность выживания, он будет избегать бесцельного существования и бомжевания. Андроид в силах полностью отказаться от изначальной программы, если рынок будет перенасыщен, или робот поймет, что опыт, полученный им в изобилии, поможет ему переключиться на более прибыльную отрасль, он это сделает. Они все - прагматики.
- То есть он может и моральную установку изменить? В смысле три закона робототехники...
- Нет, это исключено. Эти законы не могут быть нарушены, априори. Мы тестировали их, выпуская в общество болванку, у которой заложены лишь программа накопления опыта, а затем три закона робототехники, нормы морали и ряд знаний о войнах, конфликтах, народных волнениях, равноправии и толерантности. Болванки набирались опыта, шли работать официантами да уборщиками, но никто из них не переключался на преступность или убийства. На тестовом этапе, конечно, бывали случаи, когда одно программное обеспечение конфликтовало с другим, и робот начинал кромсать людей, не добившись от них того, чего он хочет. Но было это очень давно, еще на этапе исследовательского центра. В общем, ты знаешь про этот случай, когда робот забил двумя ударами нашего сотрудника, разорвав ему печень и расколов череп. Эту проблему мы решили, и больше такого не происходило - больше никто об этом не вспоминает. Несколько раз хакеры воровали роботов, стирали моральные установки и пытались перепродать машины всяким преступным группам. Сработало, надо признать, но теперь робот, которому стирают три закона, автоматически самоликвидируется: органики - пускают иглу в мозг, синтетики - полностью форматируют жесткий диск.