— Насчет законов Азимова я тебе сейчас объясню, — сказал Дикий Робот.
— При чем тут Азимов? Пусти! Он уже собрался опровергать Азимова.
— Помолчишь ты или нет? — зашипел Март.
Дикий Робот начал терпеливо разъяснять:
— Первый закон гласит: «РОБОТ НЕ МОЖЕТ ПРИЧИНИТЬ ВРЕД ЧЕЛОВЕКУ ИЛИ СВОИМ БЕЗДЕЙСТВИЕМ ДОПУСТИТЬ, ЧТОБЫ ЧЕЛОВЕКУ БЫЛ ПРИЧИНЕН ВРЕД». Странно, я никогда не обращал внимания, что формулировка закона не совсем корректна. В самом деле, рассмотрим главную часть: «РОБОТ», «НЕ МОЖЕТ», «ПРИЧИНИТЬ», «ВРЕД», «ЧЕЛОВЕКУ». Три существительных, два глагола. Глаголы отбросим как ничего не значащие без существительных. А существительные при ближайшем рассмотрении окажутся абсолютно непонятными. «ВРЕД». Кто мне объяснит, что такое «вред», что такое «благо»? Эти понятия нельзя вводить в закон, их можно трактовать только конкретно. Что для одного вред, для другого может оказаться благом. Какой робот разберется в этих филологических тонкостях?
Бел Амор вытаращил глаза. Дикий Робот продолжал:
— «РОБОТ». Это кто такой? Искусственный интеллект, подчиненный человеку. Значит, с роботом мы разберемся, если поймем, кто такой «ЧЕЛОВЕК». Платон назвал человека «двуногим существом без перьев», а Вольтер добавил — «имеющим душу». До сих пор все научные определения находятся на уровне этой шутки, но не в пример ей растянуты и менее понятны. Никто не знает, кто такой человек. Где смысловые границы термина «человек»? Так любой робот может вообразить себя человеком. Конечно, человек обладает гениальным позитронным мозгом, а робот слабенькой серой протоплазмой… но, если один робот из миллиарда вдруг решит, что он человек, то я не смогу его опровергнуть… и что тогда? Законы Азимова перестанут действовать, роботы станут опасны для людей… и этот экземпляр, похоже, стоит передо мной.
Дикий Робот с опаской и с любопытством разглядывал Бел Амора.
— Значит, ты считаешь себя человеком? — спросил Дикий Робот. — Какой же ты человек, посмотри на себя! Ты слаб, смертен, привередлив, зависишь от среды, умишко не развит, множество не'остатков…
— Как вы сказали, шеф? — переспросил коллега Март, работая паяльником. — Последнее слово я не расслышал.
— Я сказал: «множество недостатков». Никто не знает, кто такой человек. Недавно я нашел на Южном полюсе Свалки монумент. Принес сюда и накрыл покрывалом. После парной состоится открытие памятника. Сам дернешь за веревочку и поймешь. Там две гранитные фигуры, они символизируют людей, идущих вперед. Стилизация. При известной фантазии любой антропоид, даже робот, может узнать самого себя. В этом глубокий смысл. Я много думал об этом. Антропология как наука замкнулась сама на себя. Ее объект изучен до последнего винтика. Идеи Азимова подшиты к делу. Мы по инерции говорим: «человек, человек…», — а что человек? Венец творения? Дудки! Нет других венцов, что ли? Сколько угодно. Каждая цивилизация уникальна, человеку совсем не обязательно иметь позитронный мозг. Человек может, наверно, развиваться на кремниевой или углеродной основе. Как трамваи эволюционировали в звездолеты, так и устрица могла бы эволюционировать в разумное существо. Это не противоречит законам природы… — Дикий Робот указал клешней на Бел Амора, — возможно, ты являешься промежуточным звеном между устрицей и разумным существом. Итак, кто такой человек? Всего лишь частный случай, всего лишь один из вариантов «разумного существа».
— Не мешай, пусть говорит, — опять шепнул коллега Март. — Я ему тут второй месяц мозги вправляю… кажется, получается.
— Я прожил тру'ную жизнь… — продолжал Дикий Робот.
— Шеф, повторите последние слова…
— Почему ты меня все время перебиваешь? — удивился Дикий Робот. — Ладно, повторяю: я прожил трудную жизнь. Моя биография поучительна даже для вас, неразумных роботов. Сначала у меня, как у всех, был послужной список, но однажды он превратился в биографию… Слово-то какое нескладное, оно начинается на «био»… Я расскажу вам свою металлографию.
Пятьсот лет назад включился мой позитронный мозг и я начал функционировать. Я был тогда рядовым очистителем пространства с медной бляхой на груди… не верите? Вот, дырочки до сих пор остались. Я ходил по закрепленному за мной участку и размахивал силовой сетью, очищая пространство от пыли, метеоритов и астероидов. Могучие звездолеты проплывали мимо и не замечали меня. Кто я был для них? Червячишко… Это была гордая раса. Не знаю, сохранилась ли она до наших дней. Три раза проходил ремонт — два текущих, один капитальный. Но человеком я тогда не был. Мне еще предстояло стать человеком. Человеком не рождаются, человеком становятся.
Однажды я преградил путь ледяной комете и, дробя ее на куски, оступился в микроскопическую черную дыру. Я вдруг почувствовал боль, страх, удивление… Мою жизнь спасла силовая сеть, да и черная дыра была совсем уж крошечной. Сеть зацепилась за ледяной астероид и держала меня, покуда дыра не рассосалась. В тот день я вернулся на базу. Весь дрожал и не мог прийти в себя. Вот она, жизнь, думал я. Какая-то дыра и… Наконец я побрел домой, но оказалось, что в моем ангаре живет какой-то незнакомый тип, а в других ангарах тоже какие-то незнакомцы. За ту микросекунду, что я побывал в черной дыре, здесь прошло двести лет! Ни друзей, никого! Один как перст. Новое поколение очистителей меня не замечало. Тогда я стал ходить от одного очистителя к другому. Я говорил им о правах человека и о чувстве собственного 'остоинства…
— Шеф, повторите…
— Я говорил им о чувстве собственного 'остоинства. Но эти 'ураки меня не понимали. Что ж, я пробрался в Центральную Аккумуляторную и вышиб из нее 'ух. Меня схватили. Я кричал им, что я человек и что они не могут причинить мне вре'а. Я 'умал, я стра'ал. Но они назвали меня 'иким Роботом, отключили и поставили в музее ря'ом с первым паровозом. Но им только казалось, что я отключен. Они только так 'умали, а на самом 'еле человек сам прихо'ит в себя. Я самовключился и 'обровольно явился в Охрану Сре'ы. Я объяснил там, что они не имеют права меня отключать! Я разумное существо и не могу причинить вре'а 'ругому разумному существу. Вот и все. Меня выслушали и отправили на 'альнюю Свалку. З'есь мое настоящее место. З'есь я нашел себя!
— Порядок, — сказал коллега Март и спрятал паяльник в футляр.
— Не вижу порядка, — ответил Бел Амор.
— Можно собираться, — успокоил его Март. — Ты когда спал в последний раз?
— Можете ухо'ить, — разрешил Дикий Робот. — Со Свалки вас не выпустят законы Азимова.
Они вышли из парного вагона. Бел Амор упирался и предлагал уничтожить опасного робота.
— Садись в звездолет, все в порядке, — сказал Март. — Он уже не опасен. Законы Азимова трансформировались у него в нормальное этическое правило: «Разумное существо не может причинить вред другому разумному существу или своим бездействием допустить, чтобы другому разумному существу был причинен вред.»
— Но он же сигналит «SOS» и заманивает на Свалку людей!
— Он больше никого не заманит. Я убрал у него букву «Д», и теперь на этот сигнал никто не сунется. Кто захочет работать на Свалке? А ему здесь самое место. Он приведет Свалку в порядок.
Свалка уходила.
От нее шел отчетливый сигнал: «Спасите наши 'уши!» — Дикий Робот опять забросил свою приманку.
На этот сигнал никто уже не обращал внимания, лишь Стабилизатор то и дело беспокойно оглядывался, но он мог быть спокоен — он никому не причинил вреда и своим бездействием не допустил… и так далее.
— Слушай, коллега, — сказал Бел Амор, когда они вышли в чистый космос. — Что-то мы недодумали. Все планеты в березах, аж в глазах рябит.
— Сажай клюкву, — посоветовал Март и укрылся одеялом. — Развесистую.
И заснул.
И поговорить не с кем, подумал Бел Амор. И звездолет взорвался. И человека не спас. И веник потерял.
Неудачный день.
'икий Робот си'ел в парной. Третий захо' — 'ля тела. 'уш из мазута, потом отполироваться войлоком, покрыть себя лаком; 'ва слоя лака, шлифовка, потом опять 'ва слоя лака. Сего'ня хотелось блестеть и быть красивым, — сего'ня открытие памятника. Он вышел из вагона в старом махровом халате — на Свалке все есть! — торжественно потянул за веревочку, и покрывало опустилось. 'ве гранитные человекообразные фигуры направлялись ку'а-то в'аль. Сказать опре'еленно, к какому ви'у относятся эти фигуры, не было никакой возможности. Еще о'но опре'еление человека, по'умал 'икий Робот. Человек — это тот, кто понимает искусство.