— Так «кто» или «что»? — задал он сакраментальный вопрос. — Разумное мыслящее существо или сложная интеллектуальная машина? Если проводить аналогии, то надо вести сравнение по неизвлекаемым программам, то есть по инстинктам. Я уже сделал некоторые раскопки, но хочу услышать твое мнение.
Пальмер был готов и к этому. Он пригладил свою залысину, что было у него знаком величайшего самодовольства и уверенности в своих знаниях.
— В настоящее время выделено 18 факторов, так называемых факторов Рейсса, которые на инстинктивном уровне определяют поведение человека. По мере возникновения и влияния на личность они распределяются на четыре группы. Биологическая группа — это пищевой, половой, исследовательско-ориентировочный инстинкты, а также двигательная активность и агрессия. Группа структуры личности — сюда входят честь, месть, независимость и власть. Группа комфорта — спокойствие, одобрение, порядок и экономия. И последнее, самое сложное — общественные отношения: общение, забота, семья, положение в обществе и идеализм, то есть потребность в создании абстрактных конструкций. Казалось бы, у киборгов им должны соответствовать Три Закона Роботехники, но это не совсем так. Законы гласят: Первый — робот не может допустить, чтобы его действие или бездействие причинило вред человеку, Второй — робот должен подчиняться человеку, если это не противоречит Первому Закону, и Третий — робот должен заботиться о самосохранении, если это не противоречит Первому и Второму Законам. Если привести Законы в соответствие с факторами Рейсса, получится неполная, дробная картина: совпадают только забота, подчинение, как элемент власти, и порядок с экономией, в чем люди признаются наименее охотно — а у роботов ввели в Третий закон. Вроде бы минимум сходства — но лишь на первый взгляд. Мозг киборга высшего класса устроен гораздо сложнее и функционирует на ином уровне, следовательно, либо не все Законы декларированы, либо в BIC сознательно упростили инструкцию для «чайников».
— Похоже на то, — Хиллари слушал с чрезвычайным любопытством. — Давай-ка начнем с азов и определений. Инстинкты — более или менее сложные, последовательные, генетически детерминированные действия, закрепленные в нервной системе; они представляют собой наименее пластичную форму поведения. Сложные формы инстинктивного поведения очень совершенны, но жестки и препятствуют развитию; при изменении условий они могут стать бессмысленными! Скажем, вложи в андроида-лакея алгоритм пилотирования — и он будет делать попытку за попыткой поднять ротоплан в воздух, не замечая, что у машины нет ни мотора, ни роторов. Аналоги инстинктов — программы, встроенные при сборке мозга и срабатывающие рефлекторно, тот же «ствол», который киборг контролировать не может: забота, подчинение, порядок. Чтобы киборг не отвлекался для помощи любому нищему и алкашу, вводится принцип приоритетности хозяина — его образ внедряется в мозг, и создается вертикаль «человек—киборг»; это — фактор власти. Третий Закон включает питание, двигательную активность и любознательность — кибер следит, чтобы наружний покров не потерял свойства, контракторы не затвердели от бездействия, и сканирует все незнакомое и подозрительное, чтобы не попасть в аварию. Так что инстинктов уже набирается больше, чем перечислено в методичке BIC!
Сев поудобней, Хиллари продолжил развивать концепцию:
— Мало этого: высшие киборги обучаются, то есть имеют вторую форму поведения — навыки, постепенно вырабатываемые в результате индивидуального опыта; навыки более пластичны. Не будем забывать, что при господстве одной формы поведения в известной степени представлены и другие; навыки формируются на основе инстинктов. Для адаптации имеет значение гибкость, изменчивость поведения в ответ на изменение внешних условий. Среда обитания киборгов — Город и люди; чтобы киберы максимально исполняли инстинкт заботы — у человека, кстати, очень хилый; общество его буквально навязывает людям, а у роботов он стоит на первом месте — усилены способности развития навыков уподобления и общения, чтобы киборги вписались в общество, в семью. Понятие «семья» в базовом словаре кибер-мозга намеренно увязано с понятием «хозяин». Фердинанд цеплялся именно за базовый словарь и менял смысл понятий, придавал им новое значение. Что получилось — мы видели, но понять можно, отыскивая не различия, а сходства.
Поиск аналогий вдохновлял его; теперь он осознал, что совет отца был умней, чем показалось вначале.
— Наш мозг состоит из древних центров и специализированной коры, где есть первичные и вторичные поля, отвечающие за выработку тончайших и сложнейших навыков. По тому же принципу устроен мозг киборга — «ствол», сектора и блоки в них; память хранится в массивах, многократно соединенных друг с другом. Обладают ли киборги разумом? Да. По определению «разум» или «интеллект» — способность понимать и отражать отношения между вещами, понятие о причинно-следственных связях в мире и обществе. Безусловно, высшие киборги наделены такой способностью. Они разумны, они индивидуальны, у них есть воля, то есть — они способны к действиям для достижения сознательно и самостоятельно поставленной цели. Это требует предварительного выбора между разными способами действия, принятия решения и, наконец, приведения его в исполнение. Вместе все это — выбор, решение, исполнение — и выражает волю. Воля заключает в себе переход от мыслей и чувств к действию.
Чтобы тебя не поймал на слове въедливый вежливый Пальмер, надо свободно оперировать понятиями; Хиллари был готов к этой вроде бы случайной беседе.
— У человека за волю отвечают в мозгу третичные поля, на которых замыкаются все цепи; они самые большие и по объему занимают 30% площади коры. Воля! Вот что радикально отличает человека от животных — способность к длительному совершению сознательных, целевых актов, в том числе в абстрактной деятельности. Воля киборгов заключена в «стволе» — в «тройке» Законов, ими они и руководствуются, но, имея индивидуальность, навыки, интеллект, инстинкт заботы и общения, они могут и должны создавать группы, действующие целесообразно и автономно, поскольку опыт учит их тому, что наиболее эффективны согласованные и коллективные действия. Поэтому робосоциология — объективная реальность…
Хиллари говорил так, словно на словах оттачивал и проверял преамбулу к монографии. Речь шла под запись — потом он ее отредактирует, отбросит лишнее и впишет недостающее.
— …киборги сами, без помощи людей могут путем простого словесного контакта создавать и внедрять в своих группах аналоги ЦФ, основанные на авторитете самых опытных и быстро мыслящих киберов. Они создают их при общении. Фердинанд же навязал в виде программы свое мировоззрение, по сути дела — ввел в мозг киборгам свои идеи и понятия. Но почему свобода породила агрессию, а проповедь добра обернулась насилием? Киборги не могут переступить через Законы, это инстинкты, они неизвлекаемы; если бы поведение или приказ пришли в противоречие с «тройкой», «ствол» бы парализовал весь мозг — а ведь этого не произошло!
— Кое в чем я разобрался, еще когда тестировал Маску, — Пальмер не мог скрыть удовольствия. — ЦФ-6 и ЦФ-5 разрушают образ «хозяин» и вводят на его место «служение человечеству», поэтому в сферу действия Первого Закона входит больше субъектов, главным образом за счет понятия «семья», а далее — «Двенадцатая Раса». Этого нет в других ЦФ; есть имитация, совместная жизнь, не больше. Находка Фердинанда в том, что он изменил самосознание киборгов; если раньше они занимались мимикрией, то ЦФ-6 переместила понятия «люди» и «человек» через подмену «индивидуальности» и «личности» на членов «семьи»; действие Первого Закона по «семье» усилилось примерно в 15 раз, и Закон стал звучать как-то так: «Мы не можем допустить, чтобы наше действие или бездействие причинило вред нашей семье». Поэтому они шли и на агрессию, и на «Взрыв».