Однако волну погнал обозреватель из компьютерного журнала «Процессор», ранее интереса к тематике андроидов не проявлявшего.
— Эрик Фромм — один из ключевых акционеров А-Стайлс, не так ли?
Кира кивнула.
— На прошлой неделе доктор Фромм опубликовал статью об искусственном интеллекте в элитном психологическом журнале. В частности, в ней обсуждается вероятность развития ИИ до уровня живого разума. Возникает очевидный вопрос: считает ли корпорация А-Стайлс своих андроидов разумными, или предполагает, что роботы «оживут» в будущем?
— Давайте расставим все по местам. Живой разум Эрика Фромма может себе позволить любые игры. Но было бы ошибкой предположить, будто робот способен думать. Он только имитирует мыслительную деятельность. История знакомства Эрика и Стайла Мо широко известна. Стайл много размышлял на эту тему, дискутировал с другом и соратником Максом Манном. Но сами понимаете, технарям тяжело даются гуманитарные вопросы. Ответ нашел Стайла во сне. Ему приснилась идея Марсианской комнаты, в метафорической форме, конечно же. Стайл обсудил идею с Эриком Фроммом, единственным знакомым психологом. Эрик распознал в ней принципы построения искусственного интеллекта, он так увлекся этой темой, что закрыл практику психотерапевта и вступил в команду А-Стайлс, чтобы начать работу над созданием андроидов. Суть Марсианской комнаты проста — решения любой задачи робот выбирает из базы вариантов, и это механический процесс.
К беседе наконец-то присоединился Каро.
— Не сомневаюсь, вы знакомы с Меморандумом Луддитов?
— Мы знаем о существовании этого документа, однако, не считаем его заслуживающим пристального внимания, — ответила Кира.
— Со всем уважением к вашему мнению, я дал себе труд ознакомиться с Меморандумом. Там задается вопрос, который волновал несчастного безумца, чудом прорвавшегося на конференцию: насколько роботы безопасны?
— Системы безопасности встроены в операционную систему любого андроида производства А-Стайлс не просто на этапе программирования, они заложены доктором Фроммом при разработке структуры мышления. Ни один робот никогда не причинит вреда человеку. Чтобы обойти этот запрет, надо не править что-либо в программном обеспечении, надо написать операционную систему заново, создав при этом принципиально другую техническую основу. Еще раз заявляю от лица корпорации: андроид А-Стайлс никогда не причинит вреда человеку. Именно поэтому невозможно использовать наших роботов в военных целях.
Алекс не унимался.
— Меморандум отвечает на статью Эрика Фромма. Может быть, мы некомпетентны обсуждать такие сложные научные вопросы, но меня тревожит мысль, что если у роботов появится подсознание, а именно о нем идет речь в скандальной статье доктора Фромма, то робот способен сойти с ума. Сможет ли безумный андроид отличить человека от другого андроида? Такие сценарии часто встречаются в мировой фантастике.
— Жизнь, уважаемый господин Каро, крайне далека от художественной прозы. И не все фантастические прогнозы сбываются. В реальном мире человек человеку опаснее любого технического устройства.
2075.09.23. 19:00
Руководство вполне могло заседать в главном офисе, в больших, красивых, удобных кабинетах с дизайнерской мебелью и картинами на стенах. Однако Стайл почему-то терпеть не мог там работать, организовав контору в своем особняке, выделив целый этаж для работы себе, Максу и Эрику, комнату для совещаний там же, а еще один этаж под лабораторию, в которой обосновался Гор. Там же расположился личный музей Стайла, куда категорически не пускали посторонних. Сюда привозились все образцы продукции компании, но не готовые протезы и тем более не роботы «в сборе», а чипы, платы и прочие компьютерные железяки, в которых Кира отказывалась разбираться. Достаточно того, что она рассуждает перед прессой о подсознании андроидов.
В особняке теплая компания и «тусовалась», другого слова Кира подобрать не могла. С Анджеем Гораком Стайл дружил еще с институтских времен, они занимались в одной группе, Макс учился в том же университете на факультете кибернетики. Стайл ушел в бизнес, спасибо богатенькой женушке Анне Райт, и захватил с собой Макса. Гор продолжал в институтской лаборатории издеваться над биомассой. Стайл переманил его к себе гораздо позже. А десять лет назад к ним присоединился расстрига-психоаналитик Эрик Фромм, всю жизнь мечтавший научить машины думать.
Троица целыми днями точила лясы в переговорной, уничтожая запасы кофе и бренди. Оттуда же по сети они отдавали указания на производство. Гор изредка отвлекался от своих пробирок, чтобы к ним присоединиться, но, в общем и целом, оставался еще большим затворником, чем его товарищи.