– Когда вас нет, я всегда сижу у телефона, – ответил Эм-Эм.
– И вы обмениваетесь информацией, не правда ли? А ты знаешь, Эм-Эм, что этот род информации на всех языках называется одинаково – сплетнями?
– Знаю, – сказал Эм-Эм. – Но я не в состоянии изменить первоначальный замысел моего создателя. Секретари типа Эм-Эм запрограммированы на непрерывный сбор информации всякого рода – они должны быть максимально полезны своим хозяевам. Вот, например, вы не знаете, а я могу осведомить вас, как Райскому удалось сделать карьеру, стать министром промышленности.
– Не желаю знать! И не желаю слушать! – я рассердился еще больше. – И не смей меня информировать о вещах, к которым я не проявляю интереса!
– Не буду! – послушно сказал Эм-Эм. – Но если вам когда-нибудь потребуются моральные аргументы против Райского – я к вашим услугам!
– Никакие аргументы мне не потребуются! – оборвал я робота. И, помолчав, добавил: – Если мне когда-нибудь придется столкнуться с Райским, я буду воевать честно и открыто, не прибегая к сплетням.
– В моей электронной памяти, – сказал Эм-Эм, – зафиксировано, что честная и открытая война связана со многими поражениями и малым числом побед. Впрочем, я не имею права вмешиваться в ваши отношения, мое дело собирать информацию и хранить ее!
Мне надоела его болтовня, и я приказал принести стакан холодного сока.
Пока Эм-Эм возился в столовой, я с огорчением думал о том, что от этого разговора мне стало совсем тошно, я даже пожалел, что затеял с роботом беседу на вольную тему. „Вот так оно и бывает у нас, людей, – продолжал думать я с горечью. – Мы создаем существа, которые в техническом отношении превосходят нас самих, но в моральном плане приравниваем их к себе и в один прекрасный день будем вынуждены посыпать голову пеплом. Их всесторонняя информация может до предела усложнить нашу жизнь. Эм-Эм будет вытаскивать на белый свет грязное белье Райского, супер-робот Райского будет с удовольствием вытряхивать напоказ своему хозяину мое грязное белье, – правда, что касается моего белья, то оно никогда не было и не будет грязным, но так уж принято говорить. И что же получится в конце концов? Я и Райский вцепимся друг другу в глотки, станем обмениваться „любезностями” не хуже наших прадедов частнособственнических времен…
Эм-Эм появился также бесшумно, как и исчез. Он подал мне хрустальный стакан, полный свежего апельсинового сока, в котором плавали прозрачные кусочки льда. Пока я пил этот эликсир, мне казалось, будто я по самые плечи окунаюсь в сказочную воду, которая возвращает умерших к жизни. Помню, в какой-то сказке старых-старых времен говорилось о том, что где-то далеко-далеко, за широкими морями и высокими горами струится источник живой воды. Мне показалось, что я читал эту сказку сто лет назад, в другом мире, сидя взаперти.
– Благодарю, Эм-Эм! – сказал я роботу. Когда был выпит последний глоток, ощущение блаженства исчезло. Я откинулся на подушку и закрыл глаза.
– Дать вам таблетку тонизирующего препарата? – спросил мой секретарь.
Я отрицательно покачал головой.
Некоторое время мы оба молчали, потом Эм-Эм сказал:
– Вот этого я не понимаю и, наверное, никогда не смогу понять: вы себя чувствуете плохо, а не хотите, чтобы стало хорошо. Как можно не хотеть того, в чем вы нуждаетесь?
– … и как можно вступать в противоречие со здравым смыслом? – иронически добавил я.
– Скажем… – попытался что-то возразить Эм-Эм.
– Когда люди теряют способность вступать в противоречие со здравым смыслом, – снисходительно усмехнулся я, – тогда они превращаются в твоих собратьев и перестают быть людьми. Понимаешь, что я хочу сказать?
Эм-Эм не ответил. Он пытался понять мои слова, вникнуть в их смысл, но из этого, видимо, ничего не выходило: после минутного молчания над его лбом зажглась красная сигнальная лампочка.
– Перестань думать над этим! – сказал я, милостиво махнув рукой.
Красная лампочка погасла, и Эм-Эм с удовольствием расправил плечи, словно освобождаясь от какого-то невидимого, невыносимо тяжелого груза.
„Ты никогда не сможешь уподобиться человеку, – в который раз подумал я и постарался перевести взгляд на зеленый круг электронных часов. – В прошлом ученые-мечтатели верили в такую возможность и даже боялись, что ты в конце концов вытеснишь своего создателя и станешь полновластным хозяином жизни. Все это, конечно, мистика и чушь!” Пока я смотрел на зеленый круг часов, накрученная до отказа пружина в моей душе опять лопнула, и в памяти всплыло число четырнадцать. За время моего короткого, кошмарного сна, это число несколько раз маячило у меня перед глазами, причем обе цифры были какие-то странные: единица напоминала вскинутую вверх руку утопающего чело века, а четверка, казалось, была составлена из кусков льда. Мне тогда же, во сне, пришло в голову, что мой корреспондент, чего доброго и впрямь утопился в полынье: вчера истек четырнадцатый день.
Я знал, что Яким Давидов, отказываясь дать ход жалобе этого молодого человека, рассуждал так: „Если я его помилую, мы сохраним одно человеческое счастье. Но, сохранив это человеческое счастье, нарушим общественную дисциплину. С точки зрения общественной пользы что предпочтительнее? Личное счастье или общественная дисциплина? Естественно, – общественная дисциплина!”
Короче, он слово в слово повторил в уме выводы районной ЭВМ. А какая из моих ЭВМ не руководствуется во всех случаях исключительно принципами оптимальной общественной пользы?
„Нет, тебе никогда не приблизиться к человеку, – продолжал думать я о несчастном Эм-Эм. – Твое сознание будет всегда рефлекторным и запрограммированным, автоматическим, какие бы огромные количества информации ты не накопил в своей электронной памяти и с какой бы астрономической скоростью их ни обрабатывал. А вот мы, люди, пожалуй, начнем потихоньку-полегоньку походить на тебя, все больше подпадая под власть твоего здравого смысла, – это уже реальная возможность, опасность, которая при случае может сыграть с нами скверную шутку. Над этим стоит призадуматься, против такой перспективы нужно вовремя принять меры, – не то люди превратятся в роботов.”
Картина возможного полного торжества „абсолютного разума”, когда человек, абстрагировавшись от эмоций, превратится r живое воплощение математической логики, логики вообще, – эта картина заставила меня содрогнуться. Я с ненавистью взглянул на Эм-Эм, чинно стоявшего около моей постели, и шепотом, как бы в полусне произнес: „Ужасно! Это было более чем чудовищно!”
– Вы что-то сказали? – спросил Эм-Эм.
Я ему не ответил. Душу мою обуревали противоречивые чувства. Во-первых, я удивился, что защищаю позиции, которые даже наедине с собой не должен был считать своими. Разве к лицу мне, создателю искусственного интеллекта брать под защиту душевность, эмоциональность и всякие прочие сентименты? Где это видано, чтобы кибернетик, который только в течение последнего года освободил от работы более двадцати тысяч рабочих, инженеров и служащих, заменив их точными и исполнительными автоматами, воздыхал об эмоциях?
Второе чувство, нахлынувшее мне в душу, оставило в ней темный след, какой тянется – или нам только так кажется! – за птицами, перелетающими в сумерки с места на место. „Ох, и влетит же мне, – подумал я, – если Великий Магнус узнает от моего Эм-Эм какие нелепые и еретические мысли витают в моей голове! Вероятно, он потребует, чтобы меня выслали в Антарктиду, хотя в его электронной памяти и значится, что я один из его создателей.
Информация о том, что я испытываю тоску, что я серьезно опасаюсь за мир эмоции, тут же и непременно вызовет в его бездонном мозгу обратную реакцию. Во имя оптимальной пользы для общества он с ходу решит, что я должен уехать в ледяные пустыни Южного полюса. А там бунтуй сколько угодно против собственных же принципов! И кто за меня заступится – уж не Яким ли Давидов или Райский?
Самое страшное, – продолжал рассуждать я, – что в последние недели мои чувства вырвались на свободу, словно узники из тюремных камер. Я так долго держал их под замком, чтобы они мне не мешали, что начал было подозревать, будто они навсегда потеряли желание выйти на свободу. Но в последние недели…”