Год назад я спросил ассистентов, как, по их мнению, окончится эксперимент.
— Она влюбится, — ответил Корнеев.
— Раз-зумеется, — медленно произнес Антрощенко. — Она влюбится в тебя. Как м-многие другие в институте.
Потом он добавил:
— Очень глупая модель. Она будет похожа на к-крайне ограниченного человека. Скучного ч-человека.
— Ну, а вы? — спросил я Белова.
Он пожал плечами:
— В таких экспериментах не бывает неудач. Если машина сумеет хорошо имитировать человеческие эмоции, мы дадим биологам интересный материал. Если же она… ну, если она не сработает, биологам придется кое в чем пересмотреть свои взгляды. Это тоже полезно.
Две недели машина работала превосходно, и мы получили ценнейшие данные. А затем произошла первая неожиданность: у машины вдруг появилось увлечение. Она увлеклась… вулканами.
Это продолжалось десять дней. Машина изводила нас классификацией вулканов. Она упрямо печатала на ленте: Везувий, Кракатау, Килауэа, Сакурадзима… Ей нравились старинные описания извержений, особенно рассказ геолога Леопольда фон Буха об извержении Везувия в 1734 году. Она бесконечно повторяла этот рассказ: «В ночь на 12 июня произошло страшное землетрясение, повторившееся еще 15 июня в 11 часов ночи, с сильнейшим подземным ударом. Все небо вдруг озарилось красным пламенем…».
Потом она забыла об этом. Абсолютно забыла. Она отключила блоки памяти, в которых хранились сведения о вулканах. Такую вещь человек не способен сделать.
Эксперимент вступил в фазу непредвиденного. Я сказал об этом ассистентам, и Белов ответил:
— Тем лучше. Новые факты ценнее новых гипотез. Гипотезы приходят и уходят, а факты остаются.
— Чушь! — сказал Антрощенко. — Факты сами по себе ничего не дают. Они как далекие з-звезды…
— Прошу не трогать звезды! — воскликнул Корнеев.
Я слушал их спор, а думал совсем о другом. В этот момент я уже знал, что будет дальше.
Очень скоро мое предвидение начало сбываться. Вдруг выяснилось, что машина ненавидит созвездие Ориона и все звезды, входящие в каталог Лакайля с № 784 по № 1265. Почему созвездие Ориона? Почему именно эти звезды? Мы могли бы разобрать машину и найти объяснение. Но это значило прервать эксперимент. И мы предоставили машине полную свободу. Мы лишь подключили к блокам памяти новые элементы и наблюдали за поведением машины.
А оно было очень странным, это поведение. Машина, например, включила желтый свет, означавший плач, когда впервые узнала структурную формулу бензола. Машина никак не реагировала на формулу динатрийсалициловой кислоты. Но упоминание о натриевой соли этой кислоты неожиданно привело ее в бешенство; желтый сигнал стал оранжевым, а потом лампа перегорела…
Музыка, вообще любая информация, связанная с искусством оставляла машину бесстрастной. Но ее веселило, когда в тексте информации встречались существительные среднего рода из четырех букв. Мгновенно зажигался зеленый сигнал и начинал уныло дребезжать звонок: машина смеялась…
Она работала двадцать четыре часа в сутки. Вечером мы уходили из института, а электронный мозг машины продолжал перерабатывать информацию, менять настройку блоков логического управления. По утрам нас ожидали сюрпризы. Однажды машина начала сочинять стихи. Странные стихи: о драке «горизонтальных кошек» с «симметричным меридианом»…
Как-то я приехал в институт ночью. Машина стояла в темной комнате. На приборном щите светилась только небольшая фиолетовая лампа: это означало, что у машины хорошее настроение.
Я долго стоял в темноте. Было тихо. И вдруг машина рассмеялась. Да, она рассмеялась! Вспыхнул зеленый сигнал и тоскливо задребезжал звонок…
…Сейчас, когда я пишу эти строки, машина снова смеется. Я сижу в другой комнате, но дверь приоткрыта, и я слышу взвизгивание звонка. Машина смеется над квадратными уравнениями. Она ворошит свою огромную память, отыскивает тексты с квадратными уравнениями — и смеется.
Когда-то Клод Бернар сказал: «Не бойтесь противоречивых фактов — каждый из них зародыш открытия». Но у нас слишком много противоречивых фактов. Иногда мне кажется, что мы просто-напросто создали несовершенную машину…
Или — все правильно?
Вот моя мысль:
Нельзя сравнивать машину с человеком. В нашем представлении роботы — это почти люди, наделенные либо машинной злостью, либо машинным сверхумом. Чепуха! Наивен вопрос, может ли машина мыслить. Надо одновременно ответить «нет» и «да». Нет — ибо мышление человека формируется жизнью в обществе. Да — ибо машина все-таки может мыслить и чувствовать. Не как человек, а как некое другое существо. Как машина. И это не лучше и не хуже, чем мышление человека, а просто — иначе.
Машина может определить температуру воздуха с точностью до тысячных долей градуса, но она никогда не почувствует и не поймет, что такое ветер, ласкающий кожу. А человек никогда не почувствует, что такое изменение самоиндукции, никогда не ощутит процесса намагничивания. Человек и машина — разные.
Машина только тогда сможет мыслить как человек, когда она будет иметь все то, что имеет человек: родину, семью, способность по-человечески чувствовать свет, звук, вкус, тепло и холод…
Но тогда она перестанет быть машиной.
Юрий Тупицын
БЕЗУМИЕ
1
Все началось с того, что, попав как-то в Институт высшей кибернетики, я заблудился. В этом не было ничего удивительного: такие истории со мной случались и раньше, к тому же институтские коридоры были до тошноты похожи один на другой. И вместо того чтобы попасть на лестницу, ведущую к выходу, я оказался в каком-то тупике. Пожав плечами, повернул обратно, пробуя открывать двери, попадавшиеся на пути, — надо было узнать, как мне выбраться из этой неожиданной ловушки. Две двери оказались запертыми, зато третья беззвучно приоткрылась, и, к своему несказанному удивлению, я услышал детский лепет и смех. Представьте эту ситуацию: серьезный институт, строгий, пустынный коридор и беззаботный детский лепет! Некоторое время я пребывал в состоянии прострации, а потом пришел в себя и прислушался. Ребенок веселился и старательно, с выражением читал стихи:
Малыш залился веселым смехом.
— Туча идет, — с восторгом повторял он, — туча гуляет! Разве у тучи есть ноги?
И наставительно, с глубокой убежденностью пояснил:
— Туча — это результат конденсации больших масс водяного пара, кучевое облако, образование, не имеющее определенной формы. Идти туча никак не может! Она может ползти или катиться!
Малыш помолчал и начал с выражением декламировать:
И с огорчением констатировал:
— Нет, так нельзя: нескладно. Надо по-другому, а как? А-а! Придумал! Туча по небу ползет, бочка по морю плывет! — с восторгом начал повторять ребенок на разные лады.
Я не выдержал и пошире приоткрыл дверь, чтобы взглянуть на этого удивительного ребенка. Но детский голосок сразу умолк. Тогда я вошел в комнату. Собственно, это была большая лаборатория, ярко освещенная солнечным светом, проникавшим через открытое окно. Всю боковую стену лаборатории, до самого потолка, занимал сложнейший пульт управления с множеством кнопок, выключателей, сигнальных ламп и контрольных приборов.
Ребенка нигде не было, однако на пульте управления я заметил книжку: А.С.Пушкин. Сказка о царе Салтане… Я огляделся. Куда мог спрятаться мальчишка?