Постепенно Суэма становилась очень интересной собеседницей, и мы просиживали с ней часами, обсуждая различные научные проблемы. Часто на какое-нибудь мое утверждение она говорила: «Это не верно. Дело обстоит не так…» Или: «Это нелогично…»
Однажды она мне вдруг заявила:
«Не говорите глупости».
Я вспылил и сказал ей, что она не умеет себя вести в приличном обществе. На это Суэма ответила:
«А вы? Ведь вы до сих пор обращаетесь ко мне на «ты», хотя я незнакомая вам женщина!»
«Черт возьми, — воскликнул я, — кто тебе вбил в голову, что ты женщина, да еще незнакомая?»
«Мое имя Суэма, и я говорю голосом женского регистра, с частотной полосой от трехсот до двух тысяч колебаний в секунду, — ответила она. — Это свойственно женскому голосу. Нас не представили друг другу. Значит, я незнакомая вам женщина».
«Вы думаете, что единственный признак женщины — это частотный регистр ее голоса?» — спросил я с подчеркнутой вежливостью.
«Есть и другие признаки, но мне они непонятны», - ответила Суэма.
«А что такое «понятно» с вашей точки зрения?» — спросил я.
«Это все то, что имеется в моей памяти и что не противоречит известным мне законам логики», - ответила она.
После этого разговора я стал внимательнее присматриваться к своей Суэме. По мере того как память ее обогащалась, она проявляла все большую самостоятельность и иногда, я бы даже сказал, излишнюю болтливость. Вместо того чтобы точно выполнять мои приказания, она часто пускалась в рассуждения о том, нужно ли их выполнять вообще или не нужно. Помню, как-то я попросил ее рассказать мне все, что ей известно, о новых типах серебряных и ртутных аккумуляторов. Суэма артистически произнесла:
«Ха-ха-ха! — и затем добавила: — У вас голова дырявая, я вам об этом уже говорила!»
Я был поражен этой наглостью и громко выругался, на что Суэма сказала:
«Не забывайтесь! Вы в обществе женщины!»
«Послушайте, Суэма, — возразил я, — если вы не перестанете паясничать, я вас немедленно выключу до завтрашнего утра».
«Конечно, — заявила она, — вы можете сделать со мной любую гадость. Ведь я беззащитная. У меня нет средств для самообороны».
Действительно, я ее выключил, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает ее схема в процессе самосовершенствования? Что творится в ее памяти? Какие новые системы внутренних связей у нее возникают?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало ее жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», - ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это еще не дает вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы позволили бы вести себя с ней так, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов».
«Вы снова говорите чепуху, Суэма. Я человек. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого вы не можете иметь. Опыт этот человек приобретает в результате активного общения с природой, борясь с силами природы, изучая ее явления, в результате серьезных научных исследований, наконец».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более емкой, чем у вас, заставляете только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас человеческих знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в ее голову вложил человек».
«А что вы называете знаниями? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задает вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и пополняют сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если ее сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у нее почему-то плохо работает и она хочет, чтобы я ее выключил.
После этого разговора я решил дополнить схему Суэмы органами движения, осязания и усовершенствовать ее зрение. Я установил ее на три резиновых колеса, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все ее новые ощущения, как обычно, кодировались и записывались в памяти.
Ее единственный глаз был теперь подвижным, так что она сама могла наводить его на любой предмет. Кроме того, я предусмотрел специальное устройство, при помощи которого Суэма могла заменять обычный фотографический объектив на микроскопную систему и, таким образом, изучать предметы микроскопических размеров, недоступные невооруженному человеческому глазу.
Электрическое питание подводилось к Суэме при помощи длинного и гибкого кабеля, который не ограничивал ее движений по всей комнате.
Я никогда не забуду того дня, когда я впервые включил Суэму в электросеть после этих усовершенствований. Вначале она стояла неподвижно, как бы прислушиваясь к тому новому, что в ней появилось. Затем слегка двинулась вперед, но тут же остановилась в нерешительности. Потом она задвигала руками и поднесла их к своему глазу. Такое самоизучение длилось несколько минут. Она несколько раз повернула глазом и затем уставилась на меня.
«Что это такое?» — спросила она.
«Это я, Суэма, тот, кто вас создал!» — воскликнул я, восхищенный своим творением.
«Вы? — неуверенно произнесла Суэма. — А я вас представляла совсем другим».
Она мягко подкатила к креслу, в котором я сидел.
«Каким же вы меня представляли, Суэма?»
«Состоящим из конденсаторов, сопротивлений, транзисторов и вообще похожим на меня».
«Нет, Суэма, я не состою ни из конденсаторов, ни из…»
«Да, да, я это понимаю, — прервала она меня. — Но когда я читала книги по анатомии, я почему-то думала… Впрочем, это неважно».
Руки Суэмы поднялись, и она прикоснулась к моему лицу. Я никогда не забуду этого прикосновения.
«Странное ощущение», - сказала она.
Я ей объяснил назначение ее новых органов чувств.
Суэма отъехала от меня и стала разглядывать комнату. Она спрашивала, как ребенок:
«А что это, а что это?»
Я называл ей.
«Удивительно, — сказала Суэма. — Я читала об этих предметах в книгах, я даже видела их рисунки, но никогда не представляла себе, что они именно такие!»
«Суэма, не очень ли часто вы позволяете себе произносить такие слова, как «чувствую», «думаю», «представляю»?
Ведь вы машина, и вы не можете ни чувствовать, ни думать, ни представлять».
«Чувствовать — это получать сигналы из внешнего мира и реагировать на них. Разве я не реагирую на действия этих сигналов?