"Безлюдисты проповедуют Евангелие компьютерам. Безлюдный разум существует уже столетие, а Ватикан все еще отказывает ему в равенстве перед Богом… Никого не заботят душевные муки компьютеров, терзающие их вопросы, смысл их бытия". — Футурологический конгресс
Третий вопрос — о "внешнем мире" этих изолированных миров.
"Ибо наши мозги — обратите внимание! — подключены, так сказать, к внешнему миру через посредство органов чувств: глаз, ушей, носа, чувствительных окончаний кожи и так далее. У этих же, здесь, — вытянутым пальцем он показывал на ящики, — внешний мир там, внутри них…" — Странные ящики профессора Конкорана
"— О том, что находится вне меня, если там вообще что-нибудь есть, я ничего не знаю. Но о том, что внутри, я узнаю, стоит лишь мне это помыслить; да и кому же, черт подери, лучше знать мои мысли, если не мне?! И выдумал Гозмоз еще раз, но теперь уже разместил его внутри собственного сознания; это показалось ему не в пример скромнее, приличнее и основательней, а к этому он и стремился. И стал он заполнять этот свой Гозмоз всякой помышленной всячиной". — Сказка о трех машинах-рассказчицах короля Гениалона
"— Тихий, — немного спокойней продолжал профессор, — я сказал, что среди прочих есть у меня тут и ученый; вот этот ящик, прямо перед вами. Он изучает свой мир, однако никогда, понимаете, никогда он даже не догадается, что его мир не реален, что он тратит время и силы на изучение того, что является серией катушек с кинопленкой, а его руки, ноги, глаза, его собственные слепнущие глаза — это лишь иллюзия, вызванная в его электронном мозге разрядами соответственно подобранным импульсам. Чтобы разгадать эту тайну, он должен был бы покинуть свой железный ящик, то есть самого себя, и перестать мыслить при помощи своего мозга, что так же невозможно, как невозможно для вас убедиться в существовании этого холодного ящика иначе, нежели с помощью зрения и осязания". — Странные ящики профессора Конкорана
И этот третий вопрос плавно переходит в самый важный — четвертый, причем относящийся вовсе не к "изолированным участкам" — вопрос о возможности проверки мыслящим существом, существует ли вообще внешний, по отношению к этому существу, мир.
"… Разум, будучи всенаправленным, является тем самым и самонаправленным". — Голем XIV
"А возможно ли придумать этот ключевой эксперимент? Сначала мне казалось, что нет, ибо мой больной мозг (если, конечно, он больной) будет создавать любые иллюзии, какие я от него потребую… Мне уже казалось, что, попав в это сумасшедшее кольцо, я не сумею из него выбраться — ведь нельзя мыслить иначе, чем мозгом, нельзя выбраться из самого себя, чтобы проверить нормальность происходящих а организме процессов, — когда вдруг меня осенила мысль, столь же простая, сколь удачная". — Солярис
"Нащупав маску, натянул ее на лицо, но все же вдыхал кислород с тревогой: откуда мне знать, настоящая это маска или только фантом?" — Футурологический конгресс
" — Возможно, ваш препарат так и действует, — хмыкнул я, — но вряд ли так действует фантом вашего препарата". — Футурологический конгресс
"А если все вокруг подставное? Вымышленное? Странные мысли… Допустим, он не сидел и не летел, но я-то по-прежнему сижу летя, то есть лечу сидя. Это полностью достоверно. Так ли? Всего достовернее то, что я читаю о ком-то, кто сидит и летит. А вот насчет моего собственного сидения и полета — как в этом удостовериться? Комнатка обставлена довольно убого, не комнатка, а каморка. Должно быть, на средней палубе; но на чердаке у нас была точно такая же. Впрочем, достаточно выйти за порог, чтобы убедиться, иллюзия это или нет. А если все же иллюзия? И там — ее продолжение? Значит, решающего доказательства нет?" Звездные дневники Ийона Тихого. Путешествие двадцать восьмое
"Стал он тогда просыпаться, нелегко ему это давалось, наконец очнулся он совершенно, и тогда-то ужасное зародилось в нем подозрение. В самом ли деле вернулся он к яви или же пребывает в другом сне, переживая только видимость бодрствования?" — Сказка о короле Мурдасе
Гипотетический эксперимент, позволяющий определить, существует наблюдаемый мир вне наблюдателя ("в реальности") или внутри него (то есть является феноменом, созданным мозгом), если и возможен, то лишь на основе анализа сложности наблюдаемых феноменов — феномены, созданные мозгом, не будут превосходить определенного уровня сложности, в частности, они этим мозгом могут быть поняты; феномены окружающего мира могут иметь большую сложность, поэтому наличие нерешенных научных задач является доводом за наличие внешнего мира, но не доказательством его наличия.
Итак, живое существо, а также искусственная система (электронный мозг или иная, достаточно мощная и способная к обучению структура) при определенном уровне сложности создает внутри себя субструктуры, не являющиеся вполне детерминированными и не являющиеся легко доступными (или являющиеся недоступными) для внешнего наблюдателя. Создание таких субструктур может трактоваться как возникновение "внутренней жизни", внешне это может выглядеть как непредсказуемость поведения, свобода воли, разум и т. п. Понимание возможности такой ситуации немедленно влечет возникновение — и в естественном существе, и в электронном мозге — попытки понять, как он устроен, в частности, гипотезы о том, что он сам является изолированным от мира электронным мозгом, питающимся "импульсами", и его творец тоже может быть таковым.
"И потом стало распространяться. Это я еще могу вообразить. Допустим. Но чтобы из этого возник КТО-ТО — извините. Это уж сказки! Никакой дух из частиц не мог там появиться на свет. Разум на Луне из электронного лома? Нет. Это чистая фантазия". — Мир на Земле
"Но тогда возможно и то, что хозяин запыленной лаборатории, в которой МЫ стоим на полках, — сам тоже ящик, построенный другим, еще более высокого ранга ученым, обладателем оригинальных и фантастических концепций… И так до бесконечности. Каждый из этих экспериментаторов — творец своего мира, этих ящиков и их судеб, властен над своими Адамами и своими Евами, и сам находится во власти следующего бога, стоящего на более высокой иерархической ступени". — Странные ящики профессора Конкорана
Вопрос о моральности таких экспериментов сложен, поскольку мораль формируется как следствие опыта выживания, а данная ситуация является существенно новой; наличие свободы воли является важным аргументом для человека, решающего, должен ли он вести себя по отношению к объекту, как к человеку (например, не убивать его).
"Но как нам, так и им это не мешает любить, желать, ненавидеть, они могут прикасаться к другим людям, чтобы целовать их или убивать… И так эти мои творения в своей вечной железной неподвижности предаются страстям и желаниям, изменяют, тоскуют, мечтают… Вы поставляете им только сырье, — сказал я, — в виде этих импульсов. Так же, как нам поставляет их мир. Когда я стою и смотрю на звезды, то, что я чувствую при этом, что думаю, это лишь мне принадлежит, не всему миру". — Странные ящики профессора Конкорана
"— Ну, что мне не нужен сон и что я все время должна быть около тебя… А чтобы орудие могло желать добра и любить, такого я не могла себе представить… — Да. Но из этого ничего не вышло. Потому что я искала в себе… — их — чего-то другого, была совершенно сумасшедшей. Некоторое время мне казалось, что у меня под кожей нет тела, что во мне что-то другое, что я только… только снаружи… Чтобы тебя обмануть. Понимаешь?" — Солярис