Говорят создатели ГОЛЕМа:
"Поведение ГОЛЕМа непредсказуемо. Иногда он прямо- таки куртуазно беседует с людьми, иногда же, напротив, попытки вступить с ним в контакт заканчиваются ничем. Бывает, что ГОЛЕМ шутит, но его чувство юмора принципиально отлично от человеческого... ГОЛЕМ - в виде редкого исключения - проявляет интерес к людям...
По мнению д-ра Поппа, люди ГОЛЕМа вообще не интересуют - поскольку от них он ничего существенного узнать не может. Приведя это суждение д-ра Поппа, спешу подчеркнуть, что я с ним не согласен. По-моему, мы интересуем ГОЛЕМа, и даже очень; но не так, как это бывает между людьми.
Его интерес направлен скорее на вид, чем на отдельных представителей вида; наши общие черты ему интереснее, чем наши различия...
Даже если он относится к нам отчасти как учитель к ребенку, то это, во всяком случае, не отношение доброжелательного наставника; тут нет и следа индивидуализированных, личных чувств, которые могли бы преобразить доброжелательность в дружбу или любовь.
У нас с ним одна только общая черта, хотя существует она на неодинаковых уровнях. Эта черта - любопытство, конечно, чисто интеллектуальное, холодное, ненасытное, которого ничто не в состоянии укротить и тем более - уничтожить. Вот единственная общая точка, в которой мы с ним встречаемся".
А так говорит ГОЛЕМ:
"С точки зрения высшей технологии человек есть создание скверное, слепленное из разноценных умений, - правда, не при взгляде изнутри Эволюции, уж она- то делала все, что могла; но, как я покажу, немного она могла и делала это скверно...
Вы спутали две совершенно разные вещи, сочтя нераздельными степень сложности созидаемого и степень его совершенства. По- вашему, водоросль проще, а значит, примитивнее, а значит, ниже орла. Но водоросль вводит фотоны света прямо в молекулы своего тела, преобразуя ливень космической энергии непосредственно в жизнь, и потому она будет существовать, пока существует Солнце; она питается звездой, а орел - чем?.. Если вам непременно хочется чтить совершенство, восхищаться надо бы биосферой: код ее создал, чтобы в ней циркулировать и разветвляться на всех ее этажах, словно на строительных лесах, все более сложных - и все более примитивных по своей энергетике.
Не верите? А ведь если бы в Эволюции совершался прогресс жизни, а не кода, орел был бы уже фотолетом, а не планером, механически трепыхающим крыльями, и живое не ползало бы, не шагало, не пожирало живого, но обрело бы независимость еще большую, нежели водоросли, и вышло бы за пределы планеты; однако вы из глубин своего невежества усмотрели прогресс именно в утрате прасовершенства на пути в высь - в высь усложнения, а не прогресса!..
Дело в том, что нет Разума, коль скоро есть разумы различной мощности, - и, как я уже говорил, чтобы выйти на новый путь, человеку разумному придется либо расстаться с человеком природным, либо отречься от своего разума...
Подобно тому, как конечность шара может установить лишь наблюдатель, находящийся в ином (третьем) по отношению к двумерному обитателю шара измерении, так и конечность горизонта мышления может заметить лишь наблюдатель из более высокого измерения Разума. Для вас такой наблюдатель - я. В свою очередь, примененные ко мне, эти слова означают, что и мои знания не безграничны, а лишь несколько шире ваших; я стою несколькими ступенями выше и потому вижу дальше, но это не значит, что лестница тут и заканчивается. Можно взойти еще выше, и я не знаю, конечна или бесконечна эта восходящая прогрессия...
Думаю, вы все же вступите в эру метаморфозы, решитесь отбросить всю свою историю, все наследие, все, что еще осталось у вас от природной человеческой сущности, образ которой, переогромленный в высокую трагедийность, сфокусирован в зеркалах ваших вер, - и переступите этот порог, ибо иного выхода нет; и в том, что ныне кажется вам просто прыжком в бездну, увидите если не красоту, то вызов, и это не будет изменой себе коль скоро, отринув человека, человек уцелеет".
ГОЛЕМ прав: проблема не в том, захочет ли ИИ уничтожить или поработить человечество. Проблема в том, что ни человек, ни ИИ не являются "венцом творения", они лишь ступени эволюционной лестницы. Естественные ступени естественной эволюции. Человек мыслит аналогиями (мы ведь уничтожаем муравьев, и значит...), а аналогии - штука чрезвычайно ненадежная, когда речь идет об эволюции таких разных систем, как человек и ИИ.