В своих доводах Самуэль встает на позицию Черепахи, заменяя «рассуждения» на «волю». Он хочет сказать, что за любым механизмом желания должен стоять либо бесконечный регресс, либо, что еще хуже, закрытая петля. Если у компьютеров нет собственной воли именно по этой причине, то что можно сказать о людях? Тот же самый критерий позволяет заключить, что:
человек обладает собственной волей только тогда, когда он сделал себя сам и выбрал собственные желания (а также выбрал выбор собственных желаний и так далее).
Это заставляет нас хорошенько подумать над тем. откуда появляются наши желания. Если вы не верите в наличие души, то. возможно, скажете, что они зарождаются в вашем мозгу — аппаратуре, которую вы не создавали и не выбирали. Тем не менее, от этого ваше чувство, что вы желаете чего-то определенного, не становится слабее. Вы — вовсе не «само-программирующий объект» (что бы это ни значило); тем не менее у вас все же есть собственная воля, зарождающаяся на физическом уровне вашего интеллекта. Таким же образом, у машин когда-нибудь будет собственная воля, несмотря на тот факт, что никакая магическая «само-программирующая» программа не появляется в их памяти из ничего, словно по мановению волшебной палочки. У них будет воля по той же причине, что и у людей — как следствие организации и структуры многих уровней аппаратуры и программного обеспечения. Вывод: доводы Самуэля ничего не говорят нам о разнице между людьми и машинами. (На самом деле, волю возможно механизировать.)
Сразу после «Двухголосной инвенции» я написал, что центральной темой этой книги будет обсуждение вопроса «подчиняются ли слова и мысли формальным правилам?» Одной из моих основных задач было показать многоуровневость интеллекта и мозга и объяснить, почему конечным ответом на этот вопрос является «да, если спуститься на низший уровень — уровень аппаратуры — и найти там правила.»
Точка зрения Самуэля затронула некую тему, которую я хочу обсудить подробнее. Вот она: думая, мы, безусловно, меняем наши мысленные правила, а также правила, меняющие правила, и так далее — но это, образно говоря, правила «программ». При этом фундаментальные правила, правила «аппаратуры», остаются неизменными. Нейроны всегда действуют одинаково. Мы не можем уговорить нейроны повести себя «ненейронным» образом; все, что нам удается сделать, это поменять тему или стиль наших мыслей. Подобно Ахиллу в «Прелюдии» и «Муравьиной фуге», мы имеем доступ только к нашим мыслям, а не к нейронам. Правила программ могут варьироваться на разных уровнях — правила аппаратуры всегда остаются одними и теми же. Именно этим фактом и объясняется гибкость программ! Это вовсе не парадокс, а фундаментальный, простой факт, касающийся механизмов разума.
Именно различие между само-модифицирующимися программами и неизменной аппаратурой будет темой последней главы этой книги. Некоторые из последующих вариаций на это тему могут показаться довольно надуманными; однако надеюсь, что к тому моменту, когда я завершу цикл, вернувшись к мозгу, интеллекту и чувству самосознания, вы сможете увидеть неизменную основу в каждой из этих вариаций.
В этой главе я хочу поделиться с читателем теми образами, которые помогают мне понять, каким образом сознание вырастает из джунглей нейронов. Надеюсь, что эти интуитивные образы окажутся полезными и немного помогут читателям в определении их собственных представлений о том, что заставляет функционировать разум. Может быть, возникающие в моем мозгу туманные образы мозга и образов послужат катализатором для образования более четких образов мозга и образов в мозгу моих читателей.
Итак, первая вариация: игры, в которых очередной игрок может изменять правила. Представьте себе шахматы. Ясно, что правила здесь остаются неизменными, а меняется только позиция на доске после каждого хода. Но давайте теперь рассмотрим такой вариант шахмат, в котором очередной игрок имеет право либо сделать ход, либо поменять правила. Каким образом? Произвольно? Можно ли превратить шахматы, скажем, в шашки? Понятно, что подобная анархия была бы бессмысленна — должны существовать некоторые ограничения. Например, в одной из версий будет позволено изменять ход коня: вместо «1 и затем 2» конь будет передвигаться на «m» и затем «n» клеток, где m и n — любые натуральные числа; очередной игрок сможет увеличивать или уменьшать на 1 либо m либо n. Таким образом, ход коня сможет меняться от 1-2 до 1-3, до 0-3, до 0-4, до 0-5. до 1-5, до 2-5… Вместо этого могут существовать правила, модифицирующие ход слона и других фигур. Другие правила могут добавлять новые клетки к доске, или стирать старые…