Его первое изобретение, «разностная машина», могла вычислять математические таблицы многих типов по «методу разностей». Однако, прежде чем была создана первая модель «РМ», Баббаджем завладела идея гораздо более революционная его «аналитическая машина». Довольно нескромно, Баббадж писал: «Я пришел к этой мысли таким сложным и запутанным путем, какой, возможно, впервые прошел человеческий ум».[4] В отличие от созданных ранее машин, «AM» должна была иметь «склад» (память) и «фабрику» (считающее и принимающее решения устройство). Оба устройства должны были быть построены из тысяч цилиндров, сцепленных самым сложным и причудливым образом. Баббадж представлял себе числа, влетающие и вылетающие из «фабрики» под контролем некоторой программы, содержащейся в перфорированных картах — на эту идею его натолкнул ткацкий станок Жаккара, изготовлявший при помощи подобных карт удивительно сложные узоры. Подруга Баббаджа графиня Ада Лавлейс, дочь Байрона, женщина незаурядного таланта и горькой судьбы, поэтично прокомментировала: «Аналитическая машина ткет алгебраические узоры, наподобие того, как станок Жаккара ткет узоры из цветов и листьев». К сожалению, использование графиней настоящего времени вводит читателя в заблуждение: «AM» так никогда и не была построена, и Баббадж умер горько разочаровавшимся человеком.
Леди Лавлейс не менее, чем Баббадж, отдавала себе отчет в том, что, пытаясь создать аналитические машины, человечество флиртовало с искусственным разумом — в особенности, если эти машины способны «укусить себя за хвост» (так Баббадж описывал Странную Петлю, получавшуюся, когда его машина «залезала внутрь себя» и меняла заложенную в нее программу). В 1842 году она написала в своих мемуарах,[5] что аналитическая машина «может воздействовать не только на цифры, но и на другие вещи». В то время, как Баббадж мечтал о создании шахматного или «крестико-ноликового» автомата, леди Лавлейс предположила, что если записать на цилиндры машины тона и гармонии, то она могла бы «создавать искусно сделанные научные музыкальные композиции любой сложности и длины». Впрочем, там же она объясняет: «Аналитическая машина не претендует на создание чего-то нового, она может делать только то, что мы умеем ей приказать». Верно поняв, какая мощь заложена в механических вычислениях, она, тем не менее, оставалась скептически настроенной по отношению к механическому разуму. Однако могла ли она, со всей своей проницательностью, предположить, какие возможности откроются, когда человечество подчинит себе электричество?
В нашем веке пришло время для компьютеров, превзошедших самые смелые мечты Паскаля, Лейбница, Баббаджа или леди Лавлейс. В 1930-х и 1940-х годах были разработаны и построены первые «блестящие электронные головы». Это послужило катализатором к соединению трех ранее совершенно различных областей науки, теории аксиоматических рассуждений, изучения механических вычислений и исследований по психологии человеческого разума. В те же годы гигантскими скачками двигалась вперед теория компьютеров. Эта теория была тесно связана с математикой. Фактически, теорема Гёделя имеет параллель в теории вычислений: Алан Тюринг открыл существование неизбежных «дыр» в возможностях даже самого могучего компьютера. Словно в насмешку, как раз когда делались эти довольно мрачные прогнозы, строились новые компьютеры, чьи возможности росли на глазах, далеко превосходя самые смелые предсказания их создателей. Баббадж, сказавший однажды, что он с радостью отдал бы остаток жизни за возможность вернуться на три дня лет через пятьсот, чтобы получить возможность ознакомиться с наукой будущего, возможно, потерял бы дар речи от удивления уже через сто лет после своей смерти, пораженный как новыми машинами, так и их неожиданными ограничениями.
В начале 1950-х годов казалось, что до механического разума — рукой подать: однако за каждой преодоленной вершиной вставала новая, препятствуя созданию по-настоящему думающей машины. Возможно ли, что это упорное отдаление цели имело глубинные причины?
Никто не знает, где пролегает граница между разумным и не-разумным поведением; в самом деле, возможно, что само предположение о существовании четкой границы звучит глупо. Однако мы с уверенностью можем перечислить основные критерии разума:
гибко реагировать на различные ситуации;
извлекать преимущество из благоприятного стечения обстоятельств;
толковать двусмысленные или противоречивые сообщения;
оценивать различные элементы данной ситуации по степени их важности;
находить сходство между ситуациями, несмотря на возможные различия;
находить разницу между ситуациями, несмотря на возможное сходство;
создавать новые понятия, по-новому соединяя старые;
выдвигать новые идеи.
Здесь мы сталкиваемся с кажущимся парадоксом. Компьютеры, по определению, являются самыми негибкими, безвольными и послушными приказам существами. Несмотря на свою быстроту, они, тем не менее, сама бессознательность. Как же, в таком случае, можно запрограммировать разумное поведение? Не является ли уже само это предположение кричащим противоречием? Одна из основных идей этой книги — показать, что это вовсе не противоречие. Одна из основных целей этой книги — побудить каждого читателя встретиться с кажущимся парадоксом во всеоружии, попробовать его на вкус, вывернуть его наизнанку, разобрать его на части, пошлепать в нем, как ребенок в луже, чтобы в результате читатель смог взглянуть по-новому на кажущуюся неприступной пропасть между формальным и неформальным, одушевленным и неодушевленным, гибким и негибким
Это и составляет предмет исследований науки об искусственном интеллекте (ИИ). Работа специалистов по ИИ кажется странной и удивительной именно потому, что они разрабатывают строго формальные правила, говорящие негибким машинам, как стать гибкими
Что же это за правила такие, могущие описать всю сложность поведения разумных существ? Безусловно, это должны быть правила самых разных уровней: «простые» правила, «метаправила» для модификации «простых», «метаметаправила» для модификации метаправил, и так далее. Гибкость нашего разума зависит именно от огромного количества правил и сложности их иерархии. Некоторые ситуации вызывают стереотипные реакции, для которых годятся «простые» правила. Другие ситуации представляют собой комбинации из стереотипных ситуаций; тут нужны правила, говорящие, какие из «простых» правил приложимы к данной ситуации. Некоторые ситуации вообще не поддаются классификации — следовательно, требуются правила для изобретения новых правил… ит. д., и т. п. Без сомнения, Странные Петли, правила, изменяющие сами себя, находятся в самом сердце разума. Иногда сложность нашего разума кажется нам настолько поразительной, что у нас опускаются руки перед задачей понять и описать его; тогда нам кажется, что никакие, даже самые замысловатые иерархические правила не способны управлять поведением разумных существ.
В 1754 году, четыре года спустя после смерти И. С. Баха, лейпцигский теолог Иоганн Микаэль Шмидт написал в своем труде о музыке и о душе следующие достойные внимания строки:
Не так давно из Франции сообщили, что там сделана была статуя, способная исполнить несколько пьес на Fleuttraversiere; статуя эта подносит флейту к губам и затем ее опускает, двигает глазами и т. д. Однако никто еще не изобрел образа, который бы думал, желал, сочинял или делал бы что-либо отдаленно подобное. Пусть любой, кто желает в этом убедиться, обратится к последним фугам Баха, которому мы уже воздали почести ранее. (Эти фуги были выгравированы на меди, но не были закончены, так как этому помешала слепота композитора.) Пусть увидит наблюдатель, какое искусство содержится в этой музыке — еще более он будет поражен чудесным Хоралом, который был записан под диктовку слепого Баха. «Wenn wir in hőchen Nothen seyn». Я уверен, что наблюдателю вскоре понадобится душа, ежели он желает прочувствовать всю содержащуюся в этой музыке красоту или, более того, исполнить эту музыку и составить суждение об авторе. Все аргументы чемпионов Материализма должны рассыпаться в прах лишь от одного этого примера.[6]
5
Lady A. A. Lovelace «Notes upon the Memoir „Sketch of the Analytical Engine Invented by Charles Babbage“» записано L. F. Menabrea (Женева 1842) и воспроизведено в книге E. Morrison «Charles Babbage and His Calculating Engines» стр. 248 9 284