Одна из самых известных историй о големах - история Иегуды Лёва, пражского магарала. Говорят, что рабби Лёв создал голема по имени Йозеф, чтобы помочь пражским евреям защитить свое гетто, которое часто подвергалось нападениям христиан. Голем стоял у входа в гетто всю ночь как дозорный, а днем помогал жителям в работе. Иосиф, как и большинство големов в этих историях, мог стать одушевленным только тогда, когда держал во рту бумагу с именем Бога. Рабби Лёв не знал, считать ли Иосифа машиной или Божьим ребенком, но, чтобы подстраховаться, решил каждую пятницу вынимать из голема бумажку с Божьим именем, заставляя его соблюдать шаббат. Однако в одну из пятниц раввин забыл вынуть бумажку, и голем стал агрессивным, сея хаос во всей общине и, в некоторых версиях истории, убив раввина. Такая концовка перекликается с темой гордыни, которая присутствует во многих мифах о попытках человека создать жизнь. Но в другой версии истории есть более обнадеживающий финал. В этой версии раввину удается извлечь бумагу изо рта голема и положить ее на чердак синагоги. Затем раввин Лёв придумывает каббалистический стишок, который пробудит голема в конце времен. На протяжении многих веков мальчикам, принадлежащим к традиции восточноевропейских евреев, ведущих свое происхождение от рабби Лёва, на бар-мицве рассказывали секретную формулу, способную пробудить голема.
В одном из моментов своей книги Фоерст рассказывает анекдот, услышанный ею в Массачусетском технологическом институте, который настолько странен, что я сначала не решался включить его сюда - хотя позже нашел подтверждение в других источниках. Эта история относится к 1960-м годам, когда Media Lab курировал знаменитый робототехник Марвин Мински - период, который сейчас считается "колыбелью ИИ". Однажды два аспиранта MIT, Джерри Сассман и Джоэл Мозес, болтали во время перерыва с несколькими другими студентами. Кто-то вскользь упомянул, что первый большой компьютер, построенный в Израиле, назывался "Голем". Это привело к общему обсуждению историй о големах, и Суссман рассказал коллегам, что он потомок раввина Лёва, а на бар-мицву его дед отвел его в сторону и рассказал ему рифму, которая пробудит голема в конце времен. На это Моисей, потрясенный, рассказал, что он тоже потомок рабби Лёва и на бар-мицве его дед тоже дал ему магическое заклинание. Оба мужчины договорились записать заклинание отдельно на листках бумаги, и когда они показали их друг другу, оказалось, что формула - несмотря на то, что она передавалась веками в виде чисто устной традиции, - была идентичной. В этот момент Минский вышел из своего кабинета и застал своих студентов в ошеломленном молчании. Он спросил, что они обсуждали, и когда они рассказали ему, сказал: "Вы в это верите? Послушайте, сразу после моей бар-мицвы мне сказал то же самое мой дедушка. Но вы думаете, я в это поверил?" Минский был отъявленным рационалистом, считавшим, что религия в корне противоречит научным достижениям. Когда студенты спрашивали его о заклинании, он настаивал, что забыл его.
Непонятно, что делать с этой историей. Можно сделать вывод, что формирующая сила этих мифов, рассказанных этим людям в детстве, стала частью того, что привело их в область искусственного интеллекта. А может быть, вся эта история - апокриф, попытка ведущих ученых мира придать своему предприятию серьезность духовного поиска. И Сассман, и Мозес стали профессорами Массачусетского технологического института. Митчелл П. Маркус, ученый-компьютерщик, учившийся у Сассмана в 1980-х годах, в своем эссе передал по сути тот же анекдот и утверждал, что Сассман однажды сказал: "Знаете, мы, ученые-компьютерщики, на самом деле являемся современными каббалистами. Мы одушевляем эти неодушевленные машины, правильно подбирая строки символов". Митчелл считает себя продолжателем этой традиции. "Как ученый-компьютерщик, я вижу информационное вокруг себя, и я вижу информационное как очень отдельное от физического", - пишет он. Он отмечает, что мистические аспекты иудаизма подтверждают базовую структуру компьютерной науки: "Создание и оживление с помощью манипуляций с символами - то, чем занимаются и что изучают компьютерщики, - это лишь один из аспектов нашего бытия, созданного по образу и подобию Божьему".
-
"Есть два типа мифов о сотворении мира, - пишет историк технологий Джордж Дайсон в своей книге "Собор Тьюринга", - те, в которых жизнь возникает из грязи, и те, в которых жизнь падает с неба". История современных компьютеров, утверждает Дайсон, опирается на обе эти традиции: "Компьютеры возникли из грязи, а код упал с неба". Этот дуализм, питающий некоторые из самых амбициозных технологических начинаний, очевиден в попытках вызвать у машин эмерджентный интеллект. Как големы были вылеплены из грязи и оживлены с помощью магического заклинания, так и роботы, созданные из материальных частей, будут населены божественным дыханием - абстрактными математическими схемами, которые составляют большую часть нашего мира и способны заставить системы ожить. Хотя эти мистические нотки не должны дискредитировать эмерджентность как таковую - это достаточно полезный способ описания сложных систем, таких как пчелиные ульи и климат, - идея о том, что сознание может возникнуть из машин, кажется формой принятия желаемого за действительное, хотя бы потому, что цифровые технологии были построены на предположении, что сознание не играет никакой роли в процессе развития интеллекта. Точно так же, как несколько причудливо верить в то, что наука может объяснить сознание, когда сама современная наука была основана на исключении разума, трудно поверить, что технологии, созданные специально для того, чтобы исключить понятие сознательного субъекта, могут прийти к развитию внутренней жизни.
На самом деле, отвергая эмерджентизм как чистую магию, вы игнорируете конкретные способы, которыми он отличается от этого фольклора - даже если он поверхностно удовлетворяет то же самое желание. Загляните под мистическую поверхность, и станет ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редуктивных форм материализма, особенно когда речь заходит о человеческом сознании. Растительный интеллект называют формой "бездумного овладения", и большинство эмерджентистов считают людей такими же бездумными. Мы не являемся рациональными агентами, а представляем собой оболочку конкурирующих систем, лишенных какого-либо единства или способности к управлению. Мински однажды описал разум как "своего рода запутанную бюрократию", части которой остаются в неведении относительно друг друга. Он описал акт принятия решения о глотке чая в следующих терминах: "Ваши агенты ГРАСПИНГА хотят удержать чашку. Ваши агенты БАЛАНСИРОВАНИЯ хотят, чтобы чай не расплескался. Ваши агенты ТРЕВОГИ хотят, чтобы вы выпили чай. Ваши агенты ДВИЖЕНИЯ хотят донести чашку до ваших губ". Как интеллект пчелиного улья или автомобильной пробки кроется в схемах этих инертных, пересекающихся частей, так и человеческое сознание - это всего лишь абстрактные отношения, возникающие в этих системах: как только вы доберетесь до самого низкого уровня интеллекта, вы неизбежно обнаружите, как выразился Мински, агентов, которые "вообще не могут думать". В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Как утверждает историк науки Джессика Рискин, эмерджентные теории разума в конечном итоге отвергают то, что они должны объяснить. "Придя... к уровню этих тупых, основополагающих агентов, можно потерять всякое представление об интеллекте как свойстве разума".
Даже Брукс, с его нуминозными амбициями оживить роботов, называл сознание "дешевым трюком", иллюзией, которая существует только в глазах смотрящего. "Очень легко, - писал он об одном из своих роботов-насекомых, - наблюдателю системы приписать более сложную внутреннюю структуру, чем существует на самом деле". Герберту казалось, что он занимается такими вещами, как планирование пути и построение карты, хотя на самом деле это было не так". Даже самостоятельность, которую иногда демонстрировал Ког, можно было назвать самостоятельностью только потому, что человек-наблюдатель был готов воспринимать ее как таковую. Не иначе, когда речь шла о человеческих существах, сознание которых заключалось исключительно в их наблюдаемых действиях в мире. В конечном итоге он, как и Тьюринг, пытался не создать машины с разумом или душой, а доказать, что для того, чтобы машина вела себя убедительно по-человечески, ничего подобного не нужно.