Избежать всех этих ошибок невозможно, потому что, как знает каждый инженер, большинство изменений в сложной системе чревато новыми проблемами, которые проявятся тогда, пока система окажется в непривычной среде. Кроме того, каждый человеческий мозг уникален, потому что формируется парами генов, случайным образом унаследованных от одного из родителей; более того, на ранней стадии развития этого мозга многие более мелкие детали зависят от других случайностей. Как подобные машины могут нормально функционировать, несмотря на такое количество переменных? Чтобы объяснить это, некоторые мыслители заявляли, что мозг наверняка построен по «холистическим» принципам, согласно которым каждый фрагмент процесса или знания «глобально распределен» (каким-то неизвестным образом), так что, даже если система потеряет какие-то части, ее поведение не изменится.
Однако аргументы, приведенные в этой книге, показывают, что нам вовсе не нужны подобные магические трюки, потому что к любой задаче у нас есть несколько подходов. Кроме того, имеет смысл предположить, что многие части нашего мозга развивались как противовесы для исправления (или подавления) влияния дефектов в других частях. Это означает, что нашим ученым будет трудно обнаружить, как человеческому мозгу удается так успешно функционировать и почему он развивался так, а не иначе. Я подозреваю, что мы не поймем этого, пока не накопим побольше опыта в создании таких систем. Только тогда мы достаточно узнаем о том, с какими сбоями, вероятнее всего, столкнемся и как держать их под контролем.
В ближайшие десятилетия многие исследователи попытаются создать более гибкие и находчивые машины, но каждая система, которую мы построим, будет удивлять нас новыми недостатками – пока эти машины не станут достаточно умными, чтобы скрывать свои недостатки от нас. Время от времени мы сможем предсказывать конкретные ошибки в этих проектах, и тогда у нас получится их исправлять. Но всякий раз, когда нам это не удастся, останется только добавлять больше сдержек и противовесов, например новых критиков и цензоров. Ибо мы никогда не найдем единого надежного способа выбирать (например) между преимуществами немедленных действий и преимуществами осторожного, рефлексивного мышления. Итак, что бы мы ни делали, можно не сомневаться, что путь к «постчеловеческому разуму» будет тернист.
Благодарности
В этой книге изложено несколько новых теорий психической деятельности человека. В некотором роде ее можно назвать продолжением моей предыдущей книги «Общество разума», которая предлагала рассмотреть работу мышления как совокупности относительно самостоятельных процессов. «Машина эмоций» же, напротив, в основном рассказывает о наших самых высокоуровневых и рефлексивных мыслях, так что между предметами двух этих книг не так уж много пересечений. Чтобы понять любой сложный феномен, необходимо взглянуть на него с нескольких точек зрения – и эта книга пытается описать разум так, как если бы его можно было увидеть «изнутри», – а также предлагает методы, которые могут быть полезны при разработке «думающих» машин.
Большинство из этих теорий родились главным образом у меня, но многие связанные с ними идеи появлялись уже в ранних работах таких исследователей, как Сеймур Пейперт, Аарон Слоуман, Дэниел Деннет, а также в работах моих студентов. В частности, в течение предыдущего десятилетия моим самым частым соавтором был один из них, покойный Пуш Сингх.
В течение раннего периода работы я находился под сильным влиянием таких колоссальных умов, как Пейперт, Джон Маккарти, Уоррен Мак-Каллох, Мануэль Блюм, Рэй Соломонофф, Клод Шеннон, Оливер Селфридж, Аллен Ньюэлл, Герберт Саймон, Роджер Шэнк, Дуглас Ленат, Эдвард Фредкин и Кеннет Хаасе. Кроме того, за двадцать лет, что потребовались для создания этой книги, множеством идей со мной поделилась моя жена, дипломированный врач Глория Рудиш.
Некоторые из описанных мною процессов уже успешно применялись в компьютерных программах, разработанных Майклом Трэверсом, Робертом Хирном, Николасом Кассиматисом и Пушем Сингхом. Однако для большинства теорий, изложенных здесь, масштабной функционирующей системы еще не создавалось, и я надеюсь, что данная книга вдохновит будущих исследователей взять на себя именно такую задачу.