Если люди постигнут окончательную теорию разума, спросил я, то какие останутся границы для исследования науки?
— Почему вы задаете мне этот вопрос? — спросил Минский. — Беспокойство по поводу того, что ученым нечем будет заниматься, безосновательно. Остается широкое поле деятельности, — сказал он.
Мы, люди, вполне можем приближаться к нашим границам, как ученые, но когда-нибудь мы создадим машины, гораздо более умные, чем мы, которые смогут продолжать делать науку. Но это будет машинная наука, а не человеческая, заметил я.
— Другими словами, вы — расист, — сказал Минский, а его огромный выпуклый лоб побагровел.
Я поискал на его лице следы иронии, но не нашел. — Я думаю, что для нас важно вырасти, — продолжал Минский, — а не оставаться в нашем теперешнем глупом состоянии. Мы, люди, — добавил он, — просто шимпанзе в одежде.
Наша задача, по его мнению, не сохранить текущие условия, а развить, создать существа лучшие и более разумные, чем мы.
Но Минский, что удивительно, был в затруднении относительно типа вопросов, в которых эти гениальные машины могут быть заинтересованы. Повторяя Дэниела Деннетта, Минский довольно нерешительно предположил, что машины могут попытаться понять себя по мере того, как они будут развиваться в более комплексные существа. Казалось, что он с гораздо большим энтузиазмом обсуждал возможность превращения человеческих личностей в компьютерные программы, которые затем можно ввести в машины. Минский видел этот ввод как путь заняться исследованиями, которые он обычно считал слишком опасными, такими как прием ЛСД или погружение в религию.
— Я рассматриваю религиозный опыт как очень рискованное дело, потому что это может быстро разрушить мозг, но если бы у меня была запасная копия…
Минский признался, что хотел бы знать, что чувствовала Йо-Йо Ма, великая арфистка, когда играла, но он сомневался, возможен ли такой опыт. Для того, чтобы разделить опыт Йо-Йо Ма, объяснил Минский, ему потребуется обладать всей памятью Йо-Йо Ма, ему потребуется стать Йо-Йо Ма. Но став Йо-Йо Ма, подозревал Минский, он перестанет быть Минским.
Удивительно, что Минский сделал это признание. Как литературные критики, которые заявляют, что единственной истинной интерпретацией текста является сам текст, Минский подразумевал, что человек не поддается упрощению: любая попытка превратить человека в абстрактную математическую программу — последовательность единиц и нулей, которые можно записать на диск и передать с машины на машину или соединить с другой программой, представляющей другого человека, — может разрушить суть человека. Интуитивно Минский предполагал, что проблема «откуда я знаю, что у тебя есть сознание» не разрешима. Если никакие две личности никогда не могут быть полностью соединены, то и загрузка невозможна. Фактически, весь искусственный интеллект, если интеллект определяется человеческими терминами, может быть ошибкой.
Минский, несмотря на свою репутацию яростного редукциониста, на самом деле является антиредукционистом. В своем роде он даже больше романтик, чем Роджер Пенроуз. Пенроуз питает надежду, что разум может быть сведен до простой квазиквантовой хитрости. Минский настаивает, что никакое подобное сведение невозможно, потому что разнообразие — это суть разума, всех разумов, как людей, так и машин. Отвращение Минского к всецелой приверженности чему-то одному, простоте, отражает, я думаю, не только научное суждение, но и что-то более глубокое. Минский, как Пауль Фейерабенд, Дэвид Бом и другие великие романтики, кажется, боится Ответа, открытия, которое положит конец всем открытиям. К счастью для Минского, маловероятно, что такое открытие появится в неврологии, поскольку любая полезная теория разума, вероятно, будет ужасно сложна, как он понимает. К несчастью для Минского, учитывая всю сложность, также кажется маловероятным, что он или даже его внуки будут свидетелями рождения машин, полностью соответствующих человеку. Если мы когда-нибудь и создадим умные, автономные машины, они конечно будут отличаться от нас, как «Боинг-747» от ласточки. И мы никогда не сможем быть уверены, что у них есть сознание, точно так же, как никто из нас не знает, есть ли сознание у другого.