Теоремы Геделя и работа по алгоритмической теории информации Грегори Чайтина подразумевали, что машины могут продолжать изобретать все более сложные математические проблемы, расширяя свою базу аксиом.
— В конце вам может захотеться взглянуть на системы аксиом астрономических размеров, — сказал он. — И затем вы сможете извлекать из них то, что вы не можете извлекать из более мелких систем аксиом.
Конечно, машинная наука может, в конце концов, походить на человеческую науку даже меньше, чем квантовая механика походит на физику Аристотеля.
— Я уверен, что основное видение природы реально не изменится.
Например, машины могут рассматривать человеческое отношение к сознанию как безнадежно примитивное, сродни примитивным физическим концепциям древних греков.
Но затем Моравек резко переключился на другое. Он подчеркнул, что машины будут такими разнообразными — в гораздо большей степени, чем биологические организмы, — и станет бессмысленно размышлять о том, что они найдут интересным; их интересы будут зависеть от их «экологической ниши». Потом он признался, что, как и Фукуяма, видит будущее в строго дарвинистских концепциях. Наука для Моравека была только побочным продуктом вечного соревнования между умными, развивающимися машинами. Он указал, что знания на самом деле всегда накапливались. Большинство биологических организмов вынуждены искать знания, которые помогают им выжить в будущем.
— Если вы лучше выживаете, это означает ваши успехи в поиске пищи на длительное время. И таким образом, множество второстепенных активностей, субактивностей выживания, выглядят как чистый поиск информации.
Даже кот Моравека демонстрирует такое поведение.
— Когда ему непосредственно не требуется пища, он ходит кругами и исследует окружающую среду. Неизвестно, когда найдешь мышиную нору, которая может оказаться полезной в будущем.
Другими словами, любопытство адаптивно, «если вы можете себе его позволить».
Таким образом, Моравек сомневается, смогут ли машины когда-нибудь уйти от конкуренции и сотрудничать в поиске чистого знания или любых других целей.
Без конкуренции нет выбора, а без выбора «вы можете получить любое старое дерьмо», сказал он. Нужен какой-то принцип отбора. В противном случае не будет ничего. В конечном счете Вселенная может превзойти всю эту конкуренцию, «но требуется какая-то стимулирующая сила, чтобы нас туда доставить. Так что это и есть путь. Путь — это половина удовольствия!» Он демонически засмеялся.
Я не могу удержаться, чтобы не рассказать то, что произошло на этом этапе, — не во время фактического интервьюирования Моравека, а позднее, когда я транскрибировал запись нашего разговора. Моравек стал говорить все быстрее и быстрее, и его голос все время повышался. Вначале я думал, что диктофон верно пародирует нарастающую истерию Моравека. Но когда его голос стал каким-то завывающим, я понял, что слушаю звуковую иллюзию; очевидно, к концу разговора батарейки моего диктофона сели. По мере того как я прокручивал пленку, то, что говорил своим высоким голосом Моравек, стало совсем трудноразличимо и в конце концов ушло за пределы понимания — словно голос выскользнул в дыру, которая унесла его в будущее.
Разнообразие Фримэна Дайсона
Ханс Моравек — не единственный энтузиаст искусственного интеллекта, сопротивляющийся идее, что машины могут слиться в один метаразум, чтобы вместе идти к своим целям. Не удивительно, что Марвин Минский придерживается той же точки зрения.
— Сотрудничество начинается только в конце эволюции, — сказал мне Минский, — когда вы не хотите, чтобы состояние вещей после этого сильно менялось. Конечно, добавил Минский презрительно, всегда возможно, что суперумные машины будут заражены каким-то типом религии, который заставит их отказаться от их индивидуальности и слиться в один метаразум.
Еще один футурист, сторонящийся конечной унификации, это Фримэн Дайсон. В сборнике эссе «Бесконечность во всех направлениях» (Infinitein All Directions, 1988) Дайсон размышляет о том, почему в мире столько насилия и трудностей. Ответ, предположил он, может иметь какое-то отношение к тому, что он назвал «принципом максимального разнообразия». Этот принцип «действует и на физическом, и на ментальном уровне. Он утверждает, что законы природы и начальные условия таковы, чтобы сделать Вселенную настолько интересной, насколько возможно. В результате жизнь возможна, но не очень легка. Всегда, когда вещи неинтересны, подворачивается нечто, бросающее нам вызов и останавливающее нас от хождений по проторенной дорожке. Примеры того, что делает жизнь трудной, везде вокруг нас: столкновения комет, ледниковые периоды, оружие, болезни, ядерный синтез, компьютеры, секс, грех и смерть. И не все это можно преодолеть. Максимальное разнообразие часто ведет к максимальному стрессу. В конце мы выживаем, но только чудом».