Вероятно, эта переломная точка располагается где-то на уровне человеческого разума или выше. Естественно, она может находиться намного выше. Однако если нам для этого нужно создать компьютер, в разы превосходящий человека, то встает вопрос: достаточно ли мы для этого умны?
За гранью разумного
Третий мой аргумент, направленный против идеи неизбежности технологической сингулярности, затрагивает проблему метаинтеллекта. Как я уже отмечал ранее, понятие разума включает в себя множество различных способностей. Например, умение не только воспринимать мир, но и рефлексировать над этим миром, а также множество других навыков, таких как креативность.
Утверждение, что сингулярность неизбежна, сталкивает две разные способности интеллекта: это умение выполнять задачи и умение совершенствоваться в выполнении этих задач. Мы можем создать ИИ, который развивает свою способность выполнять конкретные задачи и выполняет их лучше нас. Например, Baidu создали Deep Speech 2, алгоритм машинного обучения, который лучше, чем люди, переводит с китайского. Однако Deep Speech 2 не развивается. Ему необходимо столько же времени на то, чтобы понять, как перевести с китайского, сколько и раньше. Его сверхчеловеческая способность переводить с китайского никак не улучшила суть алгоритма глубинного обучения. Чем больше люди учатся, тем лучше они начинают это делать. С Deep Speech 2 все иначе.
Совершенствование алгоритмов глубинного обучения происходит по-старому: люди долго и напряженно размышляют над тем, как это сделать. Пока мы не создали машины, способные развиваться самостоятельно. Нельзя быть уверенным, что это вообще когда-нибудь произойдет.
Убывающая отдача
Четвертый аргумент – закон убывающей отдачи. Даже если бы машины могли бесконечно себя совершенствовать, это вовсе не означает, что мы бы получили бесконечное их улучшение. Закон убывающей отдачи работает во многих областях человеческой деятельности. Например, мы не раз увеличивали топливную эффективность двигателей автомобилей, но чем дальше, тем меньше это приносит результатов, в то время как показатель продолжает увеличиваться.
Предположим, мы сначала создадим машину с интеллектом на уровне среднестатистического представителя нашего вида. По умолчанию ее IQ будет равен ста. Также допустим, что IQ этого искусственного интеллекта будет с каждым новым поколением увеличиваться на пятьдесят процентов от разницы с предыдущим поколением. IQ – не самый лучший показатель интеллекта, но это не главное. Второе поколение таких машин будет иметь IQ в размере ста пятидесяти – довольно впечатляющая цифра. Однако пока она, возможно, даже не обогнала вас. Коэффициент третьего поколения будет равен ста семидесяти пяти, четвертого – ста восьмидесяти семи с половиной и т. д. IQ этих машин никогда не преодолеет отметку в двести, как бы долго они ни просуществовали.
Даже если мы поднимем процент от пятидесяти до девяноста, мы все равно столкнемся с теми же ограничениями. У второго поколения IQ будет сто девяносто. У третьего – двести семьдесят один. Здесь и находится задокументированный предел человеческого интеллекта. Четвертое поколение его преодолеет и достигнет отметки в триста сорок три целых и девять десятых. Но как бы далеко в будущее мы ни заглянули, IQ этих впечатляющих компьютеров никогда не составит больше тысячи. Они будут невероятно умны, но все же их развитие будет иметь вполне определенные границы.
Пределы интеллекта
Мой пятый аргумент против неизбежности сингулярности – это пределы интеллекта. Даже если машины будут рекурсивно совершенствоваться, развитие может упереться в естественные пределы. Многие другие сферы жизни имеют границы, почему интеллект должен от них отличаться?
Наука полна ограничений. Физика, например, утверждает, что нельзя разогнаться выше скорости света. Химия – что скорость химической реакции тоже имеет свои пределы. Биология – что человеческую жизнь невозможно увеличить намного больше ста двадцати лет или что невозможно бежать марафон в течение двух часов. Возможно, ИИ тоже столкнется с подобными ограничениями?
При игре в рулетку не имеет значения, насколько вы умны, – вы никогда не обыграете казино. Колесо в буквальном смысле настроено против вас. Самый умный человек в этом случае просто не станет играть. Компьютеры умеют считать вероятности гораздо лучше людей. Они могут поступать намного рациональнее. Однако более точный подсчет вероятности не поможет им победить природу. Лучшим решением может оказаться то, для нахождения которого достаточно гораздо более простых и грубых расчетов.