Вопрос: Можно ли «настроить» какую-нибудь разумную программу так, чтобы она действовала, как я или как вы — или как нечто среднее между нами?
Возможный ответ: Нет. Разумная программа будет так же мало походить на хамелеона, как и человек. Она будет опираться на постоянство своей памяти и не сможет произвольно менять характер. Идея изменения внутренних параметров с тем, чтобы «настроиться на новую индивидуальность» указывает на смехотворную недооценку сложности личности.
Вопрос: Будет ли у разумной программы «сердце», или же она будет состоять их «бессмысленных циклов и последовательностей тривиальных операций» (выражаясь словами Марвина Мински)?[85]
Возможный ответ: Если бы мы могли увидеть всю программу насквозь, как видим дно мелкого пруда, мы наверняка увидели бы только «бессмысленные циклы и последовательности тривиальных операций» — и никакого «сердца». Существует два крайних взгляда на ИИ: один из них утверждает, что человеческий разум по неким фундаментальным и мистическим причинам запрограммировать невозможно. Другой говорит, что стоит только собрать нужные «эвристические инструменты — множественные оптиматизаторы, способы узнавания регулярностей, планирующие алгебры, рекурсивные процедуры управления и так далее»[86], и у нас будет разумная программа. Я нахожусь где-то посредине: мне кажется, что «пруд» ИИ окажется так глубок и мутен, что нам не удастся увидеть его дна. При взгляде с вершины циклы будут незаметны, так же, как на сегодняшний день электроны, переносящие ток, незаметны большинству программистов. Когда будет создана программа, выдержавшая тест Тюринга, мы увидим в ней «сердце», хотя и будем знать, что его там нет.
Вопрос: Будут ли когда-нибудь созданы «сверх-разумные» программы ИИ?
Возможный ответ Не знаю. Непонятно, сумеем ли мы понять «сверх-разум» или общаться с ним и есть ли вообще какой-нибудь смысл у этого понятия. Например, наш собственный разум связан со скоростью нашего мышления. Если бы наши рефлексы были в десять раз быстрее или медленнее, у нас могли бы развиться совершенно иные понятия о мире. У создания с радикально иным представлением о мире может просто не оказаться с нами многих точек соприкосновения. Я часто спрашиваю себя, могут ли существовать музыкальные произведения, являющиеся по отношению к Баху тем, чем Бах является по отношению к фольклорным мелодиям — так сказать, «Бах в квадрате». Смог бы я понять подобную музыку? Может быть, вокруг меня уже есть подобная музыка, но я просто ее не узнаю, точно так же, как собаки не понимают языка. Идея сверх-разума очень странна. Так или иначе, я не считаю это сегодняшней целью исследований в области ИИ (хотя, если мы когда-нибудь достигнем уровня человеческого разума, сверх-разум, несомненно, станет следующей задачей — и не только для нас, но и для наших искусственных коллег, которые будут так же, как и мы заинтересованы в проблемах ИИ и сверх-разума). Вероятно, что программы ИИ будут интересоваться общими проблемами ИИ — и это вполне понятно.
Вопрос: Вы, кажется, утверждаете, что программы ИИ будут практически неотличимы от людей. Будет ли между ними какая-нибудь разница?
Возможный ответ: Скорее всего, разница между программами ИИ и людьми будет больше, чем разница между большинством людей. Почти невозможно вообразить, что «тело», в котором будет расположена такая программа, не окажет на нее сильнейшего влияния. Так что, если только она не будет расположена в превосходной имитации человеческого тела, — а это вовсе не обязательно! — у нее, скорее всего, будут совершенно иные понятия о том, что важно, интересно и так далее. Витгенштейн однажды сделал следующее забавное замечание: «Если бы лев заговорил, мы бы его не поняли». Эта мысль напоминает мне о картине Руссо, где в залитой лунным светом пустыне изображены мирный лев и спящая цыганка. Но откуда Витгенштейн это знает? Мне кажется, что любая думающая программа ИИ, даже если мы и сможем с ней разговаривать, будет казаться нам весьма чуждой. Поэтому нам будет очень трудно понять, действительно ли перед нами разумная программа, или просто некая программа «с завихрениями».
Вопрос: Поймем ли мы, благодаря созданию разумных программ что такое интеллект, сознание, свободная воля и «Я»?
Возможный ответ: Возможно — но все зависит от того, что вы имеете в виду под словом «понимать». На интуитивном уровне, каждый из нас уже сейчас понимает все эти понятия настолько хорошо, как только возможно. Это подобно слушанию музыки. Улучшилось ли ваше понимание Баха от того, что вы проанализировали его вдоль и поперек? Или же вы лучше понимали его тогда, когда каждый нерв вашего тела трепетал от восторга? Понимаем ли мы, каким образом скорость света постоянна в любой инерционной системе отсчета? Мы можем проделать все расчеты, но ни у кого в мире нет настоящего интуитивного понимания теории относительности. Возможно, что никто никогда не поймет полностью на интуитивном уровне загадки интеллекта и сознания. Каждый из нас может понимать отдельных людей, и, скорее всего, это максимум того, на что мы способны.
Канон Ленивца
На этот раз мы находим Ахилла и Черепаху Тортиллу в гостях у их нового приятеля, Ленивца Сплюшки.
Ахилл: Хотите послушать про забавное соревнование по бегу, которое мы однажды устроили с Черепахой?
Ленивец: О, да, прошу вас!
Ахилл: Это соревнование стало довольно известным — я слышал, что оно даже было описано неким Зеноном.
Ленивец: Это интересно, и я всегда настроен вас послушать.
Ахилл: Это, и правда, было интересно. Видите ли, г-жа Тортилла стартовала первой. У нее была огромная фора, и тем не менее —
Ленивец: Вы ее нагнали, не правда ли?
Ахилл: Разумеется — поскольку я такой быстроногий, я сокращал расстояние между нами с постоянной скоростью, и вскоре обогнал ее.
Ленивец: Поскольку расстояние между вами становилось все меньше и меньше, вам удалось это сделать.
Ахилл: Именно. О, смотрите — г-жа Черепаха принесла свою скрипку. Можно мне попробовать что-нибудь сыграть, г-жа Черепаха?
Черепаха: О, нет, прошу вас. Это будет неинтересно — она расстроена так, что невозможно слушать.
Ахилл: Ну ладно. Но у меня сегодня почему-то музыкальное настроение.
Ленивец: Можете поиграть на пианино, Ахилл.
Ахилл: Благодарю вас. Немного погодя я так и сделаю. Но сначала доскажу, что потом мы с Черепахой бегали наперегонки еще раз. К несчастью, в этом соревновании —
Черепаха: Вы меня не нагнали, не правда ли? Расстояние между нами становилось все больше и больше, так что вам не удалось этого сделать.
Ахилл: Это верно. Мне кажется, что и ЭТО соревнование было описано — неким Льюисом Кэрроллом. А теперь, м-р Сплюшка, я готов принять ваше любезное приглашение и сыграть что-нибудь на пианино. Но предупреждаю: я очень плохой пианист — даже не знаю, стоит ли мне пытаться.
Ленивец: Вы должны попытаться.
(Ахилл садится за пианино и начинает играть простенькую мелодию.)
Ахилл: Ой, как странно звучит! Это совершенно не то, что я хотел сыграть! Что-то здесь не в порядке.
Черепаха: Вы не можете играть на пианино, Ахилл. Вы не должны и пытаться.
Ахилл: Это похоже на отражение пианино в зеркале. Высокие ноты находятся слева, а низкие — справа. Каждая мелодия получается перевернутой с ног на голову. Интересно, кто это придумал такую дурацкую шутку?
Черепаха: Этим отличаются ленивцы. Они висят —
Ахилл: Да, я знаю: на ветвях деревьев — головой вниз, разумеется. Это пианино-ленивец годится, чтобы играть на нем перевернутые мелодии, которые встречаются в канонах и фугах. Но научиться играть на пианино, свисая с дерева, нелегко — это требует немалого трудолюбия.
Ленивец: Этим ленивцы не слишком отличаются.
Ахилл: Да, мне кажется, что ленивцы не любят утруждать себя. Они делают все вдвое медленнее, чем все остальные. И кроме того, вверх ногами. Какой своеобразный жизненный уклад! Кстати, о замедленных и перевернутых вещах — в «Музыкальном приношении» есть канон под названием «Canon per augmentationem contrario motu», что значит «увеличенный и перевернутый канон». В моем издании «Приношения» перед тремя нотными строчками стоят три буквы — «S», «А» и «T» . Непонятно, что они значат… Так или иначе, Бах сделал все это очень ловко. Как вы считаете, г-жа Тортилла?
85
Marvin Minsky, «Steps Toward Artificial Intelligence», в сборнике E. Feigenbaum and J. Feldman, eds., «Computers and Thought», стр. 447.