В заключение этой главы я хочу представить читателю десять «вопросов и возможных ответов», касающихся ИИ. Я не осмелился бы назвать их «ответами» — это всего лишь мои собственные мнения. Они могут меняться по мере того, как я узнаю больше об ИИ и эта область исследований продолжает развиваться. (Я буду употреблять здесь слова «программа» и «компьютер», несмотря на то, что они вызывают сильные механистичекие ассоциации. Однако в нижеследующем тексте фраза «программа ИИ» означает программу, намного опередившую сегодняшние, — то есть по-настоящему разумную программу.)
Вопрос: Будет ли компьютер когда-нибудь сочинять прекрасную музыку?
Возможный ответ: Да, но не скоро. Музыка — это язык эмоций, и до тех пор, пока компьютеры не испытают сложных эмоций, подобных человеческим, они не смогут создать ничего прекрасного. Они смогут создавать «подделки» — поверхностные формальные имитации чужой музыки. Однако несмотря на то, что можно подумать априори, музыка — это нечто большее, чем набор синтаксических правил. Программы-композиторы еще долго не смогут дать новых образцов музыкального искусства. Позвольте мне развить эту мысль. Я слышал мнение, что вскоре мы сможем управлять препрограммированной дешевой машинкой массового производства, которая, стоя у нас на столе, будет выдавать из своих стерильных внутренностей произведения, которые могли бы быть написаны Шопеном или Бахом, живи они подольше. Я считаю, что это гротескная и бессовестная недооценка глубины человеческого разума. «Программа», способная сочинять подобную музыку, должна будет самостоятельно бродить по свету, находя дорогу в лабиринте жизни и чувствуя каждое ее мгновение. Она должна будет испытать радость и одиночество леденящего ночного ветра, тоску по дорогой руке, недостижимость далекого города, горечь утраты после смерти близкого существа. Она должна будет познать смирение и усталость от жизни, отчаяние и пустоту, решимость и счастье победы, трепет благоговейного восторга. В ней должны будут сочетаться такие противоположности, как надежда и страх, боль и торжество, покой и тревога. Неотъемлемой ее частью должно быть чувство красоты, юмора, ритма, чувство неожиданного — и, разумеется, острое осознание магии творческого акта. В этом и только в этом — источник музыкального смысла.
Вопрос: Будут ли чувства запрограммированы явно?
Возможный ответ: Нет. Это было бы смешно. Никакая прямая симуляция эмоций — например, ПАРРИ — не сможет приблизиться к сложности человеческих переживаний, которые косвенно вызваны организацией нашего мозга. Программы или машины разовьют чувства таким же образом, как побочный продукт их структуры и организации, а не путем прямого программирования. Так, никто не напишет подпрограммы «влюбленности», так же как никто не напишет подпрограммы «совершения ошибок.» «Влюбленность» — это описание сложного процесса сложной системы; совсем не обязательно, чтобы в системе был некий отдельный модуль, отвечающий за это состояние.
Вопрос: Сможет ли думающий компьютер быстро вычислять?
Возможный ответ: Может быть, нет. Мы сами состоим из аппаратуры, которая проделывает сложные вычисления, но это не означает, что на уровне символов, там, где находимся «мы», нам известно, как делать те же самые вычисления. Иными словами, нам не удастся загрузить числа в собственные нейроны с тем, чтобы подсчитать, сколько мы должны в бакалейной лавке. К счастью для нас, уровень символов (то есть, мы сами) не имеет доступа к нейронам, ответственным за мышление, — иначе мы потеряли бы голову. Перефразируя Декарта еще раз,
«Я мыслю; следовательно, у меня нет доступа к уровню, на котором я суммирую.»
Скорее всего, в случае разумной программы ситуация будет аналогична. Программа не должна иметь доступа к цепям, где происходит процесс мышления, — иначе она потеряет ЦП. Говоря серьезно, я думаю, что машина, которая сможет пройти тест Тюринга, будет вычислять так же медленно, как и мы с вами, и по той же причине. Она будет представлять число «два» не как два бита «10», а как некое понятие так же, как это делают люди, — понятие, нагруженное такими ассоциациями, как слова «пара» и «двойка», понятия четности и нечетности, форма числа «2» и так далее. С подобным дополнительным багажом думающая программа станет складывать довольно медленно. Разумеется, мы могли бы снабдить ее, так сказать, «карманным калькулятором» (или встроить его в сам компьютер). Тогда она вычисляла бы очень быстро, но делала бы это точно так же, как человек с калькулятором. В машине было бы две части, надежная, но безмозглая часть и разумная, но ошибающаяся часть. Надеяться на безошибочное действие такой составной системы можно было бы не более, чем на систему, состоящую из машины и человека. Так что, если вам нужны правильные ответы, лучше пользуйтесь исключительно калькулятором и не добавляйте к нему разум!