Полученный от испытуемого лист с иероглифами дают прочитать китайцу, который отмечает, что все ответы – верны, а некоторые из них впечатляют своей глубокомысленностью. Если мы спросим у китайца, считает ли он, что ответы написал разумный человек, который понял прочитанный рассказ, он ответит утвердительно. Как вы думаете, он прав? Кто понял рассказ? Однозначно, не человек, сидящий в комнате, ведь он не знает китайского, а значит, не имеет ни малейшего представления, о чем шла речь в исходной записке. Так на какой стадии было достигнуто понимание? Ответ Сирла: ни на какой. Все, что происходило в комнате, – это бездумное листание страниц и рисование. А сейчас проведем параллель: «Китайская комната» – это аналог цифрового компьютера, руководство по написанию иероглифов есть не что иное, как «компьютерная программа», соответственно, ее авторы – «программисты». Таким образом, все старания смоделировать искусственный интеллект напрасны. Участник эксперимента, подобно компьютеру, манипулирует символами, но не может придать им какого бы то ни было смысла. Следовательно, заключил Сирл, машина, или физическая система способная выполнять определенные функции, не может стать разумной и действовать осознанно. Сирл отмечал, что он затрудняется дать определение понятию разума, однако полон уверенности, что, независимо от определения, компьютеры разумом не обладают и обладать не могут.
Выводы Сирла спровоцировали войну между философами и сторонниками проблем искусственного интеллекта. Последние выдвигали десятки контраргументов. Вот, например один из них: хотя ни одна из составляющих «Китайской комнаты» не понимала китайского, сама комната как целое понимала язык, т. е. испытуемый понимал китайский язык, сам того не осознавая. Что касается меня самого, то я вполне разделяю точку зрения Сирла и считаю, что в эксперименте под названием «Китайская комната» налицо лишь манипуляция символами, но не истинное понимание. Давайте определим, что же такое «понимание».
Чтобы понять рассказ, человеку достаточно его прочесть. С другой стороны, если я не подам виду, что понял рассказ, то вы не сможете заключить из моего поведения, владею ли я языком, на котором написан рассказ, или нет, а также усвоил ли я предложенную информацию. Чтобы выяснить это, вы можете задать вопросы. Однако заметьте, что мне придется отвечать на них сейчас, а рассказ-то я понял намного раньше, еще во время чтения. Ключевой тезис моей книги: понимание не поддается оцениванию на основе наблюдения внешних реакций. Из следующих глав вы узнаете, что понимание является внутренней матрицей, которая формируется в мозге при запоминании информации и в дальнейшем используется для построения прогнозов. Компьютер Deep Blue, испытанный в «Китайской комнате», и многочисленные компьютерные программы не способны осознавать выполняемые ими функции. А единственным способом оценки разумности машины является ее «поведение».
И, наконец, последний аргумент в пользу искусственного интеллекта. Теоретически компьютеры могли бы имитировать работу всего живого мозга. Возможно, что когда-то наука дойдет до создания компьютерной модели, имитирующей работу нейронов и взаимодействие между ними. Если бы такое действительно произошло, то человеческий разум и искусственный интеллект можно было бы назвать равноценными. Хотя в реальной жизни вряд ли возможна столь совершенная имитация живого ума, но с теоретической точки зрения она выглядит вполне корректно. Беда в том, что исследователи, занимающиеся созданием искусственного интеллекта, не пытаются имитировать его живой прототип, а программы, которые они создают, по сути своей не могут проявлять разум. Не понимая того, как работает живой мозг, ни один ученый не сможет создать его искусственный аналог.
Получив отказы в компании Intel и Массачусетсском технологическом институте, я пребывал в растерянности. Решив придерживаться одной из моих жизненных стратегий – не зная, как лучше действовать, лучше ничего не менять до тех пор, пока не прояснятся возможные варианты выбора, – я продолжал работать в индустрии информационных технологий. Мне нравился Бостон, но жена настояла на переезде в Калифорнию, что и свершилось в 1982 году (данное событие также вполне соответствовало моему жизненному кредо – всегда избирать путь наименьшего сопротивления). Я нашел работу в Силиконовой долине, в новой компании Grid Systems. Именно в этой фирме был создан первый портативный компьютер – отличное устройство, ставшее первым экспонатом в коллекции Музея современного искусства в Нью-Йорке. Сначала я работал в отделе маркетинга, потом – в инженерном отделе. Я разработал новый язык программирования под названием GridTask, принесший компании большой успех, и моя карьера быстро пошла в гору.