Помните Полотенчика, «умное полотенце», которое может ощутить, насколько ты влажный и приспосабливается соответственно? Полотенчик появляется всякий раз, когда мальчики говорят о воде, а после появления, он неизменно говорит вкрадчивым голоском: «не забудьте взять полотенце!» Печально известен также вопросом: «Пыхнуть хотите?» Этих слов, также как большей части диалогов Полотенчика, конечно, недостаточно, чтобы убедить нас, что он — разумное полотенце, а не просто более сложная (и более тревожащая) версия мягкой игрушки, запрограммированной на несколько высказываний. Что могло бы убедить нас, что Полотенчик — больше, чем игрушка? Если мы хотим знать, есть ли у Полотенчика разум, что мы должны делать? Что мы должны искать?
Во-первых, чтобы подчеркнуть трудность этой задачи, предположите, что Полотенчик говорит, но не делает ничего вообще. Предположите, что он ведет себя, скорее как обычное полотенце. Мы можем знать, что у этого обычного полотенца нет разума? Можно подумать, что нет. Однако, это весьма спорно, так как успешное прохождение теста Туринга — не гарантирует присутствия разума, также как провал в тесте Туринга вовсе не доказывает отсутствия мышления. Находящийся в Комнате 3 может быть разумным, но неспособным общаться с нами, или, возможно, его просто не заботит наш интерес, как ни одного из нас не волнует мысль о том, не вынашивают ли наши полотенца противных замыслов о нас, пока мы энергично вытираем об них руки. Трудно объяснить, почему так получается, отчего мы знаем наверняка, что простые вещи испытывают недостаток разума. Если весь этот разговор о полотенцах кажется Вам глупым, пеняйте на Трэя и Мэтта. А затем предположите, что мы столкнулись с новым видом, обитающим глубоко в океане или на другой планете. Если они не общаются с нами, или, не делают вообще ничего, как мы можем убедиться, что они не думают? Как?
Вернемся к проблеме того, как установить, что у Полотенчика действительно есть разум. Для начала, мы могли бы задаться вопросом о его словарном запасе и живом отклике на вопросы. Если он говорит только, «не забывайте взять полотенце!» и «Пыхнуть хотите?» или если он говорит вещи, которые, кажется, не отвечают на то, что мы спрашивали, то мы, вероятно, можем думать о нем не как о человеке с разумом, а как о, своего рода, устройстве. Это должно более или менее следовать рассуждениям Туринга. Что еще мы могли бы сделать? Какие другие особенности характеризуют разум, которые мы могли бы попытаться обнаружить в Полотенчике? Список таких параметров — довольно длинен и содержит взаимосвязанные особенности, вроде рациональности, сознания, доброй воли, автономии, эмоций, творческого потенциала и духа. И Полотенчик, действительно, кажется, проявляет некоторые из этих вещей, например, он бросает вызов своей программе, отказавшись пыхнуть или расстроившись, когда Кайл отнимает последний косяк. Но общая проблема здесь состоит в том, что, если даже я знаю, как и отчего получается, что у меня есть одна из этих особенностей, я не могу быть абсолютно уверен, что у других людей есть такие же — трудно понять, как я могу использовать эти знания, чтобы уладить проблему с Полотенчиком.
Для каждой особенности, которую мы могли бы использовать в определении наличия у чего-либо разума, мы можем найти некий аргумент, доказывающий, что машина просто не может обладать рассматриваемой особенностью. Таким образом, основой любого числа возражений на возможность создания искусственного интеллекта станет давнее убеждение, что машина, просто не может делать определенных вещей, которые могут делать люди. Рассмотрим, для примера, как известный французский философ Рене Декарт (1596–1650) думал об экспериментах с машинами, которые выглядят и действуют почти как мы. В своей книге «Рассуждение о механизме» Декарт говорит, что у нас есть два определенных способа доказать, что машины — действительно не люди: