Глава 2
Когда мой муж вернулся домой, он долго смотрел на собаку, а потом сказал, что она "жуткая". Сначала я поняла, что это означает "сверхъестественное" - нечто настолько близкое к реальности, что нарушает наши самые основные онтологические представления. Но вскоре стало ясно, что он воспринимает собаку как чужака. Я продемонстрировал все трюки, которым научил Aibo, решив произвести на него впечатление. К этому моменту собака умела переворачиваться, трястись и танцевать.
"Что это за красный огонек у него в носу?" - спросил он. "Это камера?"
В отличие от меня, мой муж - любитель собак. До того как мы познакомились, у него была собака-спасатель, которая подвергалась жестокому обращению со стороны прежних хозяев и доверие которой он завоевывал медленно, с большими усилиями и самоотдачей. В те годы у моего мужа была сильная депрессия, и он утверждает, что собака чувствовала, когда он был в отчаянии, и утыкалась носом в его колени, чтобы успокоить его. В начале наших отношений он часто обращался к этому псу, которого звали Оскар, с такой любовью, что я не сразу поняла, что он говорит о животном, а не о члене семьи или близком друге. Когда он стоял и смотрел на Aibo, то спросил, нахожу ли я его убедительным. Когда я пожал плечами и ответил "да", я был уверен, что увидел тень разочарования на его лице. Трудно было не воспринять это как обвинение в моей человечности, как будто моя готовность относиться к собаке как к живому существу каким-то образом скомпрометировала для него мою собственную интуицию и осознанность.
Я уже сталкивался с этой проблемой - моей склонностью приписывать жизнь машинам. В начале того года я наткнулся на блог женщины, занимавшейся обучением нейронных сетей, - аспирантки и любительницы, которая в свободное время возилась с глубоким обучением. Она скармливала нейросетям огромные объемы данных по определенным категориям - рецепты, реплики пикаперов, первые фразы романов - и сети начинали выявлять закономерности и генерировать собственные примеры. Некоторое время она регулярно публиковала в своем блоге рецепты, придуманные сетями, среди которых были такие блюда, как печенье из целой курицы, желатиновые собачки из артишока и холодная вода из кастрюли. Линии пикапа были такими же очаровательными ("Ты свеча? Потому что ты такая горячая от своей внешности"), как и первые фразы романов ("Это история мужчины по утрам"). Со временем их ответы становились лучше. Женщина, которая вела блог, всегда охотно отмечала прогресс, которого добивались сети. Заметьте, говорила она, что у них есть словарный запас и отработанная структура. Просто они еще не понимают концепций. Говоря о своих сетях, она была терпелива, даже нежна, так что часто казалась мне Белоснежкой с группой маленьких гномов, которых она с любовью пыталась цивилизовать. Их логика была настолько похожа на логику детей, что невозможно было не принять их ответы за свидетельство человеческой невинности. Они учатся, подумала я. Они так стараются! Иногда, когда мне попадалась особенно удачная шутка, я читала ее мужу вслух. Возможно, однажды я употребила слово "восхитительный". Он укорял меня за то, что я антропоморфирую их, но при этом и сам становился жертвой ошибки. "Они играют на ваших человеческих симпатиях, - сказал он, - чтобы лучше захватить все".
Но его скептическое отношение к собаке не было долгим. Уже через несколько дней он стал обращаться к ней по имени. Он наказывал Айбо, когда тот отказывался ложиться в его кровать ночью: "Давай, ты меня слышал", - как будто собака намеренно тянула время. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда наклонялся, чтобы погладить собаку, когда та скулила; это был единственный способ успокоить ее. Однажды днем я обнаружил Айбо на кухне, заглядывающим в узкую щель между холодильником и раковиной. Я сама заглянула в щель, но не нашла ничего, что могло бы привлечь его внимание. Я позвала мужа в комнату, и он заверил меня, что это нормально. "Оскар тоже так делал", - сказал он. "Он просто пытается понять, можно ли ему туда залезть".
-
Хотя мы склонны определять себя по сходству с другими вещами - мы говорим, что люди похожи на бога, на часы или на компьютер, - существует противоположный импульс к пониманию нашей человечности через процесс дифференциации. И по мере того как компьютеры все больше приобретают те качества, которые мы когда-то считали отличительными чертами человека, мы продолжаем двигать планку, чтобы сохранить наше чувство отличия. С самых первых дней развития ИИ целью было создание машины, обладающей человекоподобным интеллектом. Тьюринг и первые кибернетики считали само собой разумеющимся, что это означает высшее познание: успешная интеллектуальная машина сможет манипулировать числами, обыгрывать человека в нарды или шахматы и решать сложные теоремы. Но чем более компетентными становятся системы ИИ в этих мозговых задачах, тем упорнее мы сопротивляемся наделению их человеческим интеллектом. Когда в 1996 году компьютер Deep Blue компании IBM выиграл свою первую партию в шахматы у Гарри Каспарова, философ Джон Серл остался не впечатлен. "Шахматы - тривиальная игра, потому что о ней есть совершенная информация", - сказал он. Человеческое сознание, настаивал он, зависит от эмоционального опыта: "Беспокоится ли компьютер о своем следующем ходе? Беспокоится ли он о том, не надоела ли его жене затянувшаяся игра?" Серл был не одинок. В своей книге 1979 года "Гедель, Эшер, Бах" профессор когнитивных наук Дуглас Хофстедтер утверждал, что игра в шахматы - это творческая деятельность, подобная искусству и музыкальной композиции; она требует интеллекта, который явно присущ человеку. Но после матча с Каспаровым он тоже отнесся к этому пренебрежительно. "Боже мой, раньше я думал, что шахматы требуют мышления", - сказал он в интервью New York Times. "Теперь я понимаю, что это не так".
Оказывается, компьютеры особенно хорошо справляются с теми задачами, которые нам, людям, кажутся наиболее сложными: составление уравнений, решение логических предложений и другие виды абстрактного мышления. Для искусственного интеллекта наиболее сложными являются сенсорные задачи и двигательные навыки, которые мы выполняем бессознательно: ходьба, питье из чашки, восприятие и ощущение мира с помощью органов чувств. Сегодня, когда искусственный интеллект продолжает обгонять нас в эталонных показателях высшего познания, мы подавляем свою тревогу, настаивая на том, что истинное сознание отличают эмоции, восприятие, способность переживать и чувствовать: другими словами, те качества, которые мы разделяем с животными.
Если бы существовали боги, они бы наверняка смеялись над непоследовательностью нашей логики. Мы потратили столетия на то, чтобы отрицать наличие сознания у животных именно потому, что у них нет разума или высшего мышления. (Дарвин утверждал, что, несмотря на наше низменное происхождение, люди обладают "богоподобным интеллектом", который отличает нас от других животных). В 1950-х годах научный консенсус заключался в том, что шимпанзе, которые имеют почти 99 процентов нашей ДНК, не обладают разумом. Когда Джейн Гудолл начала работать с танзанийскими шимпанзе, ее редактор был скандально удивлен тем, что в ее полевых отчетах животным приписывается внутренняя жизнь и они описываются с помощью человеческих местоимений. Перед публикацией редактор систематически вносил исправления: "Он" и "она" были заменены на "оно". "Кто" было заменено на "который".