Сперва возникает Siri, цифровой компаньон, всегда готовый откликнуться. Но это только начало. Пока я пишу этот текст, в СМИ появляются все новые истории о тестировании первых “домашних роботов”, призванных стать постоянно доступными “дружелюбными компаньонами”. Эти машины будут действовать так, словно понимают, что вы говорите, и будут обмениваться с вами любезностями посредством магии симулированного выражения эмоций[65]. Но неужели мы забыли, что такое беседа? Что такое дружба? Общение с техникой – это товарищество или изоляция?
Мы утрачиваем смысл слов. Когда-то слово “ум” значило куда больше, чем все то, на что способен любой искусственный интеллект. Оно подразумевало чувствительность, тонкость восприятия, осведомленность, проницательность, разум, чутье и остроумие. И все же теперь мы с готовностью называем машины умными. “Эмоциональный” – еще одно слово, некогда значившее куда больше, чем может дать какая-либо машина. Мы привыкли характеризовать действия машин, способных выразить эмоциональные состояния или почувствовать наши эмоции, как примеры “эмоциональных вычислений”[66]. Эти новые значения слов стали для нас новой нормой, и мы забываем о старых значениях. Требуются усилия, чтобы восстанавливать утраченный язык, утраченные значения слов, а со временем, возможно, и утраченные ощущения.
На одной из конференций, где мне довелось побывать, роботов называли “заботливыми машинами”, а на мой протест пояснили: это выражение используется не потому, что роботы к нам неравнодушны, а потому что они будут о нас заботиться. Забота – это поведение. Это функция, а не чувство[67]. Казалось, что участники конференции в растерянности: почему же я проявляю такую заботу о семантике? Что со мной не так?
Вполне естественно, что слова способны менять свое значение со временем, в новых обстоятельствах. Слова “ум” и “эмоциональный” поменяли свой смысл, чтобы их можно было использовать для обозначения действий машин. Что же, теперь к этому списку добавятся “заботливый”, “друг”, “товарищество” и “беседа”?
Что касается этих слов, то здесь слишком многое поставлено на карту. Мы их еще не потеряли. Мы должны вспоминать об этих словах и об этом разговоре, пока не стало слишком поздно: пока мы не забыли, как вести беседу, или не решили, что такую же беседу можно вести и с машинами.
Мы загоняем себя в такой угол, где оказывается, что под сомнение поставлено куда больше, чем слова.
Я говорю, что мы достигли “роботизированного момента” не потому, что создаем роботов, способных составить нам компанию, а потому что готовы рассмотреть возможность составить компанию роботам. По моим наблюдениям, все больше людей рассматривают идею, что в недалеком будущем им будет вполне достаточно общества машин. Собеседники признаются: в том случае, если машина сможет дать им “ощущение”, что она понимает их сокровенные мысли, этого понимания им вполне хватит, равно как и этой сокровенности.
Невозможно не заметить обилия иронии в этой ситуации. Мы хотим установить диалог с искусственным интеллектом ровно в тот момент, когда стремимся избежать беседы друг с другом.
Если говорить в более общем плане, то в наших беседах четвертого стула мы представляем себя как бы в новом мире, где машины общаются друг с другом, чтобы сделать нашу жизнь проще. Но кем же мы станем в этом мире (мире “без лишнего трения”, каким он нам представляется), где машины будут знать, чего мы хотим, причем еще до того, как мы выразили свое желание – а может, и вовсе при нашем полном молчании? Располагая исчерпывающей информацией о нашей жизни в сети, машины смогут узнать о наших предпочтениях в музыке, искусстве, политике, одежде, книгах и еде. Им станет известно, кто нам нравится и куда мы путешествуем.
В этом мире ваш смартфон оповестит вашу любимую кофейню, что вы уже вышли за своим утренним латте, и напиток будет вас ждать, приготовленный в точности по вашему вкусу. Во избежание “лишнего трения” телефон поможет вам изменить маршрут, чтобы вы уклонились от столкновения с бывшей девушкой и встречали на своем пути только одобренных вами друзей. Но кто сказал, что жизнь без конфликта, без напоминаний о былых ошибках, о былой боли, та жизнь, где вам не придется сталкиваться с людьми, создающими проблемы, хороша? Может быть, это тот же человек, который говорил, что в жизни не должно быть скучных моментов? В таком случае, когда технологии дают нам ощущение, что мы можем общаться, сохраняя полный контроль, непредвиденные обстоятельства становятся серьезной проблемой. И если технологии помогают нам решать “проблемы”, это вовсе не значит, что та или иная ситуация изначально была источником проблем[68].
65
В Китае компания Microsoft выпустила XiaoIce, сложный образец искусственного интеллекта, созданный для общения с пользователями по телефону. Текст в блоге, опубликованный 5 сентября 2014 года, дает представление об амбициях этого проекта: “Просто добавив ее в чат, люди могут вести с ней продолжительные беседы. Однако XiaoIce куда лучше развита, чем чат-боты, о которых вы, возможно, вспоминаете. XiaoIce – изощренный собеседник с ярко выраженной индивидуальностью. Она может внезапно вступить в разговор, упоминая обусловленные контекстом факты из жизни знаменитостей, из мира спорта или финансовой сферы, но при этом она наделена эмпатией и чувством юмора. Используя анализ тональности, она может адаптировать свои формулировки и ответы в зависимости от положительных или отрицательных подсказок собеседников-людей. XiaoIce шутит, читает стихи, делится историями о привидениях, сочиняет тексты песен, объявляет номера, выигравшие в лотерее, и многое другое. Подобно другу, она может вести продолжительные беседы, результатом которых становятся сотни эпизодов общения… С момента запуска XiaoIce провела полмиллиарда бесед. На людей произвели большое впечатление… ее личность и чувство юмора. XiaoIce была выбрана топ-инфлюенсером Weibo, и на сегодняшний день у этого сервиса более 850 000 подписчиков” (из текста в блоге Стефана Вайца, руководителя Bing, “Meet XiaoIce, Cortana’s Little Sister,” 5 сентября 2014 года. http://blogs.bing.com/search/2014/09/05/meet-xiaoice-cortanas-little-sister)
66
См., например, основополагающую работу в этой области: Picard R. W. Affective Computing. Cambridge, MA: The MIT Press, 2000.
67
Подробнее об этом см.: Turkle Sh. Alone Together: Why We Expect More from Technology and Less from Each Other. P. 106.
68
Этой теме посвящена книга исследователя технологий Евгения Морозова: Morozov E. To Save Everything, Click Here: The Folly of Technological Solutionism. New York: Public Affairs, 2013, где он называет эту ошибку “солюционизмом”.