Сегодня программы вроде Siri не только кажутся почти одушевленными, они начинают превращать взаимодействие человека с машиной на естественном языке в обыденное дело. Эволюции этих программных роботов, похоже, помогает наше желание верить, что мы взаимодействуем с людьми, даже когда говорим с машинами. Мы ориентированы на социальные взаимодействия. Если в физическом мире роботы помогают нам не так уж часто, то в киберпространстве они уже вокруг нас. Очевидно, что эти боты – искусственный интеллект, пусть даже с ограниченными возможностями, – будут все больше входить в нашу повседневную жизнь.
Интеллектуальные программные агенты, такие как Siri компании Apple, Cortana компании Microsoft и Google Now, взаимодействуют с сотнями миллионов людей и, таким образом, реализуют взаимосвязь робот – человек. Уже в начале своего существования приложение Siri отличалось явно человекоподобным стилем – первый шаг на пути к созданию поколения приятных и заслуживающих доверия советчиков. Не все ли равно, как мы будем взаимодействовать с этими системами – как с партнерами или как со слугами? Если отвлечься от все более оживленных дебатов о том, будут ли интеллектуальные агенты и роботы автономными и, если да, будут ли они обладать достаточным самосознанием, чтобы нам пришлось задуматься о «правах роботов», то нам ближе вопросы, как относиться к этим системам и как характер взаимодействий с ними будет определять смысл понятия «человек». До тех пор, пока мы относимся к таким системам как к партнерам, мы остаемся людьми. Как бы то ни было, вопрос о взаимоотношениях людей и машин игнорируется большой частью современного компьютерного мира.
Специалист по вычислительной технике из Microsoft Research Джонатан Грудин заметил, что такие области знания, как искусственный интеллект и человеко-машинное взаимодействие, редко пересекаются друг с другом{7}. Он ссылается на Джона Маккарти и его давнее объяснение направления исследований в области искусственного интеллекта: «[Цель] заключалась в том, чтобы уйти от изучения поведения человека и рассматривать компьютер как инструмент для решения определенного класса проблем. Таким образом, искусственный интеллект стал направлением компьютерной науки, а не психологии»{8}. Прагматичный подход Маккарти определенно можно оправдать успехами в этой области в последние пять лет. Исследователи искусственного интеллекта любят говорить, что самолету для полета не нужно махать крыльями, подчеркивая тем самым, что для воспроизведения мыслительного процесса или поведения человека не обязательно понимать их. Пропасть между искусственным интеллектом и усилением интеллекта, однако, лишь увеличивается по мере того, как системы искусственного интеллекта все успешнее берут на себя функции человека, будь то распознавание образов, поддержание разговора, перемещение ящиков, игра в шахматы, «Своя игра» или видеоигры Atari.
Терри Виноград одним из первых отчетливо увидел две крайности и задумался о последствиях. Его карьера – пример дрейфа от искусственного интеллекта к усилению интеллекта. Учась в аспирантуре Массачусетского технологического института в 1960-х гг., он сосредоточился на изучении естественного языка с целью создания программного эквивалента Shakey – программного робота, способного вести разговор с людьми. В 1980-е гг. в какой-то мере из-за изменившихся взглядов на пределы искусственного интеллекта он оставил эту область и постепенно стал заниматься усилением интеллекта. К отходу от сферы искусственного интеллекта Винограда подтолкнули споры с группой философов в Калифорнийском университете. В составе небольшой группы исследователей искусственного интеллекта он участвовал в еженедельных семинарах, где присутствовали философы из Беркли Хьюберт Дрейфус и Джон Сирл. Философы убедили его, что есть реальные пределы возможностей интеллектуальных машин. Обращение Винограда в другую веру совпало с коллапсом нарождающейся индустрии искусственного интеллекта, известным как «зима искусственного интеллекта». Спустя несколько десятилетий Виноград, который был куратором соучредителя Google Ларри Пейджа в Стэнфорде, посоветовал молодому аспиранту сосредоточиться на проблеме поиска в сети, а не на беспилотных автомобилях.
7
Jonathan Grudin, «AI and HCI: Two Fields Divided by a Common Focus,»
8
John McCarthy, book review of B. P. Bloomfield,