За прошедшие десятилетия Виноград ясно осознал важность точки зрения разработчика. Разделение областей искусственного интеллекта и человеко-машинного взаимодействия в определенной мере зависит от подхода, но это также и этическая позиция в вопросе о том, где должен находиться человек – в создаваемых нами системах или за их пределами. Не так давно Виноград помог создать в Стэнфорде академическую программу, ориентированную на «технологии освобождения», в рамках которой изучают конструирование компьютеризованных систем с учетом человеческих ценностей.
На протяжении всей истории человечества технологии замещали живой труд. Однако локомотивы и тракторы не принимают решений на уровне человека, а вот «думающие машины» делают это все чаще и чаще. Очевидно также, что технологии и человечество эволюционируют совместно, и это вновь ставит вопрос о том, кто будет стоять у руля. В Кремниевой долине стало модным прославлять возвышение машин – об этом ясно говорит появление организаций вроде Института сингулярности и книг типа «Чего хочет технология» (What Technology Wants) Кевина Келли (2010 г.). В более ранней книге 1994 г. «Неуправляемые» (Out of Control) Келли решительно встает на сторону машин. Он описывает встречу Марвина Мински и Дуга Энгельбарта:
Говорят, когда два гуру встретились в Массачусетском технологическом институте в 1950-е гг., между ними состоялся следующий диалог:
Мински: Мы собираемся наделить машины интеллектом. Мы собираемся дать им сознание!
Энгельбарт: Вы собираетесь сделать все это для машин? А что вы намерены сделать для людей?
Эту историю обычно рассказывают инженеры, работающие над тем, чтобы сделать компьютеры более дружественными, более человечными, более ориентированными на людей. Но я полностью на стороне Мински, на стороне дела. Люди выживут. Мы научим наши машины служить нам. Но что мы собираемся сделать для машин?{9}
Келли верно указывает, что есть «стороны» Мински и Энгельбарта. Но говорить, что люди «выживут», – значит недооценивать последствия. Он в основном вторит Мински, который, как известно, отвечал на вопрос о значении появления искусственного интеллекта так: «Если нам повезет, они будут держать нас как домашних животных».
Позиция Мински красноречиво демонстрирует пропасть между лагерями искусственного интеллекта и усиления интеллекта. Сообщество сторонников искусственного интеллекта до настоящего времени по большей части игнорирует последствия появления интеллектуальных систем, которые рассматриваются просто как мощные инструменты без дискуссий о морали. Как сказал мне один из разработчиков роботов следующего поколения в ответ на вопрос о влиянии автоматизации на людей: «Об этом не надо думать, нужно только решить, что ты хочешь сделать, и приложить все силы для улучшения мира людей в целом».
На протяжении последнего полувека философии Маккарти и Энгельбарта оставались несовместимыми и их основное противоречие все еще не разрешено. Один подход направлен на вытеснение людей и их замену все более мощным комплексом программных и аппаратных средств. Другой ориентирован на расширение наших интеллектуальных, экономических и социальных возможностей с помощью тех же средств. Хотя пропасть между этими подходами мало кому заметна, взрывное развитие новой технологии, которая уже влияет на каждый аспект современной жизни, неизбежно вынесет проблему на поверхность.
Будут ли машины вытеснять живых работников или усиливать их возможности? На определенном уровне они будут делать и то и другое. Еще раз подчеркну, что это неправильный вопрос и ответ на него неполный. И виртуальные, и физические роботы достаточно гибки, чтобы стать в конце концов теми, кем мы захотим. В нынешней экономике подход к тому, как разрабатываются и используются и машины, и интеллектуальные системы, определяется чаще всего себестоимостью и выгодой, а себестоимость падает все быстрее. В нашем обществе, если задачу дешевле поручить машине – виртуальной или физической, – в большинстве случаев будет использоваться машина. Реализация этого – вопрос лишь времени.
Решение встать на ту или иную сторону в споре вдвойне трудно, поскольку нет очевидных правильных ответов. Хотя автомобили без водителей приведут к потере миллионов рабочих мест, они также сохранят множество жизней. Сегодня решения о применении технологий принимаются в основном на основе выгодности и эффективности, но очевидно нужна и новая система оценки с точки зрения морали. Дьявол, однако, кроется в деталях. Как и в случае ядерного оружия и атомной энергии, искусственный интеллект, генная инженерия и робототехника будут иметь в следующем десятилетии широкие социальные последствия, как желательные, так и не очень.
9
Kevin Kelly,