Но возможна и другая история, которая на самом деле более правдоподобна. Практически во всех областях роботизированные системы могут повысить ценность труда, а не уменьшить ее. В этой книге рассказывается о врачах, медсестрах, учителях, сиделках, журналистах и представителях иных профессий, которые работают вместе со специалистами по робототехнике и компьютерным наукам, но не служат источниками данных для своей будущей замены. Их сотрудничество предвосхищает то технологическое развитие, результатом которого могут стать более качественные здравоохранение, образование, более высокий уровень жизни для всех нас, в то же время позволяющий сохранить осмысленный труд. Также они показывают, как право и публичная политика способны помочь нам в достижении мира и инклюзивного процветания, а не «гонки против машин»[3]. Но мы можем добиться этого только в том случае, если обновим законы робототехники, которыми определяется наше представление о технологическом прогрессе.
Законы робототехники Азимова
В рассказе 1942 г. «Хоровод» писатель-фантаст Айзек Азимов определил три закона для машин, которые могут воспринимать среду, обрабатывать информацию, а потом действовать[4]. В рассказе приводится выдержка из 56-го издания «Руководства по робототехнике» за 2058 г.:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.
Законы робототехники Азимова были крайне популярными. Они кажутся совершенно ясными, но применять их непросто. Может ли автономный дрон нанести удар по террористической ячейке? Первая часть первого закона («Робот не может причинить вред человеку») вроде бы запрещает такое действие. Но военный может тут же отослать ко второй половине первого закона (запрещающей «бездействие», которое «допустит, чтобы человеку был причинен вред»). Чтобы определить, какую часть закона следует применять, нам понадобилось бы обратиться к другим ценностям[5].
Полем боя двусмысленности не исчерпываются. Рассмотрим, например, допускают ли законы Азимова существование автомобилей-роботов. Беспилотные транспортные средства обещают избавить нас от тысяч несчастных случаев на дорогах, происходящих ежегодно. Поэтому на первый взгляд ответ очевиден. С другой стороны, тысячи оплачиваемых водителей останутся без работы. Позволяет ли этот ущерб государству запретить или замедлить развитие беспилотных автомобилей? Три закона Азимова не способны предельно конкретно решить такие вопросы. Не объясняют они и то, как быть с недавним требованием защитников беспилотных автомобилей, которые заявили, что пешеходы должны учиться вести себя так, чтобы беспилотным машинам было проще ездить, а если пешеходы отказываются учиться, их следует наказывать.
Эти и многие другие двусмысленности объясняют, почему нормы, регламенты и судебные дела, связанные с робототехникой и ИИ, в нашем мире более сложны и замысловаты, чем законы Азимова. Постепенно мы освоим большую часть этого правового ландшафта. Но прежде я хочу ввести четыре новых закона робототехники, чтобы сориентировать наши дальнейшие исследования[6]. Они написаны для людей, создающих роботов, а не для самих роботов[7]. И хотя они еще более двусмысленны, чем законы Азимова, они лучше отражают то, как работает реальное законотворчество. Поскольку законодатели не могут предугадать каждую ситуацию, которую властям приходится регулировать, часто они предоставляют определенные права ведомствам, ставя при этом перед ними довольно расплывчатые задачи. Новые законы робототехники должны быть примерно такими же, то есть в них должны определяться общие принципы, тогда как конкретные права должны предоставляться специальным регулирующим ведомствам, обладающим значительным опытом в технических сферах[8].
Новые законы робототехники
Помня об этих целях, можно предложить четыре новых закона робототехники, которые в этой книге будут изучаться и развиваться:
1. Роботизированные системы и ИИ должны дополнять профессионалов, а не заменять их[9]
Громкие предсказания о наступлении технологической безработицы подогревают популярные дискуссии о будущем труда. Некоторые эксперты предрекают то, что практически каждая работа обречена на вымирание под натиском технологического прогресса. Другие указывают на препятствия, лежащие на пути автоматизации. Для политиков вопрос в том, какие из этих препятствий роботизации имеют смысл, а какие следует изучить и убрать. Роботы-мясники имеют смысл, роботы-воспитатели кажутся нам сомнительными. Являются ли эти сомнения попросту луддитской реакцией, или они суть отражение более глубокого понимания природы детства? Правила лицензирования не позволяют сегодня рекламировать приложения, анализирующие симптомы, в качестве врачей, действительно занимающихся медициной. Но правильный ли это подход?
3
Eric Brynjolffson and Andrew McAfee,
6
Эти законы робототехники, как и законы Азимова, служат общим ориентиром, а потому возможны исключения и пояснения. Как хорошо известно специалистам по административному праву, многие нормативы являются не вполне прозрачными и нуждаются в пояснении (а также согласовании с другими, возможно, конфликтующими с ними, законами), предоставляемом специальными агентствами и судами.
9
Я сосредотачиваюсь на робототехнике, а не роботах, чтобы сделать упор на том, как в социальные системы встраивается технология датчика/процессора/активатора.