(Далее думайте сами, а я спешу вывинтить пробки.)
Кивино гнездо: Беззаконие роботехники
Киви Берд
Опубликовано 26 декабря 2011 года
В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием «Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам» ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.
Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.
Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые «Три закона роботехники» из цикла фантастических рассказов Айзека Азимова «Я, робот»:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны «утопические и наивные» азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.
Зато Лин описал множество примечательных (и вызывающих понятное беспокойство) сценариев и задач, которые подходят для того, чтобы переложить их на плечи роботов.
В отличие от людей, машины прекрасно работают в условиях, которые известны как «три D». Именно это делает их настолько привлекательными для военных и шпионов.
Первое D — из английского слова Dull, то есть «скучная работа». Такая, к примеру, как продолжительное наблюдение, рекогносцировка на местности, патрулирование территории или охрана периметра в течение длительного времени.
Второе D – от Dirty, «грязная работа». Роботам, как правило, не страшны ядовитые и опасные для человека материалы. Они способны работать в средах, которые не подходят для людей, вроде подводного мира или открытого космоса. Их можно использовать для борьбы с последствиями ядерных или биохимических аварий и атак.
Третье D – от Dangerous, то есть «опасная работа». Типичный пример такого рода задач — обследование туннелей в системах пещер, где прячется противник, контроль над поведением враждебно настроенной толпы или обезвреживание взрывных устройств.
Кроме того, отмечает Лин, ныне в этот комплекс всё чаще добавляют ещё одно «четвёртое D» — Dispassion, то есть способность роботов сохранять бесстрастность. Это, правда, спорный момент (оспаривается не отсутствие у робота эмоций, конечно, а стремление рассматривать этот аспект как важный плюс в работе).
Для себя Лин уже решил, на чьей стороне в этом споре правда. Очевидно, что роботы никогда не будут действовать со зла или из ненависти. Им чужды эмоции, приводящие к совершению военных преступлений вроде резни мирного населения или массовых изнасилований. Суждения машины не искажают адреналин и голод. Они не страдают от недосыпа, низкого морального духа и сомнений, которые влияют на то, как люди оценивают ситуацию. Это, по мнению Лина, означает, что роботы способны воевать не только лучше людей, но и этичнее.
В многочисленных приложениях роботехники, связанных с пленными и заключёнными, роботов можно было бы использовать не только для охраны зданий, но и для охраны людей. Например, полагает Лин, одним из преимуществ этого стало бы прекращение тюремных издевательств над заключёнными, вроде тех, что имели место в тюрьмах Гуантанамо на Кубе и Абу Граиб в Ираке.
И уж коли речь зашла о пленных и заключённых, то следует упомянуть ещё один близко связанный с этой темой сценарий, касающийся применения роботов во время допросов и пыток. (Тут Патрик Лин на всякий случай объявляет, что сам он не является сторонником применения пыток, однако не видит ничего дурного в том, чтобы порассуждать на эту тему «теоретически»).