Особое беспокойство должно вызывать очевидное и всё более сильное размытие роли человека в убийствах и той ответственности, которую должен нести всякий человек за преступное лишение жизни других людей. Совершенно справедливо задаются вопросы такого рода: "Какова же оказывается роль человека с моральной и этической точек зрения в случае применения автоматических систем убийства? Для автономной системы робота школьный автобус и танк - это, в сущности, одно и то же, просто элементы алгоритма в программе... У робота нет ощущения крайности, допустимости доступных способов и средств, нет необходимости знать, почему он нацелен на уничтожение того или иного объекта..."
Как подчёркивается в отчёте, министерство обороны Великобритании "в настоящее время не имеет никаких намерений разрабатывать такие робосистемы, которые работали бы вообще без человеческого вмешательства в цепи управления боевым оружием". Но также как факт констатируется и то, что британское МО (как и американский Пентагон) всячески стремится к разработке всё более и более сложных "автоматизированных" вооружений.
Но было бы совершенно неверным считать, что авторы документа против этой тенденции или пытаются её переломить. В отчёте развёрнуто представлены всё преимущества беспилотных боевых систем – такие, к примеру, как предотвращение потенциальных потерь в жизнях членов экипажа боевых машин (что уже само по себе может служить "моральным оправданием" применения роботов). Там же добавляется: "Роботы не могут быть эмоциональными, не могут ненавидеть. Роботы не могут руководствоваться в своих действиях гневом, чтобы сорваться до преступных действий, вроде резни в Май Лаи (устроенной солдатами США над сотнями безоружных гражданских в Южном Вьетнаме в мае 1968)".
Опираясь на такого рода логику, отчёт констатирует, что "в теории, по крайней мере, автономность боевых роботов должна обеспечивать более этичные и законные военные действия". Однако на практике, как известно, всё складывается зачастую совсем иначе, нежели представляется теоретикам. Тем более что пока совершенно неясно, кто именно должен нести ответственность, если с дронами-киллерами что-то пойдёт сильно не так: "Является ли, скажем, программист системы виновным в военном преступлении, если системная ошибка приведёт в итоге к незаконным действиям и массовым убийствам? И если да, то где тут намерение, требующееся для того, чтобы несчастный случай трактовался как преступление?"
Наверное, это даже естественно, что авторы отчёта в своих попытках всестороннего анализа проблем, связанных с применением боевых роботов, не смогли удержаться и от предупреждения об очевидных уже опасностях "нарастающего и непреднамеренного сползания к реальности в духе фильмов о Терминаторе". Как говорится в этом документе, динамика технологического развития боевых роботов ускоряется такими темпами, что Великобритании уже явно пора быстро сформировать чёткую и внятную политику относительно того, что составляет "приемлемое поведение машины".
Наиболее сильная цитата на данный счёт выглядит примерно так: "Сущностно необходимо, чтобы до того, как неуправляемые человеком системы станут повсеместно распространёнными (если это уже не слишком поздно), мы обеспечили следующее: заведомо удалив наиболее ужасные из вероятных вещей или, по крайней мере, удерживая их на безопасном расстоянии, мы не подвергали рискам человеческий контроль и не делали войну наиболее вероятным исходом..."
Дополнительные фактические материалы к теме о дронах в вооружённых силах можно найти в материале "Роботы на войне".
Кафедра Ваннаха: Право летать
Автор: Ваннах Михаил
Опубликовано 27 апреля 2011 года
После бурного космического взлёта человечества в 1960-х - Гагарин на орбите, Армстронг на Луне - наступила длящаяся уже четыре десятилетия стагнация. Русские летают всё на той же королевской "семёрке". Янки, после предстоящего в конце апреля 2011 года полёта шаттла Endeavour, вообще останутся без пилотируемых аппаратов.
Почему? Чем объясняется такой застой, особенно наглядный на фоне экспоненциального взлёта информационных технологий? Ведь есть мнение, что как раз перенос интересов в сферу компьютеров и отвлекает силы от звёздных путей. Так ли это?