И НА МОРЕ
Не столь заметно, как в воздухе или на суше, на море ныне тоже внедряется широ-
кий набор роботов для военных операций. Аппараты, работающие на поверхности, носят название USV (Unmanned Surface Vessel) и имеют много общего с упрощенными моделями наземных роботов, коль скоро оперируют в двухмерном пространстве и оснащаются сенсорами или оружием. Одну из типичных моделей такого рода, Spartan Scout, впервые начали применять в 2003 году, поручив ей визуальную инспекцию небольших гражданских судов в Персидском заливе. На борту USV имеются громкоговоритель и микрофон, так что арабский переводчик с «корабля-матки» мог допросить любую подозрительную лодку, остановленную «спартанским разведчиком». Как рассказывают участники
АВТОНОМНОСТЬ И МОРАЛЬ
За последние десятилетия роботы стали несравненно сложнее и умнее, однако все они предназначены для решения очень специфических задач и в целом остаются не более умны, чем какая-нибудь садовая улитка. Они вполне могут делать неверные движения, идентифицировать неверные цели, давать сбои, и уж что они не могут сделать наверняка — так это захватить мир и поработить человечество.
Автономность современных роботов пока оставляет желать лучшего. Даже самих солдат, использующих роботов в операциях, сильно нервирует идея оснастить машины пулеметами и поручать им самостоятельные боевые задания.
Однако высокое начальство упрямо требует делать поводок для роботов все длиннее и длиннее, поскольку железный солдат реагирует на происходящее гораздо быстрее солдата живого. Если, к примеру, взвод попал под обстрел снайпера, то робот с инфракрасной видеосистемой может мгновенно зафиксировать точку выстрела и ответным огнем уничтожить вражеского стрелка еще до того, как тот успеет укрыться. Но если, в соответствии с нынешними правилами, человек-оператор будет давать санкцию на каждый выстрел, то снайпера противника будет уже не достать.
Постепенно начинает ощущаться и нехватка персонала. В настоящее время каждый крупный самолет-робот, летающий над Ираком, имеет пилота из плоти и крови, который сидит в кабинке на авиабазе в штате Невада и управляет дроном с помощью джойстика. Каждый робот Talon, соответственно, имеет своего «погонщика» с дистанционным управлением. Понятно, что это довольно дорогостоящее решение пробле-
НЕЗАВИСИМО ОТ ТОГО, НАСКОЛЬКО УМНЫМИ И НАДЕЖНЫМИ МОЖНО СДЕЛАТЬ РОБОТОВ, ОНИ ВСЕ РАВНО БУДУТ ДЕЛАТЬ ОШИБКИ
досмотров, «гражданские моряки приходили в замешательство, когда их начинало допрашивать говорящее по-арабски судно без людей на борту».
Существенно иной, подводный тип морских роботов носит название UUV (Unmanned Underwater Vehicle). Эти машины чаще всего используются для поиска и обезвреживания мин, являющихся причиной большинства боевых потерь на море за два последних десятилетия. Например, «Робо-лобстер», способный работать в неспокойных прибрежных водах. Другие аппараты больше похожи на мини-субмарины или переделанные торпеды, вроде дрона REMUS, применявшегося в Ираке для очистки водных путей от мин и прочей взрывающейся нечисти.
мы — а самым эффективным ее решением видится вариант, когда роботы полностью автономны и способны самостоятельно решать поставленные перед ними задачи. Кроме того, человек просто физически не сможет управляться с продвинутыми роботами — слишком быстрыми или слишком маленькими и многочисленными. Таким образом, неизбежно встает вопрос об автономных военных машинах.
Тут-то и кроется проблема, которая должна очень серьезно обеспокоить человечество. Независимо от того, насколько умными и надежными можно сделать роботов, они все равно будут делать ошибки. Сколь бы ни были ныне продвинуты системы искусственного интеллекта, их разработчики по-прежнему не очень-то успешны в попыт-
ках, скажем, обучить программу эффективно различать яблоки и помидоры. Что уж говорить о выявлении различий между мирными гражданами и бойцами противника?
И при этом, как пишет исследовавший данную проблему П. Сингер, «закон безмолвствует» — пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство? Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает «не того» человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина все делает сама, ответственность исчезает — а вместе с ней исчезают и общепринятые нормы права.