Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия, благо арсенал та-
ких вооружений ныне весьма разнообразен — от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun), до микроволновых излучателей, вызывающих болевые ощущения.
Подобные предложения многим представляются вполне разумными. Не забудем, однако, что самолеты-роботы уже не первый год уничтожают цели в зонах, заведомо населенных, так что упомянутые предложения потребуют очень существенной корректировки фактически принятой практики. И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока совершенно не готовы связывать себе руки какими-то ограничениями.
ГЛЯДЯ ИНАЧЕ
Помимо названного, есть и другой взгляд на происходящее. За плечами земной цивилизации — весьма постыдная история. Сколь-
ко раз человечество бездумно выпускало джинна из бутылки — будь то авиабомбы, отравляющие газы или ядерное оружие, — еще до того, как были тщательно проанализированы ужасные последствия применения разрушительных технологий. Сегодня имеется вполне реальный шанс учесть прошлые ошибки, и, затевая разговор о боевых роботах и морали, было бы полезно вспомнить знаменитые Три Закона роботехники Айзека Азимова:
¦ Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
¦ Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
¦ Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Сегодня, как показывают исследования Сингера, специалисты-роботехники почти не вспоминают о «старомодных и наивных» идеях Азимова. А если вдруг и вспоминают, то лишь чтобы указать, что все его рассказы из цикла «Я, робот» по сути своей демонстрируют внутренние противоречия и ограничения основополагающих законов.
При этом, однако, никто не желает видеть одну очень существенную вещь — для Азимова изначально была неприемлемой идея об автономных вооруженных роботах, запрограммированных на умышленное нанесение вреда человеку, не говоря уже об убийствах. В азимовском мире будущего такого не могло быть в принципе. И если в нашем сегодняшнем мире все иначе, это означает, что с пониманием драгоценности человеческой жизни, а значит, и с основами морали у современного общества большие трудности. Общество, не считающее убийство аморальным, тяжко больно. И как его вылечить, пока неясно. ¦
ВОЙНА КАК ВИДЕОИГРА
Военные с умом воспользовались продукцией индустрии видеоигр — в частности, достижениями в области интерфейсов и контроллеров-манипуляторов. Создатели консолей ХЬох и PlayStation затратили многие миллионы долларов на разработку систем управления, которые идеально подходят для человеческих рук. Неудивительно, что военные тоже стали использовать эти устройства, заодно бесплатно получив в свои кадры целое поколение молодых людей, которые уже натренированы в использовании таких систем.
Но здесь имеется еще один существенный аспект — специфическая ментальность, формирующаяся у людей при использовании подобных систем. Один из американских военных операторов, управляющих дро-нами Predator, описал, каковы ощущения при уничтожении противника, находящегося за многие тысячи километров. Он сказал, что «это словно видеоигра». Если задуматься, это очень странное, но и очень показательное сравнение для опыта реального убийства людей, а также яркий при-
мер того, как технологии меняют восприятие чрезвычайно важных вещей в сознании целого поколения.
Обозначилась фундаментальная разница в сравнении с пилотом бомбардировщика Второй мировой войны или даже с пилотом бомбардировщика сегодняшнего. Компьютеры и дальняя связь не только полностью лишают человека ощущения аморальности его действий, но и вообще боли, сопутствующей войне, — как физической, так и психологической. Ведь «боевой» опыт пилота нынешних дронов выглядит примерно так. Утром он прыгает в свою Тойоту, едет на службу, садится за компьютер, пачками убивает врагов где-то там за океаном, опять прыгает в авто и едет домой. Через полчаса после «хождения на войну» он уже дома и за кухонным столом обсуждает с ребенком школьное домашнее задание. То есть понятие о том, что означает «идти на войну», изменилось в корне, а ценность жизни людей стала примерно такой же, как у монстров в видеоигре.