Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.[45]
Азимов продолжает оказывать огромное влияние на научную фантастику и создание настоящих роботов уже более 70 лет. Однако одно из этих двух сообществ смогло значительно обогнать в своем развитии другое. Научная фантастика подарила нам болтливых и верных роботов R 2-D 2 и C-3PO, кибернетическую цивилизацию Сайлонов из сериала «Звездный крейсер „Галактика“», ужасного Терминатора и массу бесконечных вариаций андроидов, киборгов и репликантов. А десятилетия исследований в области роботехники подарили нам ASIMO, робота-гуманоида производства компании Honda, провалившего собственную демонстрацию, поскольку он не смог исполнить третий закон Азимова. На проведенной в 2006 году в Токио презентации ASIMO попытался пройти по узкой лестнице, выстроенной на сцене. На третьем шаге колени робота подогнулись, и он упал, полностью разбив свою лицевую панель.[46]
С тех пор ASIMO починили и научили новым навыкам – теперь он умеет подниматься и спускаться по лестнице, пинать футбольный мяч и танцевать. Однако его недостатки заставляют нас понять неприятную истину: многое из того, что просто и привычно для людей в нашем мире, невероятно сложно для роботов. Как отмечает известный футуролог и специалист по роботехнике Ханс Моравек, «сравнительно легко настроить компьютер так, чтобы он отвечал на вопросы тестов интеллектуальных способностей или играл в шашки на уровне нормального взрослого человека, но почти невозможно наделить его навыками годовалого младенца, когда дело касается восприятия и мобильности».[47]
Эта ситуация стала широко известна под названием парадокса Моравека, который в «Википедии» описан следующим изящным образом: «Принцип в областях искусственного интеллекта и робототехники, согласно которому, вопреки распространенному мнению, высококогнитивные процессы требуют относительно небольших вычислений, в то время как низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов»[48].[49] Глубокое наблюдение Моравека очень точно и важно. По словам ученого-когнитивиста Стивена Пинкера,
главный урок 35 лет исследований искусственного интеллекта состоит в том, что сложные проблемы просты, а простые проблемы сложны… При появлении нового поколения разумных устройств с угрозой потерять свою работу из-за машин столкнутся фондовые аналитики, инженеры-нефтехимики и члены комиссий по условно-досрочному освобождению. А садовникам, портье и поварам удастся сохранить свои рабочие места еще несколько десятилетий.[50]
Пинкер хочет сказать, что для экспертов в области робототехники задача по созданию машин, навыки которых находятся на уровне, хотя бы немного сопоставимом с уровнем неквалифицированных рабочих, занимающихся ручным трудом, оказалась ужасно сложной. К примеру, пылесос Roomba iRobot не способен делать все то же, что делают горничные, – он просто пылесосит пол. В мире уже продано более 10 миллионов пылесосов Roomba, однако ни один из них не умеет выравнивать кипу журналов на кофейном столике.
Когда дело касается работы в физическом мире, люди имеют огромное преимущество над машинами с точки зрения гибкости. Автоматизировать отдельное действие, такое как припайка провода к печатной плате или скрепление двух деталей с помощью шурупов, довольно просто, однако эта задача не должна меняться с течением времени и должна выполняться в «регулярной» среде. К примеру, печатная плата должна все время быть ориентирована в определенную сторону. Для решения таких задач компании покупают специальное оборудование, инженеры программируют и тестируют его, а затем добавляют в имеющиеся производственные конвейерные линии. Каждый раз, когда задача меняется – к примеру, при каждом изменении местоположения отверстий для шурупов, – производство должно остановиться до тех пор, пока программисты не заменят программу. На современных фабриках, особенно крупных и расположенных в странах с высоким уровнем оплаты труда, высокий уровень автоматизации высок, однако даже там невозможно встретить роботов широкого профиля. Напротив, на этих фабриках стоит специализированное и весьма дорогое оборудование, которое довольно сложно настраивать и перенастраивать.
45
“Isaac Asimov Explains His Three Laws of Robots”, Open Culture, 31 октября 2012 г., http://www.openculture.com/2012/10/isaac_asimov_explains_his_three_laws_of_robotics.html (по состоянию на 23 июня 2013 г.).
46
Brian lam, “Honda Asimo vs. Slippery Stairs”, 11 декабря 2006 г., http://gizmodo.com/220771/honda-asimo-vs-slippery-stairs?op=showcustomobject&postId=220771&item=0.
47
Hans Moravec, Mind Children: The Future of Robot and Human Intelligence (Cambridge, MA: Harvard University Press, 1988), стр. 15.
48
“Moravec’s Paradox”, Wikipedia, the Free Encyclopedia, 28 апреля 2013 г., http://en.wikipedia.org/w/index.php?title=moravecpercent27s_paradox&oldid=540679203.
49
Сенсомоторные навыки связаны со способностью ощущать физический мир и контролировать тело при перемещении в нем.
50
Steven Pinker, The Language Instinct (New York: Harper Perennial Modern Classics, 2007), стр. 190–191.