Перед зданием суда шумят толпы любопытных, щелкают затворы фотоаппаратов, снуют мальчишки-газетчики. Их крики и громадных размеров заголовки на газетных полосах раскрывают причину столпотворения.
«Процесс всех времен!»
«Профессор Мэйзи Метикс против «Артифишиал интеллидженс»*3!»
«Машина обозвала человека дураком!»
«Адвокат Цереброн: Я защищаю авторские права Природы!»
Для уяснения сути дела обратимся к материалам прессы.
Вот интервью с профессором психологии, который, в частности, заявляет: «Для меня не столь важно, прав или нет робот в своих обвинениях. Гораздо важнее - умеет ли он извиняться...»
Детский писатель: «Я все время прошу знакомых ущипнуть меня и спрашиваю себя - не попал ли я в чудесную сказку? Неужели наяву могут наступить времена добрых волшебников и чародеев? Свободные от человеческих слабостей существа, загадочные и могущественные! Вот кто даст нам возможность жить, работать и развиваться, вечно оставаясь счастливыми детьми... Я рукоплещу науке!..»
Политический деятель: «То, что происходит, - страшно. Потерять контроль над миром техники, да еще обретшим сознание, - это значит потерять свободу, обречь себя на рабское существование. Если не сами люди будут решать, «что такое хорошо, а что такое плохо», то всем нашим законам, морали, культуре - грош цена, они превратятся в детские игрушки. Пусть цивилизация и будет продолжать развиваться - это будет уже не человеческая цивилизация. Если еще не поздно, надо срочно принимать меры по установлению строжайшего государственного надзора над научными исследованиями в области создания так называемого «искусственного мышления», а то и запретить их вовсе...»
Профессор И. А. Полетаев (г. Новосибирск): «Нет, в самом деле -страшно! Но, увы! Невозможно выключить «рубильник науки». Нельзя прекратить исследования генетического анализа и синтеза, невозможно не полететь на Луну, нельзя закрыть Америку. Если человек может открыть Америку, полететь на Луну, синтезировать живое существо, построить мыслящее механическое чудовище, он непременно и неизбежно все это сделает, даже если его не побуждает к этому прямая нужда. Просто - таков человек! Почему он таков - мы не знаем. Но узнаем, ибо человек (не этот, так следующий) и этого узнать не побоится»*4.
Не забывайте, что мы рассказываем о событиях, которые могут произойти лишь в будущем времени, и автор ручается за их достоверность лишь с учетом этого обстоятельства.
Итак, преподаватель математики одного из университетов, профессор
Мэйзи Метикс, обратился в суд с необычным заявлением. Суть дела заключалась в следующем. Для того, чтобы ускорить усвоение студентами премудростей данной науки, с некоторых пор было решено вести преподавание на новой основе. Известно, что ничто так не способствует развитию профессиональных навыков, как решение конкретных и практически важных задач. Существующие задачники с искусственно придуманными и тысячу раз решенными упражнениями для этой цели явно не годились. Но где взять такие задачи, которые бы, с одной стороны, никем ранее не решались, а с другой стороны, их решение было бы известно? Нельзя же к каждому студенту приставить по профессору!.. Помощь пришла со стороны фирмы «Артифишиал интеллидженс», которая сконструировала и изготовила электронное устройство, названное УСОРЕЗ - Универсальный СОставитель и РЕшатель Задач. Пользуясь введенными в нее сведениями из любого раздела математики, эта машина могла самостоятельно формулировать практически неограниченное число разнообразных задач, сообщая также результат их решения, а при необходимости - и то, как он получен. Профессору оставалось лишь произвести среди них отбор новых и наиболее интересных и предложить их студентам. Сначала все шло хорошо. «Электронный задачник» справлялся с работой, и все были довольны. Но по мере того, как автомат набирался опыта, профессор стал замечать, что некоторые объяснения выглядят довольно сомнительными, а иногда и просто бессмысленными. Когда профессор указал ему на это (общение с машиной могло осуществляться на вполне нормальном человеческом языке, хотя и несколько ограниченном по словарному запасу), машина в первый раз выразила непонимание. Последовала долгая и довольно напряженная дискуссия, результат которой оказался неожиданным. Робот отказался подчиниться человеку. Более того, он сообщил (точнее, доказал в виде теоремы), что вложенные в него принципы максимальной эффективности работы требуют замены помощника (так он назвал профессора!) устройством, которое было бы более способно к восприятию вырабатываемой информации, в сущности элементарной. То есть - помощнику надо знать математику не хуже, чем знает он, УСОРЕЗ... Поскольку профессор носил усы, среди студентов распространились недвусмысленные шутки. Профессор Мэйзи Метикс подал два заявления: одно - об отставке, другое - в суд. Не на УСОРЕЗ, естественно, а на изготовившую его компанию. Компания «Артифишиал интеллидженс» иск отвергла на том основании, что не брала на себя обязательств поставлять «вежливые машины». Однако при расследовании выяснилось, что случай не был единичным. Нечто похожее происходило и в других учебных заведениях, институтах, фирмах, но попросту замалчивалось. В дело счел нужным вмешаться государственный обвинитель. По его настоянию была создана авторитетная комиссия для расследования обстоятельств дела об «искусственном интеллекте» и последствий, к которым может привести его создание.
4
* И. А. Полетаев. «Трудный период» кибернетики и американские роботы». Вступ. статья к сб. «Человеческие способности машин». М., «Советское радио», 1971.