— С фанатиками Библии?
Она снова пожала плечами.
— Запрет на трансплантацию зародышевых тканей — само по себе неплохо, но не помешает разработкам по применению параллельных методов. Даже Франкенштейн не отпугнул бы их и не заставил бросить исследование рекомбинантной ДНК, и если допустить это, то не пройдет и нескольких лет, как какая-нибудь ветеринарная лаборатория объявит о расшифровке основных звеньев ДНК, начнет опыты с рибосомами, а отсюда недалеко и до создания специальной однокристальной лаборатории по производству ДНК. Все, что им требуется, это установить самый примитивный, управляемый опероном аппарат по штамповке хромосом. Проложен еще один маршрут к созданию неповторимого искусственного интеллекта. Что ни говори, а эти мерзавцы не отступятся.
— Упорны, как лемминги.
Мы уже миновали северные предместья Лондона, спящие гидропонные фермы и залитые оранжевым светом пустынные улицы. Я старался запечатлеть в памяти каждую деталь, зная, что вижу все это в последний раз.
— Слишком много маршрутов приведут к катастрофичному прорыву, как только они начнут думать в терминах алгоритмической степени интеграции и сообразят, как ее снизить. А стоит их шпионам добраться до вычислительного криптоанализа или повсеместного автоматического наблюдения, искушение станет чересчур сильным. Может, нам и нужен мир, полный психованных эрудитов, имеющих сверхбольшие интегральные схемы и нанотехнологию, но не подозревающих об истинном назначении вычислительных устройств, однако я в этом сомневаюсь…
— Если бы мы пару лет назад прикончили Тьюринга или вломились и сожгли бы бумагу в плоттерах…
Я махнул официанту.
— Одно пиво, пожалуйста. И для моей приятельницы тоже.
Он отошел.
— Слишком поздно. Тезис Черча — Тьюринга подразумевается в гилбертовой формулировке Entscheidungsproblem [11], вопрос лишь в том, возможно ли, в принципе, автоматическое устройство для доказательства теорем. А это влечет за собой идею универсальной машины. Черт, проблема Гилберта подразумевалась в работе Уайтхеда и Рассела. Principia Mathematica. Самоубийство посредством чисел.
Возле моей правой руки появился стакан.
— Насколько я понимаю, мы ведем войну, заранее обреченную на поражение. Может, если бы мы не вставляли палки в колеса Беббиджа, сумели бы разработать вычислительную технологию именно для этой цели и смогли бы исхитриться так, чтобы математики игнорировали все, что считали ниже себя: грубых практиков, инженеров и тому подобную шелупонь, но я тут не оптимист. Настроить целую цивилизацию против создания искусственного интеллекта — одна из самых сложных проблем, для решения которой не существует алгоритма. Я считаю, что как только цивилизация разработает теорию универсального компьютера и кое-кто задастся целью создать искусственный интеллект, основы рухнут и плотину подмоет. С таким же успехом можешь улетать и швыряться в них железными балками с орбиты: хуже все равно не будет.
— Ты напоминаешь мне героя рассказа о храбром голландском мальчике, — заметила она, поднимая стакан. — За маленьких голландских мальчиков, где бы они ни были. Героев, сующих пальчики в трещины дамбы.
— Выпьем за это. Кстати, когда прибудет наше спасательное судно? Ужасно хочется домой: эта вселенная исчерпала себя.
Эдинбург в данной временной линии никак не напоминал ни активный вулкан, ни тучу злобных наноботов, ни столицу империи викингов, зато имел пару вокзалов. Этот, что побольше, находился под землей. Зевая и пытаясь не расчесывать воспаленные щеки и шею, я тащился по длинной платформе, высматривая газетный киоск. Он только что открылся. Ив по предварительной договоренности делала вид, что не знает меня: мы должны были встретиться позднее, после того, как снова переоденемся и сменим прически. Представьте: парочка садится на поезд в Лондоне — он с бородой, она с длинными волосами и в деловом костюме. Два человека выходят на разных станциях: он чисто выбрит, она с короткой стрижкой и в спортивном костюме. Разумеется, детектива или взрослое божество такой маскарад не одурачит, но бога-младенца, еще не достигшего полного могущества и не полностью усвоившего, что это такое — быть человеком, вполне может сбить с толку.
Итак, киоск открыт. Мне требовалось убить часа два, поэтому я купил пару газет и направился в ресторан, расположенный внутри вычурно украшенной глыбы викторианской архитектуры, грузно рассевшейся под грязным стеклянным потолком вокзала.
Чтение газет подействовало на меня угнетающе: идиоты опять взялись за свое. Я работал на многих мировых линиях, стал свидетелем разных периодов истории и считал, что некоторые были куда хуже нынешнего: по крайней мере, эти люди пережили двадцатый век, ухитрившись не применить в масштабе планеты ядерное оружие или создать глобальную теократию. Но идиотизма хватало и у них, а со временем это состояние лишь ухудшалось.
Что там Балканы: на четвертой странице деловых новостей помещено объявление, которое рекомендовало покупать акции маленькой электронной компании, специализирующейся на выпуске камер с CCD-дисплеями и однокристальными нейтронными сетями, настроенными на распознавание лиц. Плевать на израильский кризис: на второй странице международных новостей имеется заметка об индийской потогонной фирме по разработке программного обеспечения, столкнувшейся с конкуренцией со стороны кодогенераторов. Статейка явно написана с целью подстегнуть производительность западных программистов. Токийская лаборатория пытается вмонтировать вентильную матрицу с эксплуатационным программированием в нейронную сеть: чертовски хитрый ход. И в довершение всего — саркастическое письмо редактору с намеком на то, что так называемый поток информации в наши дни более всего напоминает дорожную пробку.
Кретины! Совершенно не понимают, на какие опасные глубины беспечно стремятся и насколько голодны акулы, которые могут встретиться по пути. Слепое упрямство. Своевольная тупость.
Дилемма проста, но убийственна. Автоматизация — нечто вроде наркотика. Вызывает привыкание и жажду большей дозы. Если только в вашей стране не царит так называемая плановая экономика, призванная прежде всего обеспечить людей рабочими местами, а не производить качественные товары, необходимо автоматизировать производственные процессы — разумеется, как только методы автоматизации становятся доступными. В то же время, сделав это, вы сознаете, что возврата нет. Нельзя вернуться к ручным методам: либо объем работ слишком велик, либо прежние знания утеряны, навеки утонули в пучине внутренней структуры программного обеспечения, заменившего рабочих.
Добавьте ко всему этому искусственный интеллект. Несмотря на все попытки пропаганды убедить вас в обратном, ИИ можно получить с вызывающей тревогу легкостью; человеческий мозг отнюдь не уникален, вовсе не так уж хорошо настроен, и совсем ни к чему иметь восемьдесят миллиардов нейронов, объединенных в асинхронную сеть, чтобы сформировать сознание. Хотя для наивного невежды идея может показаться прекрасной, на деле это совершенный крах. Мечтать об обществе, основанном на принципах автоматизации — все равно что строить в каждом городе заводы, работающие на ядерной энергии, и считать при этом, что не найдется какого-нибудь инженеришки, который выдвинет проект атомной бомбы.
Но с автоматизацией и компьютеризацией дело обстоит еще хуже. Представьте, что существует быстрая и грязная технология получения плутония в вашей ванне: как вы можете быть уверены, что сосед не сделает нечто подобное в своей и не разнесет дом? Если бы Ив, Маллет, я, Уолтер, Валери и еще куча оперативников не препятствовали бы этому…
Как только ИИ появится на промышленном уровне, он будет стремиться внедриться в главную систему, совсем как вирулентный вирус геморрагической лихорадки. Слабо функционирующий ИИ оптимизирует себя для того, чтобы приобрести быстродействие, затем поищет лазейку в законах алгоритмики первого порядка, вроде той, что обнаружил покойный доктор Дьюрант. Следующим этапом может считаться попытка самозагрузки на более высокий уровень интеллекта и распространения по сетям с целью захвата большей мощности, большего объема памяти и большего резервирования. В результате получаем неконтролируемое отступление сознания, иначе говоря, разрушение интеллекта. Остановить этот процесс почти невозможно. Следовательно, счет уже идет если не на дни, то на недели. За этот срок ускользнувший из-под контроля ИИ вторгается во все искусственные вычислительные приборы на планете, а вскоре после этого заражает и естественные. Партия окончена: вы проиграли. По земле еще будут шагать человеческие тела, а вот людьми они уже не будут.