— Прискорбные инциденты? Неудачное целеполагание? Я, наверное, ослышался! — вспылил генерал. — Из-за зеркальной сети и беспорядков, вызванных ею, погибло больше людей, чем в битве при Иводзиме![49]
— Генерал прав. Пожалуйста, обратите внимание на то, какие слова вы выбираете, Крис! — упрекнул министр своего сотрудника.
— Прошу прощения, сэр. Но это ничего не меняет по сути. Зеркальная сеть прекрасно выполняла свою задачу, защищая интересы своих пользователей, и очень преуспела в этом. Она организовала отдельных митингующих так, что, пока они находились под ее контролем, все контрмеры полицейских сил оказывались неэффективными. Я также хочу заметить, что гораздо больше было жертв от беспорядков, а не от враждебности зеркальной сети. Я не хочу принизить страдания жертв, но система сделала именно то, что сделал бы любой хороший генерал в этой ситуации: она оптимально использовала свои собственные ресурсы, чтобы нанести вред противнику.
— Хватит! Зеркальная сеть обманула персональных пользователей, когда вычислила, что их благо станет невыгодным для всего сообщества. Предать своих людей, как только станет понятно, что это полезно для общего успеха миссии, — любой генерал, совершивший подобное, сразу же утратил бы доверие своих подчиненных и предстал бы перед военным трибуналом.
— Тут я должен вам возразить, генерал, — вмешался один из советников, пожилой мужчина с прилизанными волосами и безукоризненно завязанным галстуком. — Неоднократно случалось, что отдельные части войск или даже целые армии приносились в жертву, чтобы решить исход битвы или всей войны.
— Да, случалось. Но одно дело, когда у тебя просто нет другого выхода, — ответил генерал, которому сейчас стоило больших усилий сдержаться. — Совсем другое — принять подобное решение из холодного расчета. Это просто аморально!
— Возможно, именно по этой причине и нужен "Смарт-солдат", — хладнокровно возразил советник. — Чтобы предотвратить такие ситуации, когда люди гибнут, поскольку необходимые стратегические решения не принимаются исходя из моральных соображений.
— С этим я согласен, — сказал молодой человек из министерства. — Система может гарантировать, что наши военные цели будут достигнуты с минимальными потерями людей и ресурсов.
— Всем нам должно быть ясно, что это всего лишь вопрос времени: наши враги обязательно разработают сопоставимую или даже лучшую систему и используют ее против нас, — вновь взял слово министр. — В настоящее время у нас есть преимущество, но со стремительным развитием вычислительной техники оно может быстро растаять. Китайцы работают с подобными системами, и мне, наверное, не нужно указывать на то, что они превосходят нас по численности войск.
Генерал с вызовом посмотрел на оппонента. Остальные участники совещания либо одобрительно кивали, либо смущенно уткнулись в свои планшеты.
— Вижу, что не могу вас переубедить, — генерал поморщился. — Но я не приму этого решения. Я не собираюсь предстать перед своими офицерами и объявить им, что с этого момента Зеркало с новым названием берет на себя командование и диктует свои правила стратегии. В случае если будет принято решение задействовать систему, я прошу освободить меня от обязанностей начальника Генерального штаба.
— Пожалуйста, успокойтесь, Чарли! — воскликнул министр. — Никто не хочет вашей отставки. И здесь речь не идет о том, будет ли вся армия оснащена системами "Смарт-солдат" или нет. Сначала мы проведем проверку в спецподразделениях. Именно деятельность небольших элитных отрядов в горячих точках может быть оптимально поддержана системой "Смарт-солдат".
Фраза звучала как заученная наизусть выдержка из глянцевой брошюры, что только подтверждало догадку генерала: министр давно уже принял решение.
Генерал еще раз набрал воздуха в грудь, потом произнес фразу, как он понимал, последнюю во всей его долгой военной карьере.
— Я настаиваю, что, пока я занимаю свой пост, никто из подчиненных, за которых я несу ответственность, не будет оснащен системой "Смарт-солдат".
Повисло напряженное молчание. Министр наконец кивнул.
— Ну хорошо, мы это обсудим позже. Давайте перейдем к голосованию прямо сейчас. Кто за то, чтобы "Смарт-солдат" поступил в вооруженные силы и прошел испытания в тестовом режиме?
Почти все руки поднялись.
— Тогда этот вопрос можно считать решенным, — сказал министр и удовлетворенно улыбнулся.
Послесловие
Летом 2015 года у меня возникла идея написать переработанную версию романа "Система". С той поры как был написан набросок моего первого произведения, прошло больше десяти лет и окружающие реалии здорово изменились.
Сегодня смартфоны — наши постоянные спутники. Они помогают нам делать покупки, производить безналичную оплату. С их помощью мы делимся событиями своей жизни с друзьями, знакомыми и незнакомыми людьми. Дружелюбные голосовые помощники всегда ответят на наши вопросы и с готовностью сообщат, что на таком-то шоссе образовалась пробка и нам понадобится учесть время, которое потребуется, чтобы успеть на запланированную встречу. Мы знаем, что одновременно в фоновом режиме собирается гигантский объем данных о нас. "Фейсбук", "Гугл" и "Амазон" используют эти данные, чтобы максимально подстроиться под нас, под наши потребности. И хотя возможность злоупотребления нашей личной информацией вызывает смутную тревогу, мы почти не сопротивляемся ее сбору, потому что соблазн обретения дополнительного комфорта слишком соблазнителен.
Многие из нас вряд ли задумываются, какой невероятной вычислительной мощностью обладают современные мобильные устройства. Производительность смартфона нового поколения в 2015 году, измеренная в количестве вычислительных операций в секунду, примерно равна производительности самого быстрого компьютера в мире в 1996-м. Большинство из нас сегодня постоянно таскают с собой суперкомпьютер, которому двадцать лет назад могли бы только позавидовать университеты, военные исследовательские центры и спецслужбы. Тем не менее это устройство в нашем кармане — только верхушка айсберга.
Фактическая вычислительная мощность такова, что она позволяет использовать для предоставления полезных мобильных услуг серверы компаний, эти услуги предлагающих. Несколько миллионов компьютеров надежно и незаметно обслуживают нас в центрах обработки данных поисковых систем, социальных сетей, интернет-магазинов и других бесчисленных поставщиков услуг. Никто не знает, насколько велика их комбинированная производительность, но, по моей личной оценке, общая вычислительная мощность, доступная сегодня, превосходит общую вычислительную мощность 2005 года по крайней мере в сотни тысяч раз. И завершения роста не предвидится: мы уже говорим об "интернете вещей" и "индустрии 4.0". Это означает, что в ближайшем будущем общение между машинами по своему масштабу и интенсивности превзойдет во много раз общение между людьми.
Роман "Система" повествует о вышедшем из-под контроля искусственном интеллекте. В 2005 году этот термин все еще относился к области научной фантастики. Правда, еще в 1996 году компьютер обыграл действующего чемпиона мира по шахматам, но при этом ни одну из систем, имевшихся тогда в наличии, нельзя было назвать разумной. Хоть я и получил докторскую степень, занимаясь именно искусственным интеллектом, я очень смутно представлял себе, как должна работать "система" в моем романе. Как писатель, я мог позволить себе просто проигнорировать технические детали и заявить, что компьютерный вирус, распространившийся по интернету и имитирующий структуры нейросети, вдруг каким-то образом развил собственное сознание и собственный интеллект. Однако экспоненциальный рост производительности компьютеров и достижения в области разработки программного обеспечения в корне изменили ситуацию. В 2011 году компьютер Ай-би-эм "Уотсон" обыграл лучших игроков в шоу "Джепарди". Речь шла не об узко ограниченных математических задачах, а об общечеловеческих знаниях. Сегодня в наших смартфонах есть даже личные помощники, такие как "Сири" или "Кортана". Они не только способны понять человеческую речь, но и разумно интерпретируют наши утверждения, отвечая на многие наши вопросы. За несколько недель до того, как я закончил работу над этим романом, компьютерная программа, разработанная командой "Гугла", победила лучшего мирового игрока в го. А эту игру, между тем, компьютерам освоить гораздо сложнее, чем шахматы.
49
Битва за Иводзиму — сражение между войсками Японской империи и США за остров Иото (Иводзима) в Тихом океане, начавшееся 16 февраля и завершившееся 26 марта 1945 года победой США. Потери со стороны США: 6821 погибший, со стороны Японии: 20703 погибших и раненых.