— Откуда такой интерес к старому и возможно дефектному искину, который уже во второй раз прерывает связь с создателями? Не отвечай. Я сам отвечу. Этот ваш Хаттори — весьма специфический джентльмен. Не могу тут не скаламбурить — это по его глазам видно. И да, признаю, я немного завидую — от такой техники стоимостью в добрый десяток миллионов кредитов я бы не отказался. Он не раз публично озвучивал крайне интересные мысли касательно будущего ИИ. Многие называют его членом сообщества Сверхразума. Уверен, что ты слышала не меньше меня об этом клубе экстравагантных технократов, которые верят в возможность и необходимость создания могущественного искина, способного управлять практически всеми процессами на Земле. И хотя от этой истории попахивает конспирологией, чутьё мне подсказывает — есть большая доля правды в том, что пишут об этих ребятах в Сети.
Акеми продолжила молча внимать.
— «Лиам» интересует твоего босса, да и тебя тоже, едва ли не больше, чем весь проект в целом. И я понимаю вас. Ведь его поведение — это действительно нечто очень странное! В 2086-ом он внезапно перестал посылать сигналы на Землю, а в 2108-ом — возобновил передачи. В первом из полученных после большого перерыва пакете данных содержится довольно убедительное объяснение 22 лет молчания — столкновение с микрометеоритом, ремонт системы связи, и прочее, и прочее. Но после всего лишь трёх передач внезапно наступает новое молчание! Вот уже две передачи пропущено! Что стряслось на этот раз?! Мозг буквально кипит от обилия идей, одна невероятнее другой. Всё человечество в замешательстве. Наше руководство в замешательстве. Все требуют от нас ответа — что же происходит с чёртовым искином?! Мы днюем и ночуем в этом подвале, устраивая мозговые штурмы. И всё, что мы в итоге пишем в предварительном отчёте, который собираемся послать в правление — это то, что в «Лиаме», скорее всего, нет ничего особенного, и его молчание, вероятно, объясняется объективными техническими причинами, например — новой поломкой системы связи. И ты готова подписаться под этим отчётом?! Нет, серьёзно?!
— Может, ты наконец перейдешь от теорий заговоров и сумбурной критики моих действий к конкретным предложениям? Я внимательно слушаю, Нетраннер.
— В отчёте критически недооценивается вероятность того, что этот искин — взломан. Или хуже того — взбесился. Последний вариант кажется мне даже более вероятным. Алгоритмы, которые прописала Лианна, моя тётка, не похожи на алгоритмы любого из серийных образцов, которые создавались до или после. Они не похожи вообще ни на что, что я видел ранее.
Энди не любил разбрасываться громкими словами и редко выказывал удивление. Но в этой ситуации он считал это оправданным. Концепция «центров генерации решений» (DGC), которую изобрела и внедрила при проектировании своего детища Лианна, была и впрямь поразительна.
Эта концепция фактически заставляла искина делиться на самостоятельные единицы, подчиняющиеся различным предустановкам и имеющие разные приоритеты. Каждая такая единица, называемая «центром генерации решений» проводила собственные альтернативные вычисления и генерировала собственные альтернативные решения одних и тех же проблем. А затем — включался невероятно сложный оценочный процесс, в рамках которого из множества альтернативных решений выбиралось одно оптимальное.
Если бы Энди сказали подобрать максимально близкую аналогию этого процесса из мира людей, то он сказал бы, что это — дискуссия. Скорее даже — спор. Что-то вроде тех шумных дебатов, которые происходят в парламенте.
«В споре рождается истина» — гласит метод Сократа. И это правило работает во множестве сфер человеческого быта. Но оцифровать его и перенести в мир искусственного интеллекта — о такую задачку уже обламывали зубы многие амбициозные программисты. Законы, по которым та или иная сторона одерживала верх в дискуссии, были во многом непонятны и слишком сложны, чтобы перевести их на язык программирования.
Лианна совершила воистину гениальную попытку сделать это. И, возможно, преуспела. Но в результате она получила невероятно сложный алгоритм, который способен был срабатывать крайне непредсказуемо для людей. Если добавить к этому, что созданному ею искину оставили широчайшие возможности для пересмотра собственных алгоритмов, самообучения и самосовершенствования — становится ясно, что Лианна нарушила целый ряд писаных и неписаных табу, принятых среди создателей искинов. Любая современная система контроля качества и безопасности ИИ, которой предоставляли для анализа фрагменты алгоритмов, созданных Лианной, сразу же выдавала множество критических предупреждений. «Надо же, а ведь папа до сих пор считает сестру невинной тихоней!» — ехидно подумал Энди.
— И не говори, что ты с этим не согласна, — продолжил он. — Я знаю, что ты знаешь, что этот искин — удивительная штука. Вопрос только в том, почему ты не желаешь в полной мере отобразить это в отчёте?
— Нетраннер, — проникновенно молвила в ответ Акеми, устремив на него строгий взгляд. — Я предлагаю тебе ещё раз перечитать этот отчёт.
— У меня отличная память. Мне хватает одного прочтения, чтобы уловить все важные детали, — со своим обычным самодовольством ответил Энди.
— И всё же ты, кажется, не заметил, что в его заголовке есть слово — «предварительный». Дальше в нём содержится целый ряд дисклеймеров. Они говорят о том, что авторы отчёта не владеют достаточной информацией для анализа, и их предварительные выводы о наиболее вероятной причине происходящего могут оказаться неверными. Ещё дальше — рассматривается целый ряд альтернативных объяснений происходящего. Одно из таких объяснений — это как раз и есть серьёзные сбои в работе ИИ. Там говорится: не исключено, что «Лиам» может функционировать некорректно. Чётко написано: не исключено, что при контакте искин не будет адекватно реагировать на получаемые команды, и может понадобиться его принудительная перезагрузка.
— Ну да, что-то такое там есть мелким шрифтом, — нехотя согласился Энди.
— Что бы ещё ты хотел туда добавить? Или просто увеличить шрифт?
— Поскольку мы не уверены в адекватности поведения «Лиама» — то не можем быть уверены и в достоверности полученных от него данных. Не исключено, что сказочная, полная жизни Земля-2, которой всё человечество уже два месяца восторгается, и к которой мы хотим начать отправлять новые экспедиции — не более, чем плод нездоровых фантазий спятившего искина. А на самом деле — в системе Тау Кита с таким же успехом может находиться очередная безжизненная клоака, похожая на Венеру. Вот что, по-моему, туда стоит добавить.
С интересом посмотрев на него, Акеми спросила:
— Ты правда считаешь, что искин способен был сгенерировать с нуля такой массив данных? Самостоятельно смоделировать абсолютно правдоподобные, выдержавшие всестороннюю критику на протяжении двух месяцев, всеобъемлющие данные о целой планете, со всеми её физическими и химическими свойствами? Смоделировать реалистичные данные о целой биосфере — миллионах неизвестных доселе живых организмов, включая фрагменты их генетических кодов, на основании которых некоторые уже удалось воссоздать в лабораторных условиях? Это выходит далеко за рамки нынешних технологических возможностей человечества. Нечто подобное пока ещё удалось проделать лишь один раз — миллиардам лет эволюции, или, если угодно — Всевышнему.
Энди пожал плечами.
— А мы можем быть уверены, как далеко простираются границы возможностей искина? Синтетический разум, основанный на квантовых компьютерах, который питается от вечного аннигиляционного двигателя — чем это не аналог того самого Всевышнего?
Акеми посмотрел на Энди с ещё большим интересом.
— И какие чувства вызывает у тебя такая мысль? — спросила она.
Несмотря на совсем юные годы, Аоки-сан была требовательным и жестким руководителем. Она обращалась с членами команды как с расходным материалом. И она никогда раньше не спрашивала никого о чувствах. Но Энди, увлеченный своими рассуждениями, не заметил этого отклонения от её привычного поведения.