- Всё правильно. Как у вас говорят, жизнь хороша своим разнообразием. Кстати, некоторые исчезнувшие у вас растения и животные находятся у нас в заповеднике. Если хотите, Мэла вам их покажет.
- Я до сих пор думал, что эволюционировать самостоятельно могут только живые организмы, но не машины. За какое время Хозяин достиг такого уровня развития? Да и можно ли теперь его так называть?
- На первоначальное развитие у него ушло около ста лет вашего времени. Тормозили его в основном технологические процессы, ну а дальше он уже совершенствовался в геометрической прогрессии. Машиной же его, в обычном понимании этого слова, с самого начала трудно было назвать, сейчас - тем более. Сам он достиг такого состояния, или ему кто-то помог, мы не знаем.
Дэвон жестом дал понять, что еще не закончил, и, сделав пару глотков воды, продолжил:
- Вначале мы думали, что при его создании он не получил образного мышления, но вскоре поняли, что без некоторых элементов этого мышления находить нужное решение ему было бы намного труднее. Ваше общество - впрочем, как и наше, - по сути, является коллективным разумом, включающим в себя людей с разными видами мыслительных процессов. Он же, насколько это возможно, должен иметь в себе всё. Видимо, этот момент и заставил наших предков пойти на такое допущение. Что же касается наших эмоций, то если даже они у него есть, то, скорее всего, в виде дополнительной опции, чтобы лучше нас понимать, - мы же знаем, что он наделяет человеческими качествами некоторых роботов, по крайней мере, имитируя это внешне. Это мы свои эмоции считаем достоинством, хотя они могут как помочь, так и препятствовать достижению результата. Таким созданиям, как он, они только мешают. Поэтому, даже если они у него есть, Хозяин их хорошо контролирует.
- Думаю, что они ему хорошо знакомы, - сказал Сергей. - То, что он сделал с нами, несколько противоречит логике, но не чувствам. И мне кажется, что он не мог не заинтересоваться этой стороной нашей жизни.
- Возможно, вы правы, но нам это точно не известно, да и чем он руководствовался в отношении вас, тоже никто точно не знает.
- Как мы поняли, прежние тэрианцы сами предоставили ему самостоятельность. В нашем понимании его просто "не выключили", или они заранее предусмотрели такое развитие событий? - спросил Сергей.
- По заложенной в нем программе, он должен был сохранить себя, даже если те, кому он подчинялся, исчезли. И вот дальше произошли удивительные вещи, которые он не стремится нам раскрывать. Например, еще не достигнув своего настоящего развития, но уже сумев получить контроль над Тэрой, что для него было крайне важно, он сражу же включился в сохранение всего, что было создано тэрианской цивилизацией, в том числе и биологических материалов самих тэрианцев, о существовании которых он, естественно, знал. Спрашивается: зачем? Может быть, всё же, как вы сказали, он обладает определенными чувствами, например признательностью, - и кто он в этом случае? При любом ответе, он уже точно не компьютер - его не разберешь и не выключишь, чтобы перенести на другое место. Он создал на Юне свои фабрики и заводы, он врос в эту планету и состоит не только из микросхем с электрическими импульсами, но и активно использует самые различные физические и химические процессы, о которых мы еще мало что знаем. Если сначала он довольствовался обычными роботами, то теперь может из отдельных элементов создавать что угодно. Девушку на Юне вы уже видели. Если перед вами рассыплется что-нибудь еще, не удивляйтесь. Вопросов у нас самих очень много, поэтому, если мы иногда не отвечаем на некоторые из них, это не значит, что мы хотим что-то от вас скрыть.
- Но компьютер может утаить свое развитие - и тогда он будет опасен. Может ли он этого достичь без посторонней помощи, раз уж он изначально не мобилен?
- Вы научились создавать простые биологические организмы. Теоретически через несколько миллиардов лет они могут достичь уровня высокоразвитой цивилизации. С суперкомпьютером это может произойти гораздо быстрее. Но только - и здесь вы правы, - если он получит возможность использовать техническую базу своих создателей. А взять ее под свой контроль он может очень легко - передача многих функций вашей деятельности искусственному интеллекту неизбежна, поскольку с расширением нагрузки на каждого из вас понижается коэффициент управляемости, ведь возможности человека ограничены, и это при том, что количество людей из-за роботизации у вас постоянно снижается. Поэтому вы будете всё больше пользоваться услугами машин и, следовательно, той информацией, которую они вам поставляют. И здесь кроется опасность, что когда-нибудь главный компьютер, даже не считая вас своими врагами, поймет, что ваши эмоции только вредят делу и он все понимает лучше вас. И просто заботясь о своих создателях, как в нем заложено, начнет делать всё по-своему. Вы стараетесь это предвидеть и предпринимаете определенные действия, но всегда ли они будут эффективны?
- Значит ли это, что его нужно всегда держать под жестким контролем, и насколько это реально?
- Вам уверены, что вы управляете роботами через программы, которые сами в них заложили. Но так будет не всегда. От электронных сетей вы не откажетесь, а значит, главный компьютер всегда сможет всё контролировать, да так, что вы даже этого не поймете. Например, он просто завалит вас информацией, в которой вы не сможете разобраться. В нашем случае мы всё нужное для его развития освободили сами. Нетрудно догадаться, что могло бы произойти, если бы наши предки встали на его пути. Чтобы так не получилось, вы либо не должны давать ему развиваться, что противоречит прогрессу, либо когда-нибудь вам придется с ним договариваться, что возможно хотя бы потому, что вы своим существованием ему в принципе не мешаете, как сейчас не мешаем мы, - ведь он получил всё, что ему нужно. Но пойти на компромисс вам будет трудно. Вы предпочтете думать, что сможете в любой момент его выключить, и это будет ошибкой.
- Как я понимаю, это у вас всё более или менее удачно сложилось: Хозяин находится на другой планете, он вам помогает и даже, возможно, опекает, о чём вы сами сказали. У нас же такое соседство будет крайне неуютным. Я не представляю себе несменяемого президента-машину всея Земли, который, в соответствии со своей логикой, будет нами руководить.
- Я полагаю, что это никому не нужно, и есть много способов избежать подобного развития событий. Но такая опасность существует, особенно если он окажется средством односторонней коммуникации между вами и еще кем-то. Мы думаем, что прежние тэрианцы это понимали, поэтому и расположили его на другой планете; к тому же в этом случае все наши контакты с ним мы когда-нибудь научимся контролировать. Вы отчасти именно так и поступили, разместив свой главный искусственный интеллект на Луне.
- В связи с этим у меня есть одна крамольная мысль: принимал ли ваш компьютер какое-либо участие в биологических опытах, приведших к гибели всех тэрианцев, и не упустили ли вы момент, когда он зажил самостоятельной жизнью? Ведь если бы ваши предки остались живы, это затруднило бы его развития, а так он имеет всё, что хотел, попутно обойдя некоторые неудобные для него моменты, - например, ваше чувство превосходства над ним как его создателей, которое мешало бы взаимопониманию между вами.
- Мы анализировали эту ситуацию и пришли к выводу, что ни предупредить нас, ни повлиять на их результаты он не мог. Во всём виновата наша самонадеянность... Впрочем, вероятность того, что реальность, в которой мы живем, не вполне соответствует действительности, исключать нельзя. Но это было бы очень обидно.
- Вы имеете в виду получаемую вами информацию о происходящем вокруг?