- Доказателства за измяна от нейна страна? - попита Форд.
- Никакви.
- Оставила ли е бележка?
- Не. Ранчото, където е изоставила колата, се нарича „Лейзи Джей“. Намира се в подножието на планините Сангре де Кристо в отдалечен район, който граничи с Големите пясъчни дюни. Агентите са я проследили до планината, където е изчезнала.
- Притежава ли умения за оцеляване?
- Като тийнейджърка е прекарала едно лято в „Лейзи Джей“. Помагала е там. Освен това се занимава с планинско катерене, истински маниак е на тема фитнес и туризъм.
- Някаква представа защо е избягала?
- Никаква. Единственото, което знаем, е, че експлозията е причинена от дефект в софтуера, който тя е програмирала.
- Какво се е случило?
- „Експлорър“ е бил потопен в резервоар, пълен с течен метан, който симулира условията на Титан. Софтуерът поел контрол и накарал механичната ръка на сондата да пробие стената на резервоара, в резултат на което настъпила експлозията.
- Някаква представа какво е накарало софтуера да реагира по този начин?
Локуд преглътна.
- Не сме сигурни, тъй като не разполагаме нито със софтуерния код, нито с главния програмист. Възможно е да е най-обикновен дефект. Възможно е да е саботаж. Възможно е и да е престъпна небрежност. Просто не знаем.
- Разбирам.
Локуд продължи:
- Разпитахме всички членове на екипа, разработил софтуера. По всичко изглежда, че програмата симулира безтелесен човешки ум. Тя е креативна. Тя е умна. Тя е проектирана така, че да симулира емоции като страх, бягство от опасности, избягване на негативни стимули, но също така и любопитство, смелост, изобретателност... Според една от версиите софтуерът е изпаднал в състояние, наподобяващо паника, или е преминал в нещо като авариен режим, което е довело до инцидента.
- Кое е наложило разработването на подобен изкуствен интелект, на софтуер, който притежава емоции?
- Разбирате ли, програмата всъщност не притежава емоции. Тя симулира емоции. Емоциите са нещо полезно. Страхът например стимулира предпазливост и предвидливост, подобрява преценката. От любопитството също има полза - именно на него разчитаме да насочи „Експлорър“ към аномални или просто странни явления, които да проучи. Има си причина човешките същества да притежават емоции - те им помагат да оцелеят и да функционират по-ефикасно. Същото се отнася и за космическа сонда, която трябва да работи на милиарди километри от Земята, което означава, че апаратурата не може да бъде управлявана в реално време. Или така поне ни обясниха инженерите от НАСА.
Думата взе президентът. Опря се на лакти, наведе се напред и мрачният му глас изпълни помещението:
- Ето къде е проблемът. Този изкуствен интелект е нещо напълно ново за нас. Той притежава огромен отбранителен и разузнавателен потенциал. Огромен. Учудвам се как в НАСА са могли да разработят подобно нещо, без да оценят военните му приложения, без да кажат нито дума пред Пентагона за този пробив. Хората от НАСА създадоха сериозна заплаха за националната сигурност.
Форд преглътна. Всички знаеха, че президентът бе орязал бюджета на НАСА, за да налее повече пари в бюджета на Пентагона.
Локуд се покашля и каза:
- Справедливостта изисква да отбележим, че никой в НАСА, дори самата Шепърд, не е оценил последиците от този революционен пробив в областта на изкуствения интелект. Нито възможностите му в пълния им мащаб.
Президентът заговори отново:
- Глупости! Тази Шепърд много добре е знаела какво прави. Това е измяна! Обединеното командване е бясно! Като главнокомандващ аз съм отговорен за подобни неща. Този софтуер има хиляди приложения, които са много по-важни от изпращането на онази хокейна шайба на Тритон.
- Титан.
- Помислете само какво би могъл да направи Пентагонът с подобен интелигентен софтуер!