Андерсону было нелегко сдержать удивления. Одной из немногих вещей, запрещенных Конвенциями Цитадели, были как раз исследования, относящиеся к сфере искусственного интеллекта. Создание искусственной жизни, неважно клонированием или синтезированием, считалось преступлением против всей галактики.
Эксперты почти всех рас пришли к выводу, что настоящий искусственный интеллект, такой как, например, синтетическая нейронная сеть, способная к критическому анализу и накоплению знаний, начнет расти в геометрической прогрессии, как только получит способность к обучению. Она будет самообразовываться и очень быстро превзойдет своих органических создателей и выйдет из-под их контроля. Каждая раса в галактике в своей повседневной жизни, в торговле, перевозке грузов или для обороны использовала компьютеры, объединенные в обширную сеть – экстранет. Если бы доступ к этим сетям смогла бы получить вышедшая из-под контроля программа ИИ, то последствия были бы поистине катастрофическими.
Традиционная теория утверждала, что в случае такого развития событий, конец света был не просто возможен. Он был бы неизбежен. По утверждению Совета, появление искусственного интеллекта было единственной угрозой органической жизни в галактике. И в поддержку их позиции существовало одно доказательство.
Триста лет назад, задолго до появления человечества на галактической арене, раса кворианцев создала вид искусственных помощников, которые должны были служить в качестве грубой рабочей силы. Гефы, как их называли, не обладали в полной мере искусственным интеллектом – их нейронные сети были созданы с большим количеством запретов и самоограничений. Несмотря на все меры предосторожности, гефы, все же, взбунтовались против своих хозяев-кворианцев, тем самым подтвердив самые страшные опасения.
У кворианцев не было ни сил, ни средств, чтобы противостоять своим бывшим помощникам. В ходе короткой беспощадной войны их раса была почти полностью уничтожена. Лишь пара миллионов, немногим более одного процента от общей численности их населения, смогли избежать ужасной судьбы. Они бежали с родной планеты на космических кораблях, навеки превратившись в изгнанников.
По окончании войны, гефы стали жить полностью изолированным обществом. Прекратив все сношения с органическими расами галактики, они расширили границы своей территории вглубь неисследованного района позади обширной галактической туманности, называемой Вуалью Персея. Любые попытки наладить дипломатические отношения с гефами оканчивались неудачей: они атаковали и уничтожали корабли послов, как только те входили в контролируемую ими область.
Корабли всех рас, населяющих пространство Цитадели, собрались на границах Вуали – Совет готовился к массированному вторжению гефов. Но ничего не произошло. В конце концов, флот постепенно покинул регион, и сейчас, спустя несколько столетий после изгнания кворианцев, там остаются только патрульные суда на случай внезапного нападения гефов.
Однако печальный опыт кворианцев не был забыт. Они потеряли все, что имели, пали жертвами собственных созданий. Но, что важнее всего, гефы фактически не являлись настоящим ИИ.
– У вас такое выражение, лейтенант, будто вы хотите что-то сказать.
Андерсон изо всех сил старался не выдать своих чувств, однако посол видела гораздо глубже внешних эмоциональных проявлений. Не случайно же она была самым влиятельным политиком Альянса.
– Прошу прощения, мэм. Я просто удивлен тем, что мы занимаемся исследованиями в области ИИ. Мне это кажется довольно опасным.
– Мы полностью осознаем опасность, – заверила его посол. – Мы никогда не планировали создать полнофункциональный ИИ. Цели данного проекта были четко определены – они занимались созданием модели ограниченного ИИ для изучения и наблюдения.
– Человечество находится на отстающих позициях, – продолжила она. – Мы расширяем зону своего влияния, но у нас все еще недостаточно людей и технических средств, чтобы на равных конкурировать с основными расами, входящими в Совет. Нам нужно некое преимущество. Проникновение в тайны технологий ИИ даст нам шанс бороться и выжить.
– Вы, как никто другой, должны понимать, – добавил капитан, – что без элементарных ИИ-технологий мы бы уже давно жили под властью турианцев.
Это было правдой. Военная стратегия Альянса целиком полагалась на программы боевых симуляторов. Просчитывая миллионы различных вариантов в секунду, эти программы анализировали огромные объемы данных и выдавали верные советы по ведению боевых действий командирам кораблей Альянса. Без боевых симуляторов у человечества не было ни малейшего шанса выстоять против превосходящего по численности и вооружению флота турианцев в ходе Войны Первого Контакта.
– Я понимаю ваше беспокойство, – сказала посол Гойл, вероятно почувствовав, что Андерсон еще не полностью поверил в сказанное, – но база на Сайдоне действовала под строжайшим надзором. Руководитель проекта, доктор Шу Чиань, был ведущим специалистом галактики по исследованиям в области искусственного интеллекта. Он лично следил за каждой стадией реализации проекта. Чиань даже настоял на том, чтобы нейронные сети, созданные в рамках модели ИИ, были полностью замкнутыми. Все поступившие данные полностью контролировались оператором. Затем они вручную вводились в отдельную систему, чтобы удостовериться в отсутствии пересечения с нейронной сетью. Что бы ни произошло, у модели ИИ не было ни единого шанса выйти за пределы исследовательской станции. Были прияты все меры, чтобы предупредить любые возможные аварии и непредвиденные обстоятельства.