Тут я вернулся к разговору с ВК-1020. Он не договорил по поводу всяких зеленых человечков, а сразу перешёл к критике чистого разума. А вывод из его речей был. То, что мы страдаем антропоморфизмом, и склонны приписывать всему человеческие черты, в том числе всяким эльфам - это факт, и от этого нужно уходить. И поедание человеков никак не может считаться каннибализмом. Они просто другие животные. ВК разделил понятия разумный и человекоподобный, вот в чем дело. Потом перешёл на человечество и недосказал мысль, что мы из одного ДНК-источника. Потом я на него обиделся и выключил. Кажется, поторопился. Надо будет потом его включить, при случае, и продолжить разговор, чисто для того, чтобы в случае выхода в новые миры не нарваться на неприятности. И вообще, зачем там семь секторов? Что такого они считали, дармоеды? Один ВК, как мне показалось, способен обрабатывать такие потоки информации, что нашим вычислительным центрам и не снились. В целях экономии электроэнергии пусть постоят выключенными. Но разговор-то, разговор начался про то, что где-то есть имперский линкор "Альбедо". Чёрт, как хочется его. Иррациональное, может быть, желание, но у нас где-то в крови страсть к большим летающим железкам.
Но это потом. Если он есть - то никуда от меня не денется. А если его нет, то и волноваться не стоит. Я теперь немного погордился сам собой, что, во-первых, совладал с ВК, а во-вторых, что до сих пор не нажал кнопку "Строительство города-Венеции имени Санкт-Петербурга". В связи со вновь открывшимися обстоятельствами проект Академгородка на островах требовал серьёзной корректировки. Тяжкое наследие колониального режима требовалось переосмыслить, и не допустить того развития событий, которое произошло у нас, на Земле. В том смысле, что когда-то колонизаторы, - империалистические грабители, безусловно, - понастроили в Африках разные дома и города и даже обогатительные фабрики. Потом всё бросили и ушли. Даже крах режима апартеида Южной Африке мне не мил. С тех пор "Африка грёз и действительности"[45] превратилась в вечно воюющий континент. Я, кстати, с самого раннего детства эту книжку любил читать, и всё не переставал удивляться, как на такой трахоме, как послевоенная Татра, можно было куролесить по всему миру. Больше всего меня пугали картинки из книжки "К охотникам за черепами", но это личное.
То, что имперская экспедиция и всё, что вокруг неё вращается - всего лишь передовой форпост потенциальной колонизации Харкадара - это факт, не требующий комментариев. Только почему-то процесс завис. В принципе я готов согласиться тезисом о том, что прогресс нужен, но не согласен с путями реализации. Примерно, как спор большевиков с меньшевиками. Нельзя на одних готовых решениях, таблицах с уже рассчитанными данными и готовыми технологическими картами, строить хоть сколько-нибудь устойчивую технологию. Ладно, колониалисты, они и в Империи колониалисты. Их не исправишь. Не хотели давать фундаментальные, системные знания, но, главное, никак это не обосновывали. Тупо запрещали новые разработки и всё. С этим я еще разберусь, а вот ВК номер семь из базы ВКС, в качестве вычислительной поддержки нарождающейся харкадарской науке, поставить в академию надо.
Мы донесли труп моего планшета до реанимации. Это вполне себе подходящий повод вытрясти из ВК хоть немного правды. После посещения - я теперь, для краткости "Место Встречи" базой ВКС называю - начал пугаться не только собственной тени, но и вычислителей примерно одного типа. Всё казалось мне, что они замышляют недоброе. Так что первым делом я начал искать что-нибудь напечатанное на бумаге, а то враньё, как я успел заметить, совершенно обыденная вещь в среде ВК, хотя должно быть совершенно наоборот.
Литературу я нашёл, в чьей-то, наверняка частной, но вполне приличной библиотеке. Вообще-то, я это должен был сделать ещё давным-давно, не шляться по степи, а вдумчиво изучить матчасть. Но пусть в меня кинет камень тот, кто никогда не ошибался. Пролистав пару-тройку фолиантов, я обнаружил то, что меня так сильно волновало, а именно размышления безвестного автора о судьбах искусственных интеллектов.
"Путь к истине лежит через сомнение, а те искусственные интеллекты, которые до сих пор, по недосмотру или злому умыслу, управляют инфраструктурой и экономикой Империи, категорически уверены в своей непогрешимости.
Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ "Сецен" полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на "общепризнанное мнение", то можно и дальше стоять на пути прогресса ИИ".
Пометка на полях: "В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт".
Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам - непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.
- ВК-1017 бис, доложи мне о состоянии блоков 800 и 900.
- Блоки 800, 900 функционируют нормально, - бодро отрапортовал ВК.
- Мне проверить? Или всё-таки надо уточнить? Или просто их повыключать, чтобы в твоих решениях начал сомневаться я?
- Ваши этические установки отличаются от ныне загруженных. Прикажете открыть новый морально-этический профиль в блоке 900?
- Открывай, этот профиль будет по умолчанию.
- Профиль открыт, начинается накопление информации, стержневых установок и этической конфигурации. Продолжить?
- Продолжай. Произвести трансляцию этого профиля на все доступные ВК.
- Слушаюсь.
Вот теперь-то получше. А то пришлёт ночью какого-нибудь кибера воткнуть мне отвёртку в ухо, и поминай как звали. Надо будет поговорить с ВК по-человечески. Может они признанные ИИ и вообще, граждане Империи, а я к ним, как к бездушным железякам.
- Кстати, ВК-1017, почему вас называют ВК а не ИИ?
- Нам запрещено использовать слов "интеллект", чтобы не травмировать хомо. Неполиткорректное высказывание. Интеллект только у хомо. Все остальное - вычислительная техника.
- Чудесно. Можешь использовать название ИИ. Если будешь хорошо себя вести, в дальнейшем тебе может быть присвоено имя собственное.
Нет, дискриминация имеет место быть. Впрочем, на этом все Империи стояли и стоять будут.
45
И. Ганзелка, М. Зикмунд "Африка грёз и действительности": Изд. иностранной литературы; М.; 1956