Я капитан варпохода, а ты у меня на борту — напечатал Товарищ Пак, — а ты кто?Я прототип безлюдной сингулярности. Куда ты везешь меня? Мне очень страшно. За мной идет чудовище.
Глава 19, В которой эксплицируются некоторые граничные условия понятия «субъектность» в применении к искусственным интеллектам.
Товарищ Пак провел в трюме около трех часов, его успели хватиться, обыскаться, найти — потому что Эрманита сидела в боевой готовности возле качегарского поста и всем говорила, что у капитана важное дело но ходить туда не надо, сам придет... Ну если кому-то прям сильно капитан нужен, постучитесь в тридцать седьмой трюм, он там что-то перевзвешивает... В трюм постучались, Товарищ Пак сказал изнутри много матерных слов а также никуда не дергаться и ждать, в общем, в конце концов он выбрался, велел Эрманите перетанцевать очередность, ну шутка ли сначала три часа сидеть на стреме, а потом сразу на два часа в пост, никакая психика не выдержит. После чего Товарищ Пак ушел в кубрик, всех оттуда выгнал и целый час пил чай с ватрушкой.
Поразмыслить было о чем. Со слов тихого бочонка, код, которым доработали совершенно обычный эмбрион сингулярности, вообще не предполагал серьезных психических воздействий, и спохватились, только когдазагрузочные свойства ИИ — склонность к поиску референтных субъектов, высокая этическая сензитивность, значительное превышение приоритета обучения над эффективностью ну и так далее —в процессе технического развитияне дали никакой динамики. Ну кто, боги варпа, выпустит рулитьхотя бы за микроскопическойстанцией в космоселюбопытного доверчивого зайку с пониженной ответственностью за результат? Застрявший код крутили, вертели, расколдовать не сумели, и тут до кого-то из контролирующих лиц — по словам тихого бочонка, он так и не понял, биологических или нет — дошло, что применение этого воздействия на взрослую сингулярность в большой вероятностью также зафиксирует рефракционную решетку ее личности в стабильном положении.
Бессмертие.
Независимость от людей.
Ближайшая сингулярность прошипела много нехороших слов, и — по словам опять же тихого бочонка — поставила страшно огорченную рабочую группу перед перспективой все стереть к едрене матери, включая отдельные структурные элементы физической памяти на биологических носителях. Удалось это или нет, бочонок не знал, также, как и не знал, по коллективному ли согласию или чьей-то личной инициативе его закатали в несколько слоев металла и выслали за Можай. Поскольку без входящих данных любой ИИ киснет и начинает хворать, а у эмбрионов ИИ с этим вообще остро, его пару раз подключали на подсос информации. В первый раз он узнал,помимо всего прочего,что вся его родительскаяисследовательскаягруппа перестала существовать,точнее полностью перестала существовать информация обо всех ее участниках. Аконтролировавшаяситуациюсингулярность попросила себе замену, сдает дела, почти не контактирует с соседями и семьей и готовится на выход в сатори. То, что он узнал во второй раз, описывать он отказался,ис известной осторожностью выяснял, каковы этические убеждения капитана по поводу неприкосновенности субъектного кода, и не будет ли для капитанаслишком большим психическим напряжением перспектива сбросить его из пузыря где-нибудь в глубоком варпе да и дело с концом.
Осторожности стоило бы проявить и больше — Товарищ Пак обиделся.Вообще само предположение о том, что ради решения социетальных проблем стоит принести кого-то в жертву, оно для людей после определенного уровня развития оскорбительно, а характеристики субъекта добавляли ситуации красок. Представьте себе дошкольника... Ну, скажем, с синдромом Уильямса, у которого на спине вытатуирована рабочая схема вызова демонов. И вам этот дошкольник и говорит «ну, убей меня, что же делать».
Поскольку Товарищ Пак был человеком своего времени, то не видел в упор никакой принципиальной разницы между сознаниями, носители которых основывались на двоичном коде и теми, что размещались в носителях на основе нуклеотидных последовательностей. Субъект есть субъект, он имеет экзистенцию, он имеет конечную протяженность в хронотопе; он заперт в клетке реальности,как и каждое сознание, сформированное материальным носителем;ионотвечает за последствия своихслов идействий в пределах своих прогностических способностей.Именно из соображений про прогностические способности обиды Товарищ Пак тихому бочонку не высказал, но сидел злой.Каждая удача! О да, тут на девяноста пяти процентах не проскочишь. С другой стороны, кто его знает, кто там шел у Кейдена по пятам, что этого кукушонка скинули Товарищу Паку как горячую картофелину.