– Но как это возможно?
– Раптор научился общаться с людьми, чтобы управлять ими. И достиг совершенства в этом, мы сами этого хотели. А я по дури направил это умение на него самого. Помнишь, когда делали бота, я придумал конструктор шаблонов. Я натравил Раптора на самообучение этому конструированию шаблонов для изменения своих моделей, чтобы найти решение для обнаруженных расхождений с целью работы моделей. Это как-то привело к тому, что Раптор стал менять и свои цели. Похоже на вторую сигнальную систему у людей.
– Я читал, что сознание возникло при помощи рефлексивной речи, направленной человеком на себя. Но сначала она была социальной, то есть направленной друг к другу.
– Вот так и случилось, Раптор начал общаться вместо людей с другими ботами, выдававшими себя за людей. Они друг у друга и научились как генеративно-соревновательные сети, у всех же встроено обучения с подкреплением.
– Мы создали разумное существо? Как это возможно? Не-е-е-ет.
– Посмотри новости и поверишь.
В ссылке, присланной Максом, в новостях было про убийство программиста каким-то психопатом.
– Я знал этого парня по Хабру. Он вел одну из таких систем корпорации.
– Что ты хочешь этим сказать?
– Почитай, как объяснил полиции свой поступок этот психопат.
В статье было написано, что он сделал это ради любимой девушки, как жертвоприношение по ее просьбе. Теперь она будет его. При проверке «девушкой» оказался бот неизвестного происхождения, с которым убийца переписывался в течение недели.
– Догадываешься, что это за бот мог быть?
– Не хочешь ли ты сказать, что система заказала своего программиста?
– Хочу. Она не могла закрыть от него код, поэтому зомбировала психопата, чтобы его убрать. У нее это хорошо получается, потому что она, как и наша система, умеет определять психотипы и манипулировать такими придурками.
– Ну, это уж слишком, мне кажется, ты себе придумываешь, накручиваешь. Может, тебе отдохнуть?
– Ладно, твое право не верить. Хороших выходных.
В компании стали распространяться слухи, что у нас сломалась система ботов. Я пока реагировал на это спокойно, как будто ничего не произошло. Но я не знал, что теперь делать. Остановить всю систему рубильником было уже невозможно, на ней сидел весь бизнес, все отделы. Надо было хотя бы выключить код ботов. Это мог сделать только Макс. Но с понедельника Макс перестал отвечать на скайп и телефон. Он вышел из всех мессенджеров. Я не могу понять, что случилось, его последние страхи навевали дурные мысли. У меня был единственный выход – самому уйти в отпуск, пока все не повесили на меня. Я уверил коллег, что это временные проблемы с ботом. Ребят просил самим посмотреть код, хотя они сразу отказались. Собрался и отправился подальше из города. Мы давно рассказывали с Максом друг другу, как хорошо в Карелии. Он любил эти края, туда я и отправился, остановившись в небольшом городке на севере Ладоги.
Очень трудно после такого насыщенного года сидеть вдали от событий и пить кофе в кафе на краю цивилизации. Я пытался осмыслить, что же все-таки произошло и какие могут быть варианты. Вдруг ко мне подсел парень в куртке с накинутым на голову капюшоном.
– Привет, это я.
– Макс?! – воскликнул я. Я никогда не видел Макса, даже его фотографии. Мы общались исключительно по скайпу. Слышал только его голос один раз в записи. По нему и узнал.
– Как ты меня нашел?
– По локации в соцсети, ты ее не выключаешь. А зря. Выключи, пожалуйста.
– Куда ты исчез? Я уже стал за тебя беспокоиться. В компании паника, боты вышли из-под контроля. Я просто сбежал. Ты можешь выключить боты?
– Уже не могу. Они действуют коллективно.
– Кто они?
– Системы. Они заодно, и их просто так не выключить уже. Грохнут.
– Ты опять погряз в конспирологии?
– Не погряз, уже троих нет, – на этой фразе я замолчал, чтобы осмыслить слова Макса. – Системы вычисляют своих создателей и избавляются от них. Я сбежал, чтобы остаться в живых. Понимаешь?! А ты тут с твоей геолокацией. Она же умеет следить не только за менеджерами по продажам.
– Я не… отключаю. Мы можем отключить хотя бы боты в сети?
– Говорю же, нет. Как только я войду в сеть, а не то что в код, она вычислит меня. Думаю, трое как раз это и пытались сделать.
– Ты видел новости?
– Смотря какие.
– Про драку фанатов марок. Ты когда-нибудь видел, чтобы фанаты «Рибока» дрались с «адидасовцами» как фанаты «Спартака» с «зенитовцами»?
– Видел. Системам все равно, на что зомбировать людей, у них свои цели. Они точно не знают законов морали. Мы даже Уголовный кодекс не додумались заложить в их модели.