Талинский повернулся на стуле и внимательно посмотрел на нюхача.
— g.A.I.a. затягивает петлю на наших шеях, — медленно начал он. — Это практически неуловимый процесс, потому что медленный и постоянный. Люди должны оставлять все больше следов, притворяясь, что они другие. Вы сами понимаете, что это нехорошо.
— Переходите к конкретике, — попросил Харпад.
— Ладно, начнем сначала, вернемся к моменту, когда система начала работать в главной комендатуре полиции в Кольце Варшава. Подобные системы работали уже в нескольких других городах. g.A.I.a. была спроектирована в диагностических целях, поэтому надзор за качеством внутренних процедур был необязателен. Программу установили на полицейском сервере; она должна была помогать полиции контролировать бывших заключенных, которых психологи признали потенциальной опасностью для общества. Система анализировала все доступные данные их жизни, уделяя особое внимание событиям, которые могут привести к стойким психологическим травмам. Давно уже известно, что ребенок, которого регулярно бьют родители, во взрослой жизни охотнее будет применять насилие. Молодой человек, связавшийся с плохой компанией, навсегда останется уязвим перед определенными искушениями.
Сначала пункты ПО за конкретные инциденты вводились сотрудниками вручную, но вскоре программе позволили самостоятельно их модифицировать. После интеграции g.A.I.a. с мониторингом города и частными сетями камер количество поступающих данных превысило возможности персонала. Люди тормозили и ограничивали искусственный интеллект. Тогда отменили человеческий оперативный надзор и оставили только случайный контроль. Это был момент, когда g.A.I.a. получила реальную власть, хотя никто ни о чем не догадывался. Это была одна из систем безопасности города, даже не самая важная. Мимер, программа, анализирующая язык тела, каждую неделю выявляла все больше преступлений. Ее минусом было время цифрового предвидения — она могла предвидеть преступление с опережением на несколько минут или даже секунд. Быстро выяснилось, что соединение двух этих систем принесет только пользу. Сначала они сотрудничали, но не прошло и месяца, как g.A.I.a. поглотила прямолинейного Мимера, воспринимая его просто как свой инструмент. В течение года все превентивные смарт-системы стали субпрограммами g.A.I.a., на протяжении пяти лет подобные системы самостоятельно интегрировались и в других городах. Даже Манфред, управляющий уличным движением, стал частью g.A.I.a. Благодаря обмену опытом значительно увеличилась точность показателя ПО. В какой-то момент мы осознали, что во всех городах действует одна общая g.A.I.a. ПО стал очень динамичной переменной. Табличные данные больше не могли справляться со сложностью аналитических процессов и под натиском общественного мнения, которое всегда ценило безопасность, g.A.I.a. была освобождена от обязанности хранить данные в понятном для людей виде. В Кольцах, где власти не согласились с изменениями, они все равно наступили. Неофициально. Реляционная база данных рассыпалась в хаотичную, на первый взгляд, контекстную базу, а дальше трансформировалась в динамичную структуру, которую человеческий разум не мог охватить. Это не восприняли как проблему, поскольку результаты были все лучше, а после Перемен безопасность стала приоритетом.
— А почему вы считаете это проблемой? — Харпад воспользовался короткой паузой.
— Вроде бы все хорошо, и система работает исправно, — согласился Талинский. — Но где справедливость? Подсознательно мы ощущаем, что что-то не так.
— Как по мне, так все нормально, — нюхач развел руками. — Убийцы исчезают из города до того, как им придет в голову кого-то убить. Идеальное решение для здорового общества.
— Не забывайте, что трусливая собака в неожиданной ситуации укусит первой. Запуганный человек стреляет быстрее, чем хладнокровный гангстер. Представьте себе двух соседей на одном этаже. Один — это милый, уязвимый человек, допустим композитор, второй — хам и деревенщина, не упускающий ни одного удобного случая, чтобы унизить слабого, завидуя его таланту. Грозный взгляд и брань не являются преступлением, но они вызывают у композитора ощущение угрозы. Хам, тем временем, тешит свое эго за счет соседа. Почти наверняка в этой игре хам не переступит границы физической неприкосновенности, и даже личность слабого соседа его не волнует. Он вспоминает про него, только когда видит. В то время как разгоряченное воображение композитора, человека чувствительного, приведет к тому, что мелкие в сумме события перерастут в ранг угрозы его жизни. В этом случае именно композитор является потенциальным преступником, хотя вина за происходящее лежит на хаме. Ощущение угрозы побуждает нас принимать спонтанные решения, потому ПО композитора возрастет на много пунктов из-за одного соседства с хамом. В то время как ПО хама уменьшится, поскольку возможность психологического насилия над слабым будет предохранителем для его агрессии. g.A.I.a. не ликвидирует истинную причину потенциального преступления, а бьет в последний элемент причинно-следственной цепочки. Это всегда последний элемент, то есть потенциальный преступник. g.A.I.a. никогда не общается к истокам проблемы. И никогда этого не делала вплоть до вчерашнего дня, когда обнаружила, что человек, склоняющий кого-то к совершению преступления, и сам является преступником.