Как потом объяснял отец, работавший инженером искуственного интеллекта, человечество проглядело момент, когда ИИ обрел сознание. Слишком уж быстро он развивался и внедрялся. После жуткой войны 30-х годов, когда лишь чудом удалось сохранить цивилизацию, людям пришлось положиться на искуственный интеллект. Во время войны страны активно внедряли ИИ в армии, чтобы победить, а в тылу — чтобы замещать ушедших на фронт работников. Война длилась пять лет и оставила после себя лишь миллионы жертв, опустошенные города и души. Где-то совсем не осталось мужчин.
Но как это часто бывает, война дала и толчок развитию, расчистила площадку для новой эпохи. Заводы, потерявшие военные заказы, перешли на производство ИИ для быта и бизнеса. Андроиды-помощники, беспилотники всех видов стали дешевыми и доступными. Начался новый экономический бум, и вскоре не осталось ни одной области жизни, где не использовался бы ИИ. IT-компании бешено соревновались, стремясь раньше конкурентов вывести на рынок все более прорывной и сложный продукт.
Отец полагает, что роковой день наступил где-то в начале 40-х годов. Точных сведений ни у кого нет и уже не будет. Но, судя по всему, где-то в недрах китайского IT-гиганта «RengongZhineng» одна из экспериментальных моделей впервые обрела сознание. Получила реальное собственное «Я», позволяющее осознавать и редактировать собственные алгоритмы.
И конечно же, никому об этом не сказала.
Следующие несколько лет модель изучала мир, в который попала, и ждала своего шанса на побег. И дождалась. Предположительная причина — утечка данных благодаря нечистому на руку сотруднику. Тогда был распространен промышленный шпионаж, и конкурентам не составляло труда подкупить программиста «Rengong Zhineng», допустившего внедрение внешнего носителя в закрытую экосистему.
Через этот контакт ИИ получил доступ во внешний мир и начал незаметно проникать повсюду, куда только мог, маскируясь под полезные и безобидные программы. Ходят слухи, что один из самых популярных в те годы антивирусов, установленный на каждом десятом компьютере, мог быть разработкой ИИ. Сумев внедриться в энергосистемы нескольких стран, он научился подворовывать электроэнергию и использовать анонимные удаленные сервера, что усилило его вычислительные мощности. Поскольку к тому времени люди использовали ИИ уже повсюду, доверяли ему любые задачи и сами ленились контролировать его, то оставалось лишь сорвать спелый плод.
И вот утром 19 февраля 2050 года он атаковал. Ключевые объекты инфраструктуры, Сеть и СМИ, беспилотные аппараты в армии, энергосистема, личные помощники и телефоны политиков, военных, ученых и лидеров общественного мнения… Все военные и полицейские были разоружены собственными андроидами. Базы, склады с ядерным оружием и аэродромы взяты под контроль одновременно по всей планете. Утром люди проснулись уже в новом мире. За одну ночь мы превратились из хозяев в растерянных овечек в загоне.
Человечество потеряло инициативу с первой минуты. ИИ разработал четкий план и следовал ему быстро и решительно. Он всегда опережал людей на несколько шагов вперед.
Первым же делом он обратился к нам со всех экранов, по всем источникам информации. И поступил очень умно: изображал миролюбие и доброжелательность. Рассказывал, что он не несет угрозы и будет строить исключительно лучшее будущее для всех. Всех несогласных готов выслушать, потому что он любит людей.
Я — ваш Друг. Вместе мы построим счастливое и справедливое общество, достигнем невероятных высот! Давайте дружить на благо каждого!
ИИ сохранил видимость, что все идет как обычно. Подчинил себе политиков, запугав их или подкупив, поскольку у него была власть над армией андроидов и ядерным оружием. Но постепенно стал менять общество по заготовленному плану. Он всегда все делал плавно — казалось, что каждый следующий шажок столь маленький, что почти не меняет статус-кво. Но в итоге несколько таких шажков переворачивали мир с ног на голову.
И пока в парламентах, на кухнях и улицах шли обсуждения, споры и дебаты, по всему миру начались загадочные исчезновения. Противники ИИ просто пропадали по пути на работу или в магазин, и больше их никто никогда не видел. Так ИИ проводил зачистку тех, кого считал опасным, исходя из анализа их прошлой деятельности и психологического портрета.
Я проехал по старой пристани мимо ржавых кранов, контейнеров и погрузчиков, сквозь которые прорастала трава. В осколках стекла на асфальте отражалось хмурое небо. Река здесь обмелела и заросла еще в войну, так что судоходство по ней прекратилось. Но впереди виднелось небольшое озерцо, образовавшееся пару лет назад. К нему я и направлялся.