Хейз ощутил во взгляде ар-си отвратительную слащавость, мерзкую, как у человека.
— Пока я вижу только потрясающие успехи в выкручиваниях. А у вас нет робота, который решает проблемы голода, беженцев или изменения климата?
— Такие сложные задачи непосильны одному ар-си, как и одному человеку, — начал Филипс, подняв палец. — Поэтому мы и создаём систему. Это было давно подмечено: сто муравьёв тащат гусеницу. Если мы присмотримся, окажется, что каждый муравей тащит тушку в свою сторону. Но общая сумма векторов их направлений складывается в один, и именно туда в итоге они эту добычу и унесут! Вы знали об этом?
— Я видел муравьёв, но никогда не замечал, что они действуют разрозненно. Даже наоборот…
— И именно поэтому мы пригласили сегодня именно вас! Вы готовы поставить под сомнение любой факт, это прекрасно! — Филипс снова обрадовался непонятно чему.
Хейз отвлёкся на экран, что свисал с потолка.
— «Присвоение достижений», что это?
— А-а-а! Сейчас расскажу! — отвечал Филипс, не глядя на монитор. — У ар-си есть датчик отслеживания рейтинга. Однажды мы заметили, как один ар-си заработал высокий рейтинг, и стали разбираться. Оказалось, он присвоил себе достижения предшественника и результат работы коллектива. Наделал фотографий, отчитался в нашей соцсети, собрал лайки. Эту штуку искусственный интеллект выдумал сам, чем мы очень гордимся.
— Это отвратительно даже по человеческим меркам, но… как вы сказали? Этого не было в программе? То есть, они сами учатся?
— Они матереют. Обрастают связями, вычисляют своих. Это как карьерный рост.
— Вычисляют своих? Это такая роботизированная круговая порука?
— А разве ар-си виноват в том, что наши алгоритмы заставляют его прежде всего сохранять иерархию?
Хейз на минуту задумался и спросил:
— Скажите, если это робот, у него должна быть кнопка отключения?
— Сенсор деактивации установлен в труднодоступном месте, глубоко между ягодицами. Комбинация несложная, но просто так не подберёшь, надо знать подход и действовать мягко… Всё в точности как у людей… — тут Филипс не смог больше держать серьёзный тон и прыснул, — Да я же шучу, мистер Хейз, у нас тут такая шутка!
Хейз не улыбнулся.
— Получается, ваши роботы вечны?
— Если не использовать гипер-режим, то почти да. Проработает до самой пенсии, пока микросхемы не помрут.
— А что такое гипер-режим?
— Предвыборный. Мобилизируются все алгоритмы и функции, генератор обещаний и модуль харизмы работают на износ. У одного экземпляра в разгар кампании стал непроизвольно открываться рот. Это была девочка, мы все за неё очень болели. Хорошо, что она проиграла другому нашему кандидату. Это было похоже на маразм. После выборов ресурс выработан. Ар-си больше ни на что не способен, кроме удержания власти, но на то мы и создаём систему, чтоб она продолжала работать несмотря ни на что.
— Система-система-система! Эта ваша система, о которой вы мне рассказываете, хотя бы ставит перед собой высокие цели? Борьбу с коррупцией, например?
— Конечно! К гордости нашего коллектива мы можем сказать, что наша продукция совершенно не даёт взяток! В отличие от людей.
— Потрясающе! Не даёт и не берёт?..
— Ну, только если люди дают…
— Что за немыслимый бред?! Почему же программно не поставить им задачу не брать взяток?
— Да вы поймите! Их функция заключается не в выполнении задач, а в сохранении системы!
— А почему не сделать систему с единым центром, который будет настроен на нетерпимость к коррупции, преступности, лжи?
— Уязвимость, мистер Хейз. Не дай бог, что-то случится с этим общим центром, это грозит крахом всей системе.
— Но зачем городить огород, если вы не пытаетесь решить глобальных проблем? Войны! Система может остановить войны?
— Воюют не роботы, воюют люди. Будем надеяться, что искусственному интеллекту удастся преодолеть людские пороки, но сначала нужно вытеснить из системы человека. Всему своё время, он только начинает.
Хейза осенила страшная догадка.
— Ваша продукция уже правит миром?
Вместо ответа Филипс засветился пунцовой гордостью.
— Доктор Филипс, вы, должно быть, сумасшедший, что пригласили меня сюда. Вы создали армию бюрократов-аппаратчиков. Ничего не знают, не умеют, потакают коррупции и войнам. Это страшный сон человечества. Вы хотите, чтоб я об этом написал?
Филипс впервые сделался серьёзным.