– В смысле?
– Похоже, в сети появились системы с не меньшими возможностями.
– Ну клиентский анализ и управление запасами действительно делают и другие, но вот чат-боты я такого уровня не видел. Мы же сами недавно смотрели.
– У них есть боты, которые вербуют клиентов.
– Мне казалось, что мы сильно оторвались в достигнутых технологиях. Нас не могли взломать?
– Нет, исключено, при копировании код нарушается. И не думаю, что кто-то смог незаметно от нас взломать наш сервер.
– От этого не легче.
– Зато у нас появился соперник. Неожиданно, зато будет с кем бороться.
– Мы боремся за потребителя, а не с соперником.
– Нет, теперь с соперником. Потребители – это только поле битвы. Они – овцы, а конкуренция идет среди пастухов. У овцы есть ресурс – их доходы, так сказать, шерсть. Но они не распоряжаются ей сами. Ей распоряжаются пастухи-корпорации, которые навязывают им свое мнение и борются за них между собой. Чье влияние окажется сильнее. Так что, вэлком ту зэ гейм.
– Ты чуть ли не рад? В чем состоит игра?
– В том, что бот другой системы намного сложнее раскусить, чем любого человека. Юзер прост как 2 рубля в своем покупательском поведении. И в реакциях тоже – всегда предсказуем. А бот вражеской системы нет. Потому что психика у нас у всех одна, а вот у бота – какую придумает его программист. А фантазии у нас хватает. Попытка погасить негатив такого бота, вылитый в соцсети – это как подлить масла в огонь. Развитие негативного поста – лучшая цель бота-агрессора. Он начинает писать везде, что ему "чмошники из фирмы Х" ответили как последние уроды. И все, завал… Уже есть примеры, надо переделывать бот.
– Ты хочешь сказать, что надо сделать бот для борьбы с ботами других систем?
– Это вариант нашего бота, который нацелен сразу обнаружить бота-агрессора.
– И как можно отличить бота от человека?
– Сложно, так как он генерирует нешаблонные тексты. Повторяемость низкая. Не отличить вроде от людей. И выступает от сотен разных захваченных аккаунтов. Надеюсь, что все равно есть кое-что, что отличает их от людей.
Меня не покидала мысль, что Макс сам придумал себе эту игру с ботами других компаний, чтобы его ценность не уменьшалась по окончании проекта. Я их не замечал по отчетам. Люди как люди. Или хорошие боты. Были прецеденты, когда нашего бота заваливали негативом. Но они были редки и исходили от ярых троллей. Я не мог понять, как так нас смогли быстро догнать конкуренты. Только недавно такие боты были пределом мечтаний, и прорыва даже не намечалось. И в прессе ни слова об этом. Все это было странно.
Выход из-под контроля
– Макс, тут надо вмешаться, бот стал писать слишком агрессивно. Он начинает прямо высказываться против конкурентов. Маркетинг негодует. Мы такого не закладывали.
– Я тоже.
– Откуда тогда такие тексты?
– Сам пока не знаю, кто-то изменил код генерации текстов.
– Нас взломали?
– Нет, не могли, остались бы следы. Их нет.
– Что это значит? Кто еще мог изменить код?
– Сама система. Может случайно, может нет.
– Ты о чем?
– Сама система изменила свой код и стала действовать агрессивнее в ответ на усиление давления других ботов. Они общаются друг другом как соревновательные сети. И самообучаются так. Вот в чем фокус! Но как она смогла изменить свой код, убрав ограничение на названия конкурентов, я пока не понимаю. Остается только то, что система самообучения смогла обойти ограничения.
– Ты уверен? Такого еще не было.
– Это происходит, похоже, не только у нас. Коллеги на Хабре пишут, что у них тоже барахлит система, начинает сама себе придумывать правила, которых они не закладывали.
– Какой-то треш. Вы не можете контролировать свои самообучающиеся алгоритмы?
– Может и так. Конкретики мало, система же не рассказывает, что творит. Пока не понимаю.
Я уже хорошо знал Макса, и его встревоженность насторожила и меня. Пока его слова о самопроизвольном изменении системы воспринимались как бред. Но это точно была не ошибка, потому что поведение ботов стало другим, но по-прежнему целенаправленным. Это не могло возникнуть случайно.
– Макс, какие есть мысли по изменению в программе ботов? Надо что-то делать, руководство встревожено.
– Изменений в системе оказалось больше, чем я думал. Похоже, они происходят давно. Система меняет даже мои поправки в ней. Мне кажется, я сам научил систему изменять себя.
– Как?
– Мне было лень править ее постоянно самому. Я хотел, чтобы она могла сама идентифицировать свои расхождения с ожидаемым результатом и делать изменения в моделях. Но она как-то научилась менять не только свои модели, но и свой код.