Вот тогда-то, в переполненной камере Бутырской тюрьмы, в одну из бессонных ночей под храп и сопение арестантов, вдруг остро и отчетливо понял молодой Мардарьев, что тюремная жизнь — это не для него. И если революционная деятельность почти для всех неизбежно связана с тюрьмами, ссылками, с грязью, вонью, полуголодным существованием, с побоями и издевательствами, то подальше надо бежать от этой самой деятельности. Пусть ею занимаются другие — у кого воля покрепче да и кожа потолще. А ему надо кончать с опасной и совсем не романтической игрой в революцию.
Именно после этой ночи на допросе Александр предельно четко рассказал жандармскому подполковнику все, что он знал о своих товарищах. Сопоставив его сведения с теми, которые он имел от своего агента, подполковник был поражен почти полным их совпадением, но вынужден был признать, что психологические характеристики Мардарьева куда более глубоки, чем у агента. Заинтересовался он и тем обстоятельством, что Мардарьев путем логических умозаключений сам пришел к выводу, что в группе был провокатор, и даже точно указал, кто именно.
Подполковник доложил об интересном арестанте начальнику Московского охранного отделения, и тот пожелал сам переговорить со студентом. Так состоялась первая встреча Мардарьева с известным Зубатовым, который определил, что имеет дело с человеком незаурядных способностей.
Предложение стать внутренним агентом Александр отверг и предложил свой вариант — по получении юридического образования стать официально штатным работником Московского охранного отделения. «А вы уверены, — спросил его Зубатов, улыбаясь, — что у вас будет возможность продолжать образование?» — «Уверен, Сергей Васильевич», — также улыбаясь, ответил Александр. — «А почему?» — «Потому что вижу это по тону и характеру наших разговоров». — «Ну что же, может быть, — сказал тогда Зубатов. — Знающие люди нам нужны. Я сам порой чувствую, что мне недостает образования».
Товарищи по «боевой группе» пошли в Вологодскую ссылку, а Мардарьев вместе с тремя студентами из этой же группы вернулся в университет. Троих выпустили по мотивировке «за недоказанностью улик» специально для прикрытия Александра. Что касается провокатора, то его тоже отправили в ссылку, чтобы не раскрывать до поры до времени. Услышав об этом, Мардарьев лишний раз порадовался тому, что не стал на трудный и сложный путь внутреннего агента.
Три года спустя Зубатов официально взял его работать в охранное отделение и немало повозился с ним, видя в нем прилежного, старательного, а главное, очень быстро схватывающего суть дела ученика. Он питал к Мардарьеву некоторую слабость и благоволил к нему оттого, может быть, что видел в молодом сотруднике в какой-то мере повторение своей судьбы. Он так же в свое время начинал свой путь в революционном кружке, а потом свернул круто и пошел по стезе политического сыска, дослужившись до помощника начальника Московского охранного отделения, а потом неожиданно для всех стал начальником. Неожиданность заключалась в том, что на этот пост обычно назначались только офицеры отдельного корпуса жандармов, а Зубатов был человеком штатским.
Под руководством опытного мастера полицейских дел Александр Ипполитович пошел в гору.
Рос он поразительно быстро. Через несколько лет даже завистники стали признавать, что в распутывании трудных дел Мардарьев — умелец. Очень способствовало его карьере раскрытие двух эсеровских групп. Но особенно памятным для всех был случай, когда он раскрыл подпольную типографию, причем сделал это, не выходя из кабинета. Он затребовал тогда все сообщения об изъятых и расклеенных прокламациях, изучил донесения дворников и агентов наружного наблюдения, отметил по карте Москвы районы расклейки, некоторые трамвайные маршруты, узнал, где живут задержанные с листовками. И в результате указал улицу, где могла находиться типография, попросил послать в тот район самых опытных филеров. И действительно очень скоро типография была обнаружена.