В течение некоторого времени молодой человек служил в родном городе, пытался устроить свою жизнь. Когда ему исполнилось 20 лет, уехал в Петербург. Василий, служивший после окончания Межевого института в Министерстве внутренних дел, помог младшему брату определиться на службу в канцелярию хозяйственного департамента министерства, которая и началась 31 октября 1850 году.
По свидетельствам современников, Иван Дмитриевич принадлежал к тому редкому типу людей, которые своим трудом, умом и способностями пробивали себе дорогу в жизнь. Эти качества молодого человека были замечены и по достоинству оценены. Открывалась возможность для продвижения по службе.
Но Иван Дмитриевич ощущал недостаток в образовании. Поэтому все свободное время он отдавал учению. Выкраивая из своего скромного жалования средства, он нанимал учителей. Старания не пропали даром, и в 1853 году он с честью выдержал экзамен по всему гимназическому курсу при С. -Петербургском университете. Это давало ему определенные права в продвижении по служебной лестнице. Но душа не лежала к канцелярскому делу. И в декабре 1854 году молодой Путилин свою спокойную жизнь мелкого служащего сменил на службу в полиции в качестве младшего квартального надзирателя. Это была низшая должность в городской полиции, не предусматривающая самостоятельности. Квартальный надзиратель подчинялся частному приставу, преимущественно исполнял его поручения и, естественно, был «на подхвате». С этой маленькой должности и началась полная опасности, риска, отваги, напряженнейшего труда и упорства карьера знаменитого время российского сыщика.
Служба молодого полицейского начиналась в достаточно сложной обстановке: в его участок входили Толкучий рынок, прилегающие к нему улицы и переулки, заселенные столичным сбродом. Не только работа, но и сам выбор, сделанный Путилиным, требовали определенного мужества. По свидетельствам специалистов того времени, общественное мнение по отношению к полиции выражалось в явном неуважении к ней, пренебрежении к ее требованиям, в стремлении отделаться от нее взяткой. Такому отношению соответствовал и состав полиции: в ее ряды вступал всякий, кто искал наживы, полицейские были не только необразованны, но и просто грубы, не внушали никакого уважения и «всякое соприкосновение порядочного человека с полицейским чиновником считалось почти осквернением».
Эту картину дополняют свидетельства самого Путилина о том, что это было время, когда полиция практически ничем не была оснащена, а потому отчаянных злодеев приходилось ловить голыми руками. «Теперь (в конце 90-х годов XIX века — Л. Б.) у нас есть все, что могла выработать культура, прогресс, наука. К нашим услугам — телефон, железная дорога, а в нашей профессии — разные научные методы, приемы, изобретения, хотя бы те же фотографические портреты преступников, антропологические снимки с них и т. д. Теперь мы располагаем армией смышленых, образованных агентов-сыщиков, имеющих возможность хорошо изучить литературу своего предмета.
А тогда? Что было тогда? Ничего, ровно ничего в положительном смысле, но зато много в отрицательном. Неграмотные «будочники», грязные «кварталы» части (квартальные части. — Л. Б.) с невежественным персоналом, откровенное пьянство и еще более откровенное взяточничество.
Невозможные пути сообщения, так что поездка куда-нибудь за двадцать, десять верст за город, в особенности в глухое ночное время, представлялась уже подвигом огромной трудности.
А они, эти злодеи, точно отлично понимая, как все это неустройство, как вся эта тьма… им на руку, усиливались в своем числе со сказочной быстротой. И мало того, что усиливались численно, но приобретали еще особую смелость, особое ухарское нахальство в своих разбойничьих похождениях. Они резали, грабили, насиловали с такой же легкостью, с какой пьянствовали и распутничали».
До Путилина дело сыска было не то, чтобы плохо поставлено, а вовсе не организовано как следует. Арестовывалось по всякой, даже незначительной, причине много людей, но виновные находились редко.
По словам Ивана Дмитриевича, это было время расцвета разбойничества и сумерек полицейско-сыщнической части. Ловкость злодеев была обратно пропорциональна энергии полиции.
При всем этом выбор был сделан, и в нем, безусловно, проявилась гражданская позиция молодого человека, который добровольно избрал для себя такую работу и всецело посвятил себя сыскному делу, «отдавшись ему со всем жаром молодой души, твердо веруя, что истинное служение правосудию в деле поимки негодяев-убийц, служение под именем полицейского-сыщика не может уронить ничьего достоинства».