Сделавшись губернским прокурором, Ровинский принес на эту должность всю свою молодую — ему было еще только 29 лет — жизненность и "отзывчивость. Но вместе с тем он принес и большой опыт. Служба товарищем председателя палаты и, главное, губернским стряпчим дала ему богатый материал для обращения внимания на наиболее больные места судебной и, в особенности, административной деятельности. Он горячо принялся за работу, настойчиво во все вникая и зорко ко всему приглядываясь. Задача московского губернского прокурора — именно московского — за его время была очень нелегкая. Не говоря уже о массе дела, требовавшей внимательного труда, ввиду особого значения, которое могло иметь прокурорское «читал» для жителей столицы и одной из населеннейших губерний, — область деятельности этого прокурора находилась в совершенно особом положении. В Москве был, кроме губернатора, еще и граф Арсений Андреевич Закревский, снабженный особыми полномочиями, легендарный генерал-губернатор, всевластно правивший в Москве с 1848 года в течение десяти лет и назначенный туда после 17-летней опалы, как — по его собственным словам — надежный оплот против разрушительных идей, грозивших прийти с Запада. Безукоризненно честный в материальных отношениях, большой хлебосол и нежный, слабый отец, — этот осанистый, полный старик, совершенно лысый, с маленькими хитрыми глазками на круглом лице («Русские гравированные портреты»), с выдвинутою вперед нижнею губою, творил суд и быструю расправу по-своему, не стесняясь законом и своеобразно восстановляя порядок повсюду, даже и в чужих семьях, разными необычайными средствами, вроде, например, арестования жены и родственников неисправного подрядчика, забравшего вперед деньги, и т. п. Вторжение Закревского во всякие дела и в том числе в судебные, особливо гражданские, было явлением частым и, без сомнения, составляло соблазнительный пример и для ближайших его подчиненных, так что губернскому прокурору нужно было много такта и умной настойчивости, чтобы охранять закон и исполнять свои обязанности, «невзирая на лица». Неслышное и, по большей части, незаметное для окружающего общества, прямое и косвенное отстаивание закона отнимало много времени у Ровинского и делало его положение, как он сам впоследствии сознавался, подчас более чем затруднительным. Недаром он обращался, при своих работах по судебному преобразованию, с суровыми укоризнами к генерал-губернаторской власти в том виде, как ее понимал и практиковал в свое время граф Закревский.
Тяжела была и деятельность по чисто-судебной части. Права губернского прокурора были большие, и он мог (с 1846 г.) останавливать своими протестами исполнение приговоров уголовных палат, но не следует забывать, что над судом и над прокурором стояла теория формальных, предустановленных доказательств, которая связывала и угнетала свободное приложение судейского разумения к данным дела. Какое бы внимание, какую бы серьезность ни вносил прокурор в оценку определения уголовной палаты, он был бессилен отвратить эту палату от того уклончивого и ложного пути, который кончался знаменитым «оставлением в подозрении», никого не удовлетворявшим, но прописываемым с соблюдением всех правил, указанных в судебной фармакопее и рецептуре, носивших название второй части XV тома Свода законов. Громкие уголовные дела, волновавшие Москву в пятидесятых годах, нередко оканчивались приговором, в котором, из-за формальной правильности и полного соответствия действовавшим правилам о доказательствах, ярко сквозило материальное не-правосудие, причем во всей красе сказывались и молчание связанной по рукам и ногам судейской совести и апатичная работа притупившегося на механическом применении Уложения о наказаниях ума.
Много огорчений, волнений и горьких минут сознания своего бессилия пред буквальным приложением безжизненного закона к вопиющим явлениям жизни пережил Ровинский в бытность свою губернским прокурором… Дела о возмутительных преступлениях над личностью и о надругательствах сильного над слабым, полные красноречивых косвенных улик, попав в русло, вырытое присяжными свидетелями, достоверность показаний которых обусловливалась их общественным положением и другими совершенными и несовершенными доказательствами, быстро и почти бесповоротно выцветали, обрастая тиною разных крючкотворных подходов и подъяческих подвохов, затемнявших истину. Стоит припомнить хотя бы, например, дело об услышавшей только от высших судебных учреждений должную оценку своей виновности вдове гвардии капитана, судившейся за чудовищное обращение с десятилетним сыном, проводившим дни и ночи в запертом шкапу — голодным до полусмерти, избитым, истерзанным и завязанным, со скрученными назад руками, в чехол от дивана, причем, под предлогом отучения его от дурной привычки, обвиняемая, оставленная первоначально лишь в подозрении и уже однажды судившаяся бесплодно за бесчеловечное обращение с крестьянами, предавалась по отношению к сыну манипуляциям, в которых жестокость переплеталась с извращенным сладострастием… Сюда надо отнести такие дела, как, например, дело помещика, нанесшего своему больному, девяностолетнему слуге, вымогая для себя у него его скудные сбережения, 28 рубленых сабельных ран, от которых тот на другой день умер, — и не признанного виновным в убийстве; или дело надворного советника, наглым образом надругавшегося над невинною и беззащитною девушкою, в обстановке, чрезвычайно напоминающей сцену покушения Свидригайлова на честь Дуни Раскольниковой в «Преступлении и наказании», — и оставленного в сильном подозрении; или дело о покушении на жизнь калужского помещика посредством адской машины, по которому надворный суд признал возможным оставить человека, принесшего потерпевшему ящик, зная, что в нем заключена такая машина, в сильном подозрении, выслав его в то же время из Москвы; или, наконец, ужасное дело о 17-летней фигурантке, проданной своим отцом, театральным музыкантом, знатному молодому человеку, который напоил ее возбуждающим раствором и привел тем в состояние полового бешенства, коим воспользовались, кроме него, и другие негодяи, окружавшие его. Несчастная девушка была возвращена домой лишь на третий день, в состоянии полного сумасшествия, из которого не выходила до самой своей страдальческой кончины. Московские судьи того времени нашли справедливым ограничиться отдачею главного виновника в солдаты или военные писцы с выслугою и без потери прав, — и присуждением отца жертвы за потворство разврату дочери к трехмесячному лишению свободы… А сколько, под прикрытием строгого соблюдения теории формальных доказательств, разрешалось таким образом дел негромких! Губернский прокурор, обремененный массою других обязанностей, должен был вчитываться и вдумываться в каждое решение, чтобы не покрыть иногда своим «читал» вопиющую, но правильно и искусно оформленную неправду.
Не меньше внимания надо было отдавать и следствию. Оно было в грубых и часто нечистых руках, а между тем составляло не только фундамент, но, в сущности, единственный материал для суждения о деле. Из речи, сказанной Ровинским в 1860 году («Век», 1860 г., № 16), молодым людям, вновь назначенным на должность следователя, переходную уже к новому порядку, видно, что такое были в его время, в Москве, некоторые производители следствий и как они действовали. Безотчетный произвол, легкомысленное лишение свободы, напрасное производство обысков, отсутствие всякой системы и раздувание дел были характерными признаками производства следствий чинами наружной полиции. В подтверждение этого Ровинский приводил примеры: а) отобранные у сознавшегося вора тулуп и поддевка возвращены хозяевам без оценки — чрез год; частный пристав, заметив свое упущение, требует хозяев из Рязанской губернии в Москву по этапу и обязывает их подпискою представить тулуп и поддевку; б) трое крестьян жалуются на кражу у них четырех бочонков сельдей, и после года производства следствия об этом пристав начинает следствие о том, откуда они взяли сельдей и имели ли право торговать ими; в) мещанин Овечкин и извозчик, с которым он ездил, сидят месяц под стражею по обвинению в праздной езде по улицам; г) производя у нескольких лиц обыск по жалобе солдатки о краже у нее белья, пристав обыскивает кстати и ее; найдя «кусок металлического свойства», заводит особое дело и вызывает эксперта для определения, какой это металл, и т. д., и т. д. «Главная причина всего этого, — говорил Ровинский молодым следователям, — кроется сколько в неспособности полицейских следователей, столько и в том, что многие из них, при ничтожном содержании и ежедневно возрастающих потребностях, привыкли по необходимости смотреть на взятие под стражу, освобождение арестанта, вызов, высылку, вообще на все следствие, как на средство к своему существованию. Вот почему полицейские следователи тянут свои следствия целые годы, оправдываясь медленностью высших инстанций и рассчитывая на полную безнаказанность со стороны своего начальства. Вот почему трактир, полпивная и всякое заведение, при самомалейшей возможности притянуть их, непременно перебывают у следователя со своим хозяином, прислугою, чуть не со всею своею посудою». Но не одна неумелость, а иногда желание «покормиться» искажали производство следствия. Это искажение шло гораздо дальше там, где нужно было выслужиться или отличиться. Ровинский приводил следователям «всплывшие из глубины канцелярской тайны» случаи — доведения мещанина вывернутием руки до «чистосердечного сознания» в убийстве, совершенном совсем другим лицом, и сечения обвиняемой в краже девочки 16 лет плетью по животу для получения такого же сознания… В объяснениях к «Народным картинкам» он указывает на обычный даже в его время в глухих местностях прием полицейского следствия, состоявший в недавании пить заподозренному, накормленному соленым сельдем и посаженному в жарко истопленную баню — и ссылается на производившееся еще во второй половине шестидесятых годов в общем собрании московских департаментов Сената дело частного пристава Стерлигова, вешавшего обвиняемого со связанными назад и затем навсегда отнявшимися руками наперекосяк, «исправлявший должность дыбы»…