Учреждение III отделения при Собственной его императорского величества канцелярии во времена Николая I стало в известном смысле шагом назад. Император по существу вернулся к опыту первой половины XVIII в., когда органы политического сыска существовали в качестве учреждений при особе государя (в отличие от предлагавшегося А. Х. Бенкендорфом проекта воссоздания Министерства полиции). Неудивительно, что компетенция III отделения была столь обширна — оно занималось всем, что могло заинтересовать императора. Отсюда и легенда, что на вопрос Бенкендорфа о дополнительных инструкциях лично от него, Николай I, вынув из кармана носовой платок и передав его генералу, сказал: «Вот тебе инструкция. Чтобы ни один платок в России не был омочен слезами».
Усилия политической полиции по отыскиванию государственных преступников при Николае I, установившем в стране жесткий политический режим и систематически подавлявшем любые проявления общественного движения, кажутся чрезмерными. Политические дела зачастую создавались из ничего, а антиправительственная деятельность понималась тогда столь широко, что III отделение без работы не оставалось. Пытались пресекать и мысли, «подрывающие основы», и крамольные планы, которые из этих мыслей могли последовать. Текущая же работа сводилась к получению донесений от агентов из числа благонадежных подданных, или доносов от неравнодушных лиц и отработке всех этих сигналов. Опасная практика «подмораживания» России на время принесла плоды (название процессу было дано при Александре III, правда, в результате его усилий страну просто «разорвало» при императоре Николае II Александровиче — правнуке и тезке государя, предложившего «метод»). В первой половине XIX в. запас прочности режима оказался столь велик, что его, с учетом, разумеется, энтузиазма общества по поводу отмены крепостного права и либеральных реформ Александра II, хватило на первое десятилетие царствования государя-реформатора.
Изменения в общественном строе России, вызванные все теми же преобразованиями Александра II, привели к появлению нового социального типа — разночинца — дворянина, выходца из духовенства, мещанина и т. д., получившего (или получающего) образование, не находящегося на службе, предусмотренной продвижением по лестнице чинов Табели о рангах Петра I, чаще всего пытавшегося найти себе применение в земских и иных общественных учреждениях, возникших в ходе реформ. Разночинцы видели свою миссию в служении не государству, а народу. Их энтузиазм остался невостребованным властью, что привело к разочарованию и распространению в этой массе людей оппозиционных настроений. В результате появилась среда, из которой вышел новый тип противника государственного строя — профессиональный революционер.
Усилия тогдашнего главного начальника III отделения П. А. Шувалова приспособить свое ведомство к требованиям нового времени закончились крахом. Начавшееся весной 1874 г. массовое «хождение в народ» молодежи с целью революционной агитации привело к его отставке. П. А. Шувалов пытался навести порядок в привычной организации работы ведомства, в то время как назрела необходимость менять саму эту организацию. Он был последним начальником III отделения, руководившим системой политического сыска России продолжительный период времени — восемь лет. Судьба его быстро сменявшихся преемников показывает, что эта система переживала агонию: А. Л. Потапов (1874–1876 гг.) сошел с ума; Н. В. Мезенцев (1876–1878 гг.) был убит революционерами; Н. Д. Селиверстов (исполнял обязанности врид начальника III отделения полтора месяца в 1878 г.) был уволен в связи с неспособностью организовать работу; А. Р. Дрентельн (1878–1880 гг.) подал в отставку сам, осознав, что ему не удается справиться с революционерами.
В эти годы в России сформировалось хорошо организованное революционное подполье, один за другим начали совершаться теракты, наконец, возникла революционная партия «Народная воля», приговорившая к смерти самого Александра II и открывшая на императора настоящую охоту. III отделение и жандармы оказались не в силах переломить ситуацию. Главным слабым местом была организация агентурной работы. Информация, которую III отделение получало от лояльных правительству лиц, позволяла максимум установить того, кто уже совершил преступление, но не могла предотвратить преступление готовящееся. А учитывая огромную опасность, которую представляли террористы «Народной воли», неспособность органов политического сыска своевременно остановить преступника подрывала к ним доверие правительства. В новых условиях нужна была агентура из среды революционеров, т. е. агентами III отделения должны были стать сами политические преступники или специальные агенты, внедренные в революционное подполье и, следовательно, с точки зрения режима абсолютной монархии, вынужденные совершать преступления. Согласиться с этой необходимостью, а точнее, осознать ее, в III отделении так и не смогли.