Для начала, в апреле 1881 года, Победоносцев добился отставки Лорис-Меликова. На место армянина в качестве министра внутренних дел назначили графа Николая Игнатьева, профессионального дипломата.
Пробыв в этой должности не более года, Игнатьев — несомненно побуждаемый Победоносцевым — реорганизовал всю структуру службы безопасности.
Он вывел жандармов из-под контроля некоторых генерал-губернаторов. Через два месяца был издан указ о введении чрезвычайного положения в стране, в соответствии с которым жандармы и генерал-губернаторы могли производить массовые аресты, запрещать публичные и частные собрания и поддерживать закон и порядок другими методами по своему усмотрению. Этот указ в той или иной форме сохранил свою силу во весь оставшийся период царствовавшей династии.
Позже Игнатьеву пришла мысль о том, чтобы создать специальные подразделения политической полиции в Санкт-Петербурге, Москве и Варшаве, которые стали называться охранными отделениями; или просто Охраной. Революционерные и народные массы именовали их более уничижительно — «охранка». Охранные отделения постепенно появились практически во всех больших и малых городах, имевших сколько-нибудь важное значение. На бумаге эта тайная организация представляла собой часть полицейского департамента, а сам департамент подчинялся Министерству внутренних дел. Однако на деле Охрана обладала практически высшей властью над подданными царя. Она имела право входить в помещения без ордера и депортировать в Сибирь без суда, надзирать за любым человеком и даже выносить смертный приговор. Ко времени своего распада, в связи с отречением Николая И, Охрана сама по себе превратилась в закон.
Под началом Игнатьева служили два человека, которые в последующую четверть столетия сыграли важную роль в вопросах безопасности и делах Охраны. Первым был граф Вячеслав Плеве, который занимал пост директора департамента полиции с 1881-го по 1884 год, работал в качестве заместителя министра внутренних дел (а фактически был хозяином в министерстве) с 1884-го по 1892 год и министром внутренних дел с 1902 года до его убийства эсером Сазоновым в 1904 году. Вторым — Петр Дурново, талантливый службист, хотя чрезвычайно жестокий и реакционный. Он возглавлял департамент полиции с 1884 года до последних дней царствования Александра III. Дурново рассердил императора тем, что воспользовался своими полицейскими полномочиями для проверки его любовницы. Впоследствии Петр Дурново стал министром внутренних дел при Витте в 1906 году.
Короткое пребывание Игнатьева в должности закончилось, когда он сочувственно отнесся к идее Земского Собора, своего рода национальной ассамблеи. Победоносцев, который не хотел ничего, хотя бы отдаленно напоминавшего конституционность, заменил его законченным реакционером, бывшим министром просвещения, графом Дмитрием Толстым. Этот достойный человек продержался на посту министра внутренних дел до 1889 года, когда его сменил тугодум Иван Дурново, носивший кличку Теленок. Того в 1895 году сменил другой некомпетентный деятель Иван Горемыкин. В течение четырех лет он руководил Министерством внутренних дел, за неимением лучшей кандидатуры стал премьер-министром при Николае II, а кончил тем, что его пристрелили большевики.
На деле все эти перестановки в Министерстве внутренних дел за последние два десятилетия XIX века надо рассматривать просто как протокольные мероприятия. Охрана и служба безопасности продолжали функционировать и наращивать свою деятельность в этот период, несмотря на всех номинальных начальников, прежде всего благодаря Плеве и Петру Дурново — подлинным руководителям секретной полиции.
Вместе с тем не следует и перехваливать указанных лиц, а также других чиновников начального периода охранных отделений. Они были скорее способными дилетантами, нежели профессионалами. Им повезло, что Охрана в то время не столкнулась со сколько-нибудь серьезным вызовом. Казнь убийц Александра II весной 1881 года сломала хребет участникам «Народной воли», и их террор против автократии практически прекратился. К тому же один из пойманных террористов Рысаков выдал каждого заговорщика, фамилию которого мог припомнить. Большинство злоумышленников оказались за решеткой, в сибирской ссылке или стали тайными агентами «охранки».