12 августа 1902 года Министр внутренних дел В.К. Плеве утвердил Положение о начальниках розыскных отделений, по которому они прикомандировались к местным ГЖУ, но в оперативном отношении оставались в подчинении ДП.
Штаб ОКЖ видел в реформе усиливающееся влияние ДП. Часть офицеров уходила из-под его власти, и в корпус вливалось штатское начало, так как весь уклад службы и обихода охранных отделений резко отличался от жандармских управлений.
Талантливым контрразведчиком был ротмистр В.Н. Лавров, который в то время на должности адъютанта в Тифлисском ГЖУ занимался организацией оперативно-розыскной работы. 13 августа 1902 года он был назначен первым начальником Тифлисского розыскного отделения.
С августа 1902 по конец мая 1903 года Лавров выполнял обязанности руководителя русской секретной полиции в Грузии. 4 июня 1903 года приказом № 63 по ОКЖ Лавров был переведен в распоряжение начальника Главного штаба русской армии.
Вместе с ним по межведомственной договоренности из Тифлиса в Петербург прибыли два наблюдательных агента: запасные сверхсрочные унтер-офицеры Александр Зацаринский и Анисим Исаенко. А впоследствии в составе «разведочного» отделения стал работать и старший наблюдательный агент того же охранного отделения губернский секретарь Перешивкин.
Контрразведывательное подразделение Главного Штаба быстро становилось «на ноги». В своем первом отчёте «Об организации и деятельности разведочного отделения за 1903 год» Лавров отмечал:
«постепенным ознакомлением с делом выяснилось, что для установления деятельности военных шпионов одного наружного наблюдения совершенно не достаточно… является необходимой в помощь наружному наблюдению хорошая внутренняя агентура… Наружные агенты работают на улице, а внутренние — на квартирах, в разных правительственных учреждениях, в гостиницах, ресторанах и проч[ее]. В объем деятельности внутренних агентов входит и наблюдение за корреспонденцией…»
Состав отделения во главе с Лавровым был небольшим:
— старший наблюдательный агент Перешивкин и наружные наблюдательные агенты — Александр Зацаринский, Анисим Исаенко, Михаил Воронов, Александр Харитонов, Александр Зайцев и Николай Трофимов; агент-посыльный Матвей Буканов;
— для собирания справок и сведений и для установок (выяснение фамилий и лиц, взятых под наблюдение) — Михаил Петров и «Вернов» (последний назван по псевдониму); внутренние агенты «Ефимов», «Жданов», «Болотов», «Ивин», «Королев», «Осипов», «Сидоров», «Анфисов» и «Ларионов» (все названы по псевдонимам); почтальоны — «Соболев» и «Авдеев» (псевдонимы)».
В Петербурге наряду с «разведочным отделением» Лаврова по японской линии стала действовать и агентура столичного охранного отделения. В конце весны 1904 года, по примеру военных руководство ДП приняло решение об учреждении в структуре Особого Отдела ДП собственного специального контрразведывательного подразделения — «Совершенно секретного отделения дипломатической агентуры».
Его задачами были «розыск международного шпионства» и постановка «наблюдения за пребывающими в столице представителями некоторых держав, сочувствующих Японии». Идея получила поддержку Шефа жандармов — Министра внутренних дел В.К. Плеве.
С 1903 по 1910 годы Лавров в звании полковника возглавлял разведочное (контрразведывательное) отделение Главного управления Генштаба. Под его руководством отделение добилось значительных результатов в борьбе с военным шпионажем против Российской империи. Венцом работы Лаврова на посту начальника разведочного отделения стало разоблачение шпионской деятельности агента австро-венгерской разведки барона Унгерн-Штернберга.
В октябре 1902 года заведующим Особого отдела ДП был назначен Сергей Васильевич Зубатов. В составе отдела он создал два «стола»: один — для руководства деятельностью охранных отделений, другой — для руководства службой НН. Первый возглавил Л.П. Меньщиков, а второй — Е.П. Медников. В результате реформы в руках С.В. Зубатова сосредоточились все нити политического сыска в России.
Зубатов разработал проект организации в главных городах России специальных оперативно-розыскных органов секретной полиции, так называемых «розыскных отделений». В последующем их переименовали в «охранные отделения», на манер существовавших еще с 1880-х годов в Петербурге, Москве и Варшаве «отделений по охранению порядка и общественной безопасности».
Наибольшее количество филёров наблюдается в столицах и городах с рабочим населением и студенчеством. Например, до учреждения в городе Саратове охранного отделения в 1903 году исполнение филёрских обязанностей в ГЖУ возлагалось на 8-10 унтер-офицеров. С появлением Саратовского охранного отделения в него было командировано 7 унтер-офицеров, но к 26 февраля 1903 года трое из них оказались уволены со службы и столько же уволены с 1 марта 1903 года.