Руководствуясь этими указаниями Ленина, Дзержинский и Менжинский решительно перестраивают работу органов ВЧК.
«Дзержинский, — писал через несколько лет Менжинский, — был самым строгим критиком своего детища… Он постоянно думал и перестраивал ЧК и опять и снова пересматривал людей, структуру, приемы…
ЧК прежде и больше всего орган борьбы с контрреволюцией, не может оставаться неизмененным при изменившемся соотношении борющихся классов, и Дзержинский всегда первый шел на перемены как в практике, так и в организации своего детища, применяясь к любой политической обстановке, охотно отказываясь от прав, ставших ненужными или вредными, например, при переходе от военной полосы к мирной, и, наоборот, настойчиво требует их расширения, когда это снова становилось нужным. Для него было важно одно, лишь бы новая форма организации ЧК, ее новые приемы и переходы, скажем, переход от массовых ударов к тонким изысканиям в контрреволюционной среде, и наоборот, по-прежнему достигали главной цели — разложения и разгрома контрреволюции».
К январю 1920 года главные силы контрреволюции на фронтах и внутри страны были разгромлены.
В связи с победами на фронтах у отдельных сотрудников особых отделов стали проявляться настроения благодушия и беспечности. Понимая вред подобных настроений, еще в январе 1920 года, после освобождения от белогвардейцев Ростова-на-Дону, Менжинский разработал и направил на места за своей подписью документ, в котором дал глубокий анализ форм и методов подрывной работы противника и определил конкретные направления и методы работы особых отделов.
— Учтите, товарищи, — не раз повторял он сотрудникам особых отделов, — наши враги, потерпев прямое военное поражение, постараются сменить методы своей подрывной деятельности.
В одном из приказов Менжинский требует учитывать в чекистской работе, что со «снятием блокады и открытием границы для ввоза иностранных товаров российская контрреволюция получает простой и доступный способ общения с центрами международной контрреволюции, имеющей очаги на территории РСФСР, и что с отменой высшей меры наказания можно ожидать… единоличного белого террора против выдающихся вождей пролетариата…»
Старый большевик Менжинский обращает внимание чекистов на необходимость рассматривать свою работу как часть общего дела всей партии. И не случайно в приказе от 19 марта 1920 года он прямо указывает: «Приказываю работать в полном контакте с местными комитетами РКП (б), опираясь на их авторитет, черпая в них силы и… информируя их руководителей о своей работе».
Менжинский прекрасно понимал и другое: что силы органов госбезопасности не только в руководстве партии, но и в тесной связи с массами, что глубоко законспирированных вражеских агентов можно выявить только с помощью трудящихся — рабочих, крестьян, красноармейцев. И Менжинский обращается к ним за помощью. 21 февраля 1920 «Известия ВЦИК» публикуют обращение Особого отдела ВЧК «Ко всем гражданам Советской республики».
Особый отдел ВЧК призывал «рабочих, красноармейцев, коммунистов и всех граждан прийти ему на помощь в его борьбе с врагами Советской республики и, не стесняясь ни формами, ни изложением, присылать сведения о всех замеченных случаях, где можно заподозрить шпионаж, злостный саботаж, измену, а также о всех других действиях тайных врагов республики, направленных к подрыву мощи Красной Армии».
Вместе с Дзержинским Менжинский настойчиво борется за утверждение в работе органов госбезопасности советской социалистической законности. 28 февраля 1920 года всем чрезвычайным комиссиям был направлен приказ Президиума ВЧК «О строгом соблюдении советских законов». В приказе подчеркивалось требование, чтобы все советские декреты и постановления точно и беспрекословно исполнялись всеми без исключения: «Это необходимо для того, чтобы избежать ошибок и самим не превратиться в преступников против Советской власти, интересы коей мы призваны блюсти».
Характерен следующий случай. 6 февраля 1920 года Псковский губисполком направил в Реввоенсовет республики письмо, в котором сообщал о превышении власти 4-м особотделением и Особым отделом XV армии Западного фронта: требуют представлять сведения о фабрично-заводской жизни в губернии, о наличии и численности партийных организаций 5, 11, 23 и 29-го числа каждого месяца. Губисполком просил «оградить деятельность гражданских советских учреждений, находящихся во фронтовой и прифронтовой полосе, от незаконных и весьма нецелесообразных требований Особого отдела».