Центральный Комитет ВКП(б) поручает тогда Менжинскому и Куйбышеву срочно обследовать состояние охраны важнейших объектов промышленности и разработать мероприятия по ее усилению. На основании их предложений Совет Труда и Обороны 19 ноября 1927 года принял постановление, которое возложило охрану промышленных предприятий и государственных сооружений, имеющих особое значение для обороны страны, на войска ОГПУ.
Под руководством Менжинского была разработана и осуществлена новая система организации охраны оборонных объектов. Она целиком и полностью оправдала себя не только в мирное время, но и во время Великой Отечественной войны.
Летом 1927 года, к первой годовщине со дня смерти Дзержинского Менжинский пишет для «Правды» статью «О Дзержинском». В этой статье он выразил и свою любовь к Дзержинскому как руководителю и человеку и боль утраты, «нам, людям, близко знавшим Дзержинского, долгими годами работавшими под его руководством, особенно трудно писать о нем». В статье Менжинский показал роль Дзержинского в создании и укреплении органов ВЧК−ОГПУ, сформулировал основные партийные принципы работы советских органов государственной безопасности, сложившиеся под руководством Ленина, ЦК партии при Дзержинском. Эти принципы впоследствии станут называть традициями Дзержинского. Менжинский в этой статье показал, что сила ВЧК при Дзержинском была в постоянном руководстве партии, в законопослушании партии, в опоре на рабочий класс, в чекистском мастерстве работников.
Пройдет еще четыре года, и Менжинский скажет: «Пять лет как нет Дзержинского. Но живо его дело, живы его мысли, жива его тактика».
В эти же годы Менжинский завершает начатую еще при Дзержинском реорганизацию пограничных войск. В единый аппарат были слиты пограничные чекистские органы и войсковая сила. Пограничные войска получили единую организацию и обрели стройную структуру: застава — комендатура — пограничный отряд — пограничный округ — Главное управление пограничных войск ОГПУ. Эта структура и организация пограничных войск выдержала проверку и мирного времени и войны и в основе своей сохранилась до наших дней.
Рост индустриальной мощи Советского Союза позволил значительно усилить техническую оснащенность пограничных войск, снабдить их самым современным по тому времени стрелковым оружием.
Чекисты усилили охрану западных и восточных границ, ликвидировали басмачество в Средней Азии, банды белогвардейцев и хунхузов на дальневосточной границе, которые нередко служили вооруженным прикрытием для переброски через границу шпионов и диверсантов. Пограничники практически пресекли контрабандный промысел: с 1925 по 1928 год они задержали контрабанды на сумму 14 миллионов 350 тысяч рублей золотом.
Много внимания Менжинский уделял укреплению командных кадров органов и войск ОГПУ, пополнению их рабочими от станка, коммунистами, комсомольцами. Старый чекист, служивший и в Особом отделе и в пограничных войсках, Фомин вспоминает, что, когда он доложил председателю ОГПУ о стойкости курсанта-часового, вчерашнего рабочего паренька, отказавшегося принять взятку от преступника, Менжинский сказал:
— Нужно, чтобы в ВЧК приходило как можно больше рабочих, чтобы школы чекистов пополнялись в основном за счет рабочих, особенно металлистов — этого передового отряда рабочего класса.
Не случайно, отвечая на приветствия представителей общественных организаций в день 10-летия органов ВЧК−ОГПУ на пленуме Московского Совета, Вячеслав Рудольфович с гордостью говорил:
— Я не в состоянии ответить на все, что здесь было сказано. Даже опытного оратора смутили бы эти комплименты. Но меня выручает то, что, хваля нас, вы хвалите себя. Ведь качества работников ГПУ — это качества пролетариата, давшего массу работников-чекистов. Да и учителя у нас были хорошие. Ленин — вождь. Дзержинский — организатор. И, наконец, сама задача — охрана завоеваний Октября и мирного строительства СССР — настолько увлекательна, что каждый, кого бы вы ни поставили, выполнял бы ее так же, как и мы.
Вячеслав Рудольфович пользовался огромным авторитетом и уважением в пограничных и внутренних войсках ОГПУ. По постановлению общих собраний, личного состава, поддержанных местными партийными и советскими органами, Менжинский был зачислен почетным красноармейцем и почетным пограничником многих частей и подразделений ОГПУ. Так, красноармейская конференция Молдавского погранотряда в своем постановлении записала: «Избрать тов. В. Р. Менжинского, стоящего во главе органов и войск ОГПУ, как старого, закаленного в борьбе ленинца-чекиста, впитавшего в себя все славные традиции ленинской большевистской партии, органов и войск ОГПУ, почетным красноармейцем-пограничником 25 Молдавского пограничного отряда войск ОГПУ».