Развернулась спешная, экстренная мобилизация всех сил на отпор германскому нашествию. Николаю Ильичу, кроме того, пришлось заниматься и оперативным руководством действиями войск.
Наступление противника удалось остановить к 23 февраля. В этот день в Петрограде под рев заводских гудков на многочисленных митингах шла массовая запись добровольцев в Красную Армию. С 1919 года и до настоящего времени этот день празднуется как День Советской Армии и Военно-Морского Флота.
Борьба с наступлением германских войск показала, что необходим единый орган не только формирования Красной Армии (чем занимался Наркомат по военным делам), но и оперативного руководства ее боевой деятельностью. В начале марта СНК по инициативе В. И. Ленина образовал Высший Военный Совет. Военным руководителем его был поставлен генерал М. Д. Бонч-Бруевич. Н. И. Подвойский стал членом совета.
Высший Военный Совет с помощью старых военных специалистов разработал план развертывания полуторамиллионной армии из всех родов войск, построенной по единым штатам. В апреле ВЦИК и СНК приняли декреты о создании в волостях, уездах, губерниях и округах военных комиссариатов, об обучении населения военному делу…
Для ускорения формирования военкоматов и Красной Армии, контроля за выполнением апрельских декретов ВЦИК и СНК по вопросам военного строительства 24 апреля 1918 года была создана Высшая Военная Инспекция (ВВИ). В. И. Ленин и Я. М. Свердлов считали, что ВВИ должен возглавить преданный революции партийный работник, знающий военное дело, имеющий опыт военно-организаторской работы и авторитет в массах. Председателем ВВИ был назначен Н. И. Подвойский. Он был наделен чрезвычайными полномочиями представителя ЦК, ВЦИК, СНК, Наркомвоена с правом самостоятельно издавать приказы по Красной Армии, назначать и смещать в ней должностных лиц. Его доклады, выводы и предложения при необходимости могли адресоваться в ЦК, ВЦИК и СНК непосредственно или через Наркомвоен.
На следующий же день после назначения Николай Ильич подписал приказ об инспектировании военной работы в Орле и других городах. Поезд ВВИ отбыл из Москвы. Замелькали города: Орел, Брянск, Ртурск, Рязань, Саратов, Сызрань, Уфа…
Как и предполагал Николай Ильич, в первые месяцы своей деятельности Высшая Военная Инспекция стала не столько органом инспектирования, сколько органом строительства Красной Армии. Ни в одном городе, где побывала ВВИ, декреты о создании военкоматов и переформировании местных отрядов Красной Армии в штатные батальоны и полки не выполнялись в должной мере. Всюду еще действовали военные отряды Советов. Разношерстные, одетые и вооруженные кое-как отряды, гордо именовавшие себя, например, «Курская Красная Армия», не признавали военных специалистов, командиров, а подчас и не подчинялись никому, даже сформировавшей их местной власти. Поэтому с самого начала Н. И. Подвойский твердо установил, что главная задача ВВИ — не фиксирование недостатков, а их устранение с помощью работников инспекции. ВВИ уезжала из города только тогда, когда работа в нем приводилась в соответствии с требованиями апрельских декретов ВЦИК и СНК, когда все назначения и перемещения должностных лиц были произведены.
Обычно порядок работы ВВИ был такой. Приезжая в тот или иной город, работники инспекции в течение двух-трех часов знакомились с постановкой военной работы, состоянием отрядов и частей. Опытным военным специалистам было вполне достаточно этого времени, чтобы наметанным глазом определить реальное положение дел. Они тут же составляли Н. И. Подвойскому предварительный доклад. Сам он в это время изучал работу губкома и губсовета. Ознакомившись с докладом инспекторов, он проводил совместное совещание ВВИ и местных ответственных работников и на самых свежих, неопровержимых фактах показывал состояние военной работы, ставил задачи по ее налаживанию. Затем сутки, двое, трое, без сна и отдыха шла не просто напряженная, а лихорадочная совместная работа по преодолению имевшихся неполадок. Николай Ильич шел в казармы, штабы, на заводы, участвовал в работе губпартконференций, пленумов, если таковые случались или созывались по его требованию. Он с присущей ему страстью разносил местничество, консерватизм, медлительность, разъяснял политику партии в области советского и военного строительства, добивался принятия местными органами соответствующих резолюций и помогал организовывать их выполнение. Почти везде в Советах ему противодействовали эсеры и меньшевики. В Рязани, например, ему пришлось «скрестить шпаги» с одним из лидеров партии левых эсеров Спиридоновой, приехавшей на губернский съезд Советов. Но и здесь Николай Ильич добился принятия большевистских резолюций.