В многочисленных беседах с красноармейцами Николай Ильич не подстраивался под их настроение, не сюсюкал с ними, а разъяснял необходимость наведения порядка, давал решительный отпор крикунам и разгильдяям. «Только отборные солдаты Красной Армии, дисциплинированные и послушные достойному командованию, — утверждал он, — достигнут желательного результата борьбы».
Работа по укреплению дисциплины осложнялась тем, что в 1918 году в Красной Армии еще не было уставов, регламентирующих ее жизнь. Старые уставы Николай Ильич изучил настолько, что на совещаниях и в беседах цитировал их наизусть. Введенные в заблуждение выправкой и собранностью Николая Ильича, знанием им уставов и наставлений, молодые местные работники подчас справлялись у членов ВВИ, правдивы ли слухи, что Подвойский был полковником старой армии. А Николай Ильич изучал уставы для того, чтобы все рациональное, выработанное веками и необходимое для любой армии перенести в Красную Армию. 19 мая 1918 года приказом ВВИ № 89 он распорядился: «Впредь, до обнародования военных уставов… в вопросах обучения и внутреннего быта руководствоваться соответственными уставами старой армии… пользуясь теми статьями и пунктами, которые не противоречат духу организации армии на началах, выработанных в декретах и приказах Рабоче-крестьянского правительства». Вскоре РВСР подтвердил это распоряжение.
Н. И. Подвойский видел, что боеспособность Красной Армии во многом зависит от работы других наркоматов — продовольствия, путей сообщения… Он добился разрешения на их инспектирование Высшей Военной Инспекцией. В процессе работы в прифронтовой полосе Н. И. Подвойский пришел также к убеждению, что созданные весной военкоматы уже нуждаются в реорганизации. Он образовал в составе ВВИ комиссию, которая приступила к подготовке реформы военкоматов. В связи с выдвинутой В. И. Лениным задачей довести Красную Армию до трех миллионов человек, Николай Ильич подключил ВВИ к решению и этой задачи. 19 октября 1918 года Н. И. Подвойский представил в ЦК РКП(б) «Программу работ Коммунистической партии по созданию трехмиллионной армии».
В. И. Ленин высоко ценил деятельность ВВИ. Об этом свидетельствуют боевые задания, которые он давал инспекции, его личное общение и переписка с Н. И. Подвойским. Я. М. Свердлов в конце 1918 года в комиссии, разработавшей план объединения контрольных органов, отмечал: «Наиболее законченная форма ведомственного контроля имеется в военном ведомстве, это Высшая Военная Инспекция. Она исполняет целый ряд таких функций, которые мог бы выполнять Государственный контроль, если бы он стоял на высоте». Таким образом, ВВИ в силу сложившихся обстоятельств, а также благодаря неуемной энергии Н. И. Подвойского, его стремлению сделать как можно больше для строительства и укрепления Красной Армии разорвала узкие рамки отведенных ей задач, она стала как бы подвижным филиалом Наркомата по военным делам.
В январе 1919 года ЦК РКП(б) и СНК, выполняя свой интернациональный долг, оказали всестороннюю помощь, в том числе кадрами, молодым советским республикам — Украине, Белоруссии, Латвии, Литве, Эстонии. Н. И. Подвойскому было поручено возглавить Народный комиссариат по военным и морским делам Украины. В феврале 1919 года он с группой военных работников прибыл в Харьков.
Обстановка на Украине в то время была чрезвычайно сложной. Органы Советской власти, создаваемые вслед за отодвигающейся линией фронта, были слабы. Республика кишела кулацкими бандами. Но, успокоенные успехами по быстрому освобождению значительной части Украины, местные военные работники старались не замечать этого.
Быстро ознакомившись с состоянием военного дела, Н. И. Подвойский на очевидных фактах показал местному руководству, что Красная Армия Украины представляет собой конгломерат разношерстных, полупартизанских частей со своими выборными атаманами и «батьками», что Наркомвоен существует только на бумаге, на местах нет ни одного военкомата. Используя опыт РСФСР и опираясь на приехавших с ним из Москвы военных работников, Николай Ильич в считанные дни сформировал аппарат Наркомата по военным и морским делам. Во главе его штаба были поставлены М. А. Соковнин и Б. М. Шапошников. С февраля по май на освобожденной территории Украины было создано 3 окружных, 10 губернских, 88 уездных и 1738 волостных военкоматов. Они поставили на учет более 1 миллиона 800 тысяч человек 22 призывных возрастов, а также более 6 тысяч бывших офицеров и военных чиновников. Было открыто 19 командных курсов, на которых обучалось шесть тысяч курсантов. В условиях непрерывных кулацких мятежей удалось провести несколько мобилизаций, давших 70 тысяч бойцов Южному и 17 тысяч бойцов Украинскому фронтам.