Было ясно, что и в мирных условиях требуется наращивать мощь Вооруженных Сил Советского государства. Коммунистическая партия и Советское правительство, следуя заветам В. И. Ленина, принимали все меры, чтобы наша армия и флот были в высокой степени боевой готовности, чтобы они могли надежно защищать мирный труд советского народа.
После окончания гражданской войны начался новый этап военного строительства - переход Вооруженных Сил на мирное положение. В этот период осуществлялась реорганизация Красной Армии, принимались меры к улучшению политико-воспитательной работы и подготовке командного и политического состава, настойчиво изучался боевой опыт, создавались новые уставы Советских Вооруженных Сил. Под руководством Коммунистической партии решались сложные вопросы организационного строительства Красной Армии, налаживалась подготовка военно-политических кадров. Уже тогда было обращено особое внимание на необходимость укрепления специальных технических частей: пулеметных, артиллерийских, автоброневых, авиационных и других, на обеспечение их всем необходимым.
Андрей Васильевич, будучи .в 1922-1924 годах военным комиссаром полка и дивизии, показал себя энергичным и инициативным политическим работником, верным проводником политики партии в армейских массах. В аттестации на военного комиссара Четвертой кавалерийской дивизии А. В. Хрулева за 1923 год записано: "Энергичен, обладает инициативой. Имеет большой боевой опыт. Хороший организатор и администратор".
В 1925 году его направили учиться на военно-политические академические курсы высшего политсостава Красной Армии. И там отмечалось его усердие и настойчивость в изучении военного дела. Он упорно овладевал общественно-политическими науками, глубоко и всесторонне изучал экономические и морально-политические возможности Советского государства и возможности его вероятных противников.
Успешно закончив учебу, А. В. Хрулев снова отправился в войска. Здесь он на практике применял полученные теоретические знания и боевой опыт гражданской войны. Будучи более трех лет военным комиссаром Десятой кавалерийской дивизии, он вновь показал себя боевым политическим вожаком. Андрей Васильевич не чуждался низовой "черновой" работы, всегда стремился быть среди людей. В дивизии, прошедшей огромный боевой путь, он пользовался большим и заслуженным авторитетом, его любили бойцы и командиры. Командование, отмечая хорошее знание дела и большой политический кругозор, аттестовало его как достойного на выдвижение.
В 1928 году он был назначен заместителем начальника политуправления Московского военного округа. На этом посту он отдавал много сил, энергии, знаний и опыта укреплению боевой мощи войск округа. Здесь уместно подчеркнуть, что политические органы в армии наряду с огромной работой, проводимой по идейно-политическому воспитанию личного состава, никогда не стояли в стороне от вопросов материального обеспечения войск, от войскового хозяйства. Они всегда заботились о том, чтобы все бойцы были хорошо накормлены, одеты, обуты, чтобы организован и благоустроен был их быт.
Кто-кто, а Андрей Васильевич Хрулев за многие годы пребывания в армии в должности начальника политотдела, комиссара, а потом заместителя начальника политического управления столичного военного округа хорошо понимал, что значит своевременное обеспечение воинов всем необходимым, что положено для службы, выполнения учебных и боевых задач, насколько велика роль служб снабжения в обеспечении высокой боеготовности войск. Андрей Васильевич часто бывал в частях, подразделениях, подолгу беседовал с бойцами, командирами и всегда был не только начальником, но и старшим товарищем-коммунистом.
Однажды в беседе с молодым солдатом Хрулев уловил нотки недовольства по части снабжения. Он спросил с некоторой иронией:
- Это кто же обидел молодого солдата?
- Да меня трудно обидеть, товарищ командир, - отвечал тот. - Мы все понемногу обижены. Обмотки мешают мотористам работать на машинах. Чуть зацепил - и пошла раскрутка.
- А может, моторист еще не научился как следует закручивать обмотки? все с той же лукавинкой продолжал Хрулев.
- По третьему служим, - докладывал невозмутимый моторист, - а все никак не приемлет самолет обмотки.
После этого разговора с солдатом Хрулев поставил вопрос о снабжении некоторых технических частей сапогами, и вскоре этот вопрос был решен положительно. Находясь на службе в столичном военном округе, Хрулев много внимания уделял развитию и совершенствованию войскового и оперативного тыла, оснащению его техническими средствами, улучшению организации материального, технического и медицинского обеспечения войск. На проводившихся в ту пору учениях и военных маневрах он добивался сколачивания тыловых частей и войск в полевой обстановке, в условиях, приближенных к боевым.
У Хрулева было сильно развито чувство рачительного хозяина народного добра. Это и явилось одной из причин того, что его назначили начальником финансово-планового управления РККА. И вот в тридцатые годы под его руководством стала проводиться в жизнь очень важная перестройка системы хозяйства военного ведомства, наводился должный порядок в войсковом хозяйстве, внедрялась строжайшая финансовая дисциплина сверху донизу. Перед самой войной - новое назначение. Хрулева переводят в Киевский особый военный округ - начальником военно-строительного управления. Здесь он провел большую работу, проявляя настойчивость в выполнении заданий партии и правительства по строительству объектов оборонного значения, высокую принципиальность в решении многих других вопросов строительства Советских Вооруженных Сил и дальнейшего укрепления тыла. Военные строители, деятельность которых возглавлял Андрей Васильевич, за сравнительно короткий срок построили много всевозможных складов, аэродромов, гаражей и других важных объектов, а также добротных военных городков, лагерей, казарм, жилых домов для семей офицерского состава.
В его партийной характеристике за этот период указывается:
"Тов. Хрулев проявил энергичность и умение в руководстве аппаратом управления и строительными участками, в расстановке кадров, в мобилизации их на выполнение плана строительства. План первого полугодия до прихода в управление тов. Хрулева был выполнен на 25 процентов, а за второе полугодие под руководством тов. Хрулева на 57 процентов".