Материальная часть бронепоездов после гражданской войны совершенствовалась и состояла из паровоза, покрытого броней, двух — четырех бронеплощадок, площадок противовоздушной обороны (ПВО) и четырех (реже двух) контрольных платформ.
Бронепаровоз, на тендере которого сооружалась командирская рубка, образно говоря, являлся сердцем «крепости». Как средство тяги он использовался только в боевых и учебных целях. Во время длительных переездов и на маневрах применялся обычный небронированный паровоз — «черный», по прозвищу железнодорожников.
Как и в гражданскую войну, в абсолютном большинстве своем это были машины серии О различных модификаций (Ов, Од, Ок, Ои). Невысокие, с виду маломощные, они оказались идеальными в боевых условиях.
Паровозы серии Ов («овечки») были созданы еще в 1890 году по проекту начальника технического отдела службы тяги Владикавказской железной дороги В. И. Лопушинского. Это были паровозы типа 0–4–0 с машиной двукратного расширения пара, общей массой 52,5 тонны. Паровоз серии О имел конструкционную скорость 50 километров в час и мог водить поезда массой до 730 тонн. В 90-е годы XIX века — 20-е годы XX века машины серии О были основными грузовыми паровозами и эксплуатировались на всех дорогах.
Бронеплощадка как основа бронепоезда представляла собой усиленную четырехосную или двухосную железнодорожную платформу (реже металлический пульмановский вагон), имевшую стальной корпус с одной или двумя орудийными башнями. Состояла она из верхней части — кузова, закрытого, как правило, 20–25-миллиметровой броней сверху и 45-миллиметровой броней с боков, а также нижней части — рамы с ходовыми частями (тележками), рессорами, упряжными и буферными устройствами. Орудийная башня крепилась на металлическом каркасе внутри бронеплощадки. Позднее на бронепоездах «Смерть немецким оккупантам!» (депо имени Ильича), «Козьма Минин», «Илья Муромец», «Московский железнодорожник» устанавливали башни от танков Т-34. Башня вращалась на 360 градусов, что позволяло артиллеристам вести круговой обстрел. Для входа в башню и подачи в нее снарядов в броне были сделаны двери, а под ними — запасные люки. Верхняя часть башни имела вырез-амбразуру для пушки и окно для пулемета. Позднее для оборудования бронепоездов стали применять танковые телескопические прицелы.
В первые месяцы Великой Отечественной войны чаще встречались однобашенные четырехплощадочные бронепоезда, построенные в Брянске. Эти мощные боевые машины с отвесными бортами, высокими и прямыми клепаными башнями имели высоту пульмановского вагона. На их вооружении обычно были четыре 76-миллиметровых короткоствольных орудия образца 1902 или 1927/1932 годов, восемь станковых пулеметов систем «максим», «ДТ» («Дегтярев танковый»), бельгийский «браунинг». Станковые пулеметы устанавливались в специальных амбразурах, по два на каждой стороне бронеплощадки. Дальность стрельбы из орудий бронепоездов составляла 6–8 километров.
Но, как показали в дальнейшем бои 1941–1942 годов, брянские бронепоезда с такими площадками оказались легкоуязвимыми.
Новое слово в сооружении броневой техники зимой 1941 года сказали строители Горького и Мурома, создавшие бронепоезда «Козьма Минин» и «Илья Муромец». Приземистые, обтекаемой формы, вооруженные мощной броней бронеплощадки являлись техническим новшеством среди крепостей на колесах.
Бронепоезд № 659 «Козьма Минин» перед отправкой на фронт.
В ходе боевых действий бронепаровоз ставился между броневыми площадками и обязательно тендером к противнику. Команда «Назад» означала практически движение вперед и выполнялась машинистом путем перевода реверса и открытия регулятора. Команда «Вперед» обозначала движение бронепоезда от линии фронта. По отношению к бронепаровозу правая и левая стороны именовались бортами — правым и левым.
К боевой части бронепоезда для хозяйственных и служебных целей присоединялись 6–20 товарных и классных вагонов, называемых базой. Они использовались для расположения командного состава дивизиона (вагон-штаб), хранения боеприпасов, запасов материально-технических средств. Кроме того, база имела еще вагон-кухню, вагон-мастерскую, вагон-клуб. При ведении боя база должна была размещаться в тылу на ближайшем железнодорожном перегоне.