Командование армией было доверено Константином трем магистрам милитум, один находился в Константинополе и назывался magister militum in praesenti, другой командовал пехотой (magister peditum), а третий — кавалерией (magister equitum). Позднее оно было разделено между восьмью, а затем и десятью магистрами милитум, двое из них отвечали за оборону Константинополя. Под их командованием находились дуки, военные правители одной или нескольких провинций, назначаемые императором, от которых в Константинополе зависели административные канцелярии и вспомогательные службы (магистры оффиций). Личный состав был слишком незначительным для того, чтобы участвовать в боевых действиях. По оценкам он составлял немногим больше 550 000 человек — это общее количество войск, имевшихся в распоряжении к началу V в., но в следующем веке их было уже 150 000, так как германские племена, которые поставляли империи большую часть войск, обосновались на Западе. В VI в. армия включала в себя от 15 000 до 30 000 человек. Превосходство этой армии на суше достигалось благодаря четкой организации: возглавляемая стратигом, которого назначал император и который приносил ему присягу, армия делилась по своему личному составу на три подразделения (mere), возглавляемые мерархами, тот, кто был в центре, назывался ипостратиг, он обеспечивал первую линию фронта. Каждая часть войска также делилась на три подразделения (моирэ), которыми командовали дуки. В свою очередь, эти элементы войска состояли из батальонов или эскадронов, тагм, тактических единиц, в составе которых было три-четыре сотни людей вместе с командирами, трибунами, младшими офицерами (гекатонтархи — для групп из ста человек, илархи — знаменосцы) и унтер-офицерами (декархи командовали группой в десять человек, пентархи — пятью солдатами, ау тетрархов в подчинении было четыре человека). В каждой тагме были свои санитары, писари, разведчики, свой обоз, барабанщик, глашатай и курьеры. Все были связаны со своим командиром присягой.
Оборонительное вооружение (латы, поножи, шлемы, щиты) оставалось тяжелым, но пехота отходит на второй план, уступая место кавалерии, вооруженной луками, метательными копьями и мечами. Те, чьей функцией раньше было отбрасывать противника к линиям пехоты, а затем стремительно атаковать для того, чтобы обратить врага в бегство, с VII в. становятся неотъемлемой частью битвы, обеспечивая византийской армии мобильность, которая давала ей преимущество перед персидской армией.
Военные командиры обеспечивали управление армией и всем тем, что имело отношение к экипировке, медицинской службе, снабжению, которым занималась страна, распределению добычи. Но служба, выплачивающая жалованье, зависела от канцелярии в столице, а снабжение частей военными священниками, я полагаю, — от патриархата. Дисциплина была строгой, наказания, предусмотренные против тех, кто нарушает правила, которые офицеры объясняли солдатам, жестокими (штраф, разжалование, децимация — казнь каждого десятого). Однако правила плохо исполнялись, солдаты разного происхождения думали прежде всего о выгоде, которую можно было извлечь из их положения: предательства и восстания в армии чуть ли не привели империю к падению и стоили жизни императору Маврикию в 602 г.
Византийские хронисты приписывают императору Ираклию (610–641 гг.) глубокую реформу армии, однако ее истоки остаются практически неизвестными. Но ясно, что персы в правление Ираклия наносили большие убытки государству. Можно подумать, что важным элементом их постоянных побед было размещение элитного корпуса в Малой Азии, провинции достаточно богатой для того, чтобы снабжать их лошадями и продовольствием, и расположенной близко от противника. Основные части византийской армии, которым были даны названия фем, Анатолик («восточная») и Армениак, возглавляли стратиги, а Опсикий (бывший obsequium, связанный с magister militum in praesenti) — комит. Они располагались на разграниченных территориях, как раньше элитные корпуса, называвшиеся вукелариями и оптиматами, корпуса фракийцев, пришедших из Европы, и федератов, зависящих от фемы Анатолик. Фракия, Македония, Эллада, Сицилия были реорганизованы по тому же образцу к концу VII в. или в начале VIII в., став военными подразделениями того же рода. В каждом из этих подразделений существовало единство управления, две власти, военная и гражданская, были смешаны, а сами подразделения носили то же название — фема. Фема делилась на две или три турмы, которыми командовали и управляли турмархи. Если верить арабскому писателю конца первой половины IX в. Ибн-Хордадбеку, под командованием стратига находилось 10 000 человек, разделенных на две турмы по 5000 каждая. Они, в свою очередь, делились на пять банд по тысяче человек под командованием друнгариев. Каждая банда включала в себя пять пентархий во главе с комитами. Но нельзя обобщать пример, известный арабскому автору и описанный им. Штаб стратига включал доместика фемы и хартулярия, в чьи обязанности входило составление военных списков и выплата жалованья. Некоторые приграничные регионы (Малая Азия, Болгария, Италия) охранялись клисурами под командованием клисурарха, которые позднее были возвышены до ранга фем. Крепости, выступающие из территории империи, находились под командованием акритов, которые возглавляли маленькие подразделения, независимые от фем. В их задачу входило сохранение контакта с противником для того, чтобы известить армию о его намерениях и по необходимости помешать своими действиями слишком большой концентрации вражеских войск.