Вначале Ареобинд разбил 20-тысячное войско персов у Нисибиса. Однако при повторном вторжении крупного персидского войска сначала бежало войско Ареобинда в город Эдессу, а затем — и основные силы от почти взятой Амиды до города Самосата, бросив все свое имущество на месте. Подошедший на помощь Патрикиол со своим сыном Виталианом уже ничего не смог исправить. Войско Ареобинда доблестно отражало атаки врага на Эдессу, но было слишком слабым, чтобы развить успех. Руководители и командиры ссорились между собой, и особенно Ипатий с Апионом. В конце 503 г. был прислан новый главнокомандующий магистр оффиций[89] Целер с подкреплениями, а Ипатий получил отставку с должности главнокомандующего и, возможно, с частями своей Первой армии в прежнем ранге презентального магистра был отозван на Балканы. Командование, как свидетельствует автор-современник Прокопий из Кесарии (Pers. I, 8,20), было децентрализовано и не было главнокомандующего (autokratōr tou polemou). Поздней осенью шахиншах увел главные силы в Вавилонию, а римское войско разошлось на зимние месяцы по отдельным городам, и военные действия практически прекратились. В 504 г. инициатива в войне наконец перешла к римлянам: несколько персидских отрядов были разбиты, началась длительная осада Амиды и страшное опустошение персидской Армении. В начале зимы римские войска разошлись, несмотря на запрет главнокомандующего, по местам расквартирования, прихватив долю добычи. Часть войск зимовала недалеко — в городах Константина-Телла, Ресайна, Эдесса. В результате римляне попали в трудное положение. Но Кавад был занят войной с гуннами на другой границе и согласился на перемирие, уступив Амиду и получив персидский гарнизон Амиды и крупную сумму золотом. Под занавес военных действий римские пограничные войска (лимитаны) усмирили враждебных арабов. Целер уехал к императору. В следующем, 505 г. войска не ушли на свои постоянные квартиры, но расположились следующим образом (Josh. Styl. 87): магистр Востока Ареобинд — в Антиохии, затем он перешел в Апамею; презентальные магистры Патрикий — в Мелитене, Фаресман (назначенный затем вместо Ареобинда) — в Апамее, а потом в Эдессе и Амиде. Тогда же был заключен мир.
Судя по всему, несмотря на ряд поражений, в войне с Персией армия не понесла очень сильных потерь и более или менее сохранила свой численный состав. Причиной поражений первых лет были несогласованность действий военачальников, низкий уровень разведки и, возможно, плохая дисциплина в войсках. Так, в конце 504 г. войска стали самовольно расходиться на зимние квартиры по римским городам, несмотря на запреты Целера. На зимних квартирах солдаты вели себя так, как если бы находились в захваченном вражеском городе, и когда командиры пытались их урезонить, то смутьяны нападали на них с оружием в руках. Все это лишний раз продемонстрировало необходимость дальнейшего реформирования армии.
При Анастасии возобновляется активное фортификационное строительство, которое достигнет своего пика при последующих императорах. После завершения войны с Персией (в 504 г.) римляне за три года выстроили под прикрытием войск знаменитую очень сильную крепость Дара, или Анастасиополь, на самой границе с Персией в нарушение договора. Она располагалась на полпути между персидским городом Нисибис и первыми римскими крепостями в Месопотамии: крепость эта была чрезвычайно важна как опорный пункт для продвижения римских войск в персидские пределы по основной дороге, связывавшей Иран со Средиземноморьем. Одновременно были укреплены и многие другие пограничные города (например, Феодосиополь, Мелитена). Поскольку постоянно удерживать европейских варваров на Дунае, видимо, не представлялось возможным, для лучшей защиты столицы в 510–512 гг. были построены т. н. Длинные стены от Черного до Мраморного морей недалеко от Константинополя.