Долгая продолжительная война на Западе привела к оголению обороны на Дунае, чем вскоре воспользовались северные варвары. Юстиниановское правительство, однако, явно предполагало такой поворот событий, поэтому заблаговременно постаралось обеспечить сельское население достаточным количеством фортов-убежищ и укрепило имеющиеся крепости вдоль границы. Был также заключен договор с антами, направленный против гуннов-кутригуров. Однако размах вторжений вскоре превзошел все ожидания. Склавины, новый сосед империи, совершили весной 546 г. первый крупный набег на Балканы, но тут же потерпели неудачу: их мимоходом разбили союзные империи герулы, отправлявшиеся в Италию. Следующий раз склавины решились перейти Дунай только зимой 547/548 гг. крупными силами: войско империи численностью 15 000 человек следовало за ними по пятам, но не решалось вступить в сражение. В дальнейшем склавины переходят к практике ежегодных преимущественно зимних набегов на Балканы: зимой 549/550, летом 550, зимой 550/551 и зимой 551/552 гг. Тогда же, весной — летом 551 г., и гунны-кутригуры, обойдя антов, вторглись на Балканы. Набеги северных варваров прекратятся только после того, как война в Италии завершится серией блестящих побед римского войска под командованием Нарзеса. Эти победы снова поднимут престиж империи на должную высоту.
В 540 г. шахиншах Хосров воспользовался тем, что империя занята войной на Западе, и тем, что в римской части Армении началось антиримское движение. Ранней весной шахиншах во главе большой армии вторгся в римские пределы. Магистр Востока Велизарий в это время завяз в Италии: несмотря на письма императора, он затянул войну в Италии, пытаясь окончательно добить готов. Поэтому главное командование на персидском фронте было передано магистру Армении Бузе, который не располагал, однако, достаточными силами. Из Африки на помощь был послан кузен императора Герман с 300 воинами. Для укрепления обороны были переведены войска из Ливана. Персы взяли и разрушили несколько крупных городов, в том числе и главный город Востока Антиохию. Другие города откупились от них золотом и серебром. В 541 г. вернувшийся с Запада Велизарий нанес ответный локальный удар по Ассирии, воспользовавшись тем, что Хосров был занят войной в Лазике. В Лазике же персы взяли римские укрепления и оставили в них свои гарнизоны. В 542 г. Хосров снова вторгся в римскую Месопотамию, но вынужден был повернуть назад, будучи устрашен обманными маневрами Велизария. В 543 г. магистр Армении Валериан и магистр Востока Мартин вместе с Ильдигером совершили вторжение в персидскую Армению, но были разгромлены персидским войском около города Англон. Весной следующего года (544) Хосров снова вторгся в римские пределы и осадил город Эдессу, но, поскольку осажденные успешно отбили все приступы, ушел, удовольствовавшись выкупом. После этого было заключено перемирие.
Через четыре года, в 548 г., с новой силой вспыхнула борьба за Лазику. Юстиниан послал туда войско в 7000 человек во главе с Дагисфеем, которое предприняло неудачную осаду крепости Петра. В 550 г., несмотря на одержанную в этом году победу, Дагисфей был заменен магистром Армении Бессу. Бесса после длительной осады в 551 г. взял Петру, но затем удалился в Армению, оставив войска под начальством своих командиров. В последующие годы персы пользовались пассивностью Бессы: они пытались вытеснить римлян из занятых ими укреплений, вторгаясь каждый год крупными силами в Лазику из Армении. Юстиниан же посылал только небольшие подкрепления. В 554 г. Бесса был смещен, а командование было передано Мартину. На следующий год (555) ему удалось одержать победу над войском персов в 60 000 человек, перебив 10 000 из них у города Фазис. В дальнейшем римляне установили контроль над всей Лазикой и соседними горными долинами, кроме области Сванетия.
На Западе одновременно с войной в Италии империя вмешалась во внутренние дела государства визиготов в Испании. Туда в 554 г. был послан флот с десантом во главе с Либерием. Он разбил визиготов у Гиспалиса (совр. Севильи) и подчинил империи юг Иберийского полуострова.
В результате империи теперь принадлежало почти все Средиземноморье, за время правления Юстиниана территория ее увеличилась в полтора раза. Таких завоеваний римляне давно уже не осуществляли. В последнее десятилетие правления Юстиниана империя достигла своих наибольших для VI в. размеров, практически восстановив половину утраченных в V в. владений на латинском Западе.