Но Оттон быстро обнаружил, что новое положение давало ему не только преимущества. Римляне смотрели на него как на чужака, которого аристократы, убежденные в том, что они ведут свой род от Сципионов или Фабиев, воспринимали с презрением и даже неприязнью. Даже если их положение изменилось с приходом этого варвара, они его не принимали. Они неоднократно восставали, а провалы их мятежей лишь усиливали их горечь. Для императора не было спокойной жизни в Риме. У Оттона возникли серьезные проблемы не только в отношениях с римским населением. Как и Карл Великий, он встретил враждебность со стороны Византии, правитель которой, несмотря на то что он был греком, считал себя единственным, кто имеет право носить титул римского императора. Верный каролингским обычаям, Оттон принял в качестве титула только imperator Romanorum et Francorum, тогда как в этой формуле обычно содержались слова imperator augustus. Между тем он нанес удар по претензиям Константинополя, когда получил клятву верности от лангобардских князей Беневента и Капуи, заявив, что забирает их из-под власти императора Востока. Никифор Фока, однако, придерживался принципа, что Римская, то есть Византийская, империя была единственной, тогда как все другие князья являются простыми королями. Он дошел до того, что потребовал себе Рим и Равенну. Подобная позиция не смутила Оттона, не отчаявшегося получить для своего сына руку принцессы «родившейся в пурпуре», дочери императора. Чтобы составить более красивую партию, в 967 г. он заставил Иоанна XII короновать императором своего сына, будущего Оттона II. Воинственный Никифор ответил подготовкой военного похода. Оттон I вместо ответа предпринял поход на Апулию и Калабрию, правда, без особого успеха. Переговоры, напряженность которых описал епископ Лиутпранд Кремонский, закончились только после убийства Никифора. Его преемник, Иоанн Цимисхий, согласился на компромисс: он сохранил Калабрию и Апулию, а лангобардские княжества остались в подчинении Оттона. В 972 г. Оттон II сочетался браком с Феофано, не с «порфироносной» принцессой, но княжной из рода басилевса. Ей, несмотря на свое менее знатное происхождение, которого так добивался ее тесть, суждено будет сыграть важную роль при дворе Западной Римской империи, она привнесет туда культуру и политическое мышление Востока.
Оттон I, проведя шесть лет в Италии, вернулся за пределы Альп осенью 972 г. Длительное отсутствие правителя ослабило его власть. В окружении королевы-матери, умершей в 968 г., неодобрение римской политики, проводимой императором, которого не любила Матильда, было ясно заметно. Архиепископ Магдебургский Адальберт, который сделал карьеру благодаря Оттону, подлил масла в огонь тем, что при встрече оказал маркграфу Биллунгу почести, достойные разве что короля. Таким образом, у Оттона I появилась проблема, которую напрасно старались решить его преемники: как одновременно править к северу и к югу от Альп? Хотя Оттон I уже перешагнул шестидесятилетний рубеж, он сделал все возможное, чтобы громко заявить о своих правах на власть. Он собрал синод прелатов империи в своей резиденции в Ингельхейме и распределил епархии. Затем, торжественно поручив епископу Регенсбургскому совместно с епископом Пассау подтвердить христианизацию Венгрии, он предложил архиепископу Магдебургскому исправить свою ошибку и подготовить его вступление во всем блеске, приличествующем правителю. Наконец, перед Пасхой он собрал в Кведлинбурге весенний съезд представителей знати своего королевства. Туда прибыли князья Польский и Богемский, магнаты Венгрии, представители Дании, король которых недавно принял христианство, болгарская, русская, беневентская и византийская делегации. Весь христианский мир, который своим недавним расширением был отчасти обязан энергии Оттона I, почтил таким образом «превосходство» императора, его духовное господство. Это была слава заходящего солнца, окутавшего ореолом изможденного человека, которому предстояло умереть несколькими неделями позже, 7 мая 973 г. В соответствии с его желанием, он был похоронен в соборе Магдебурга, которым он дорожил так же, как некогда Карл Великий придворной часовней в Эксе.