Второй результат упомянутых событий, еще более важный для молодой империи, возник как кровавый конфликт между империей и папством. Как это часто бывает в истории, после первоначального сотрудничества союзники вскоре готовы рвать друг друга на части. Как только общий противник в лице православных греков и Византии был сброшен со счетов, вчерашним соратникам оказалось больше нечего сказать друг другу…
При более детальном рассмотрении всей картины мы увидим, что в период между 962 и 1075 гг. власть была сосредоточена в руках императора. Его администрация назначала епископов, контролировала избрание пап и диктовала им свою волю. Епископства и аббатства являлись административными единицами и составляли костяк империи. Впервые в истории континента была сформирована продольная ось с севера на юг через Альпы, между Балтийским, Северным и Средиземным морями. Священная империя германской нации постепенно становилась хребтом Европы; во время Второй мировой войны именно по этой вертикали разворачивались действия сторон, известных как «осевые силы». В 1184 году, через сто тридцать лет после официального начала раскола, империя воспользовалась перемирием с Ватиканом и приняла название Sacrum Imperium romanum («Священная Римская империя»), противопоставив таким образом свое политическое и идеологическое единство православному противнику на востоке.
Это пресловутое единство быстро распалось, как только папскому престолу стало не нужно делить власть с восточными патриархами. Также как германские императоры освободились от своих обязательств перед императором Византии, римские понтифики тоже захотели больше власти и решительно двинулись в направлении абсолютизма – настолько, что их слово стало перевешивать слово императора.
Все началось в 1075 году со знаменитой Борьбы за инвеституру, когда каждая из сторон претендовала на право выбирать и назначать епископов. Два года спустя король и римский император Генрих IV был отлучен от церкви. Опозоренный скандалом король в знак своего раскаяния был вынужден отправиться в город Каносса, где в тот момент находился Папа Римский, и преклонить перед ним колена. Этот символический акт уничтожил его авторитет. Конфликты вновь разгорелись в XII и XIII веках при императорах Фридрихе Барбароссе и Фридрихе II Гогенштауфене. При них империя достигла своего максимального размаха, но ни тот, ни другой не смогли перебороть Ватикан: оба были осуждены и лишены милости понтификов. В 1122 году Вормсский конкордат положил конец борьбе за инвеституру. Император был вынужден согласиться на свободное избрание епископов Церковью в Италии и Бургундии, но сохранил за собой абсолютную свободу действий по дарованию их мирских атрибутов. Хотя императоры утратили часть своей власти в этой авантюре, им удалось положить начало процессу отделения государства от церкви в том, что касалось их прав и обязанностей. Конкордат стал первым шагом к обретению независимости светской власти от церковной. Для других европейских монархий, например Франции, преимущества были еще значительнее.
В 1231 году власть императора сократилась еще больше, когда Ассамблея в Вормсе обязала Фридриха II уступить некоторые суверенные права герцогам, которые с тех пор вернули себе право чеканить монеты, устанавливать размер пошлин и даже издавать законы в определенных сферах жизни.
Еще с большей силой конфликт с Ватиканом разгорелся в Италии и Германии после 1240 года вследствие борьбы между политическими группировками гвельфов и гибеллинов, поддерживавшими соответственно папу и императора. Эта борьба продолжалась в течение всего Средневековья и дала немало материалов Данте и Макиавелли для их произведений.
В 1356 году, во избежание двойных выборов, в «Золотой булле» были впервые сформулированы принципы, по которым избирались суверены. Там же было зафиксировано количество курфюрстов, чтобы их число нельзя было увеличить. Согласно «Золотой булле» папа не имел права избирать монарха, а лишь имел ограниченное право на ведение частных войн.
Конкордат 1447 года между папой Николаем V и императором Фридрихом III был вновь посвящен урегулированию папских прав, а также привилегий Церкви и епископов на территории империи, а также правил избрания епископов, аббатов и настоятелей. Кроме того, речь шла о присвоении церковных санов и финансовом правопреемстве среди аббатов и епископов.