Политические новшества суверена не принесли ожидаемых результатов и поставили под угрозу судьбу унаследованного им дела. В этой ситуации ему следовало воспользоваться помощью имперской церкви. В 1075г. Генрих IV назначил своих епископов в Милане, Сполето и Фермо. Таким образом, он пренебрег только что принятым решением созванного Генрихом VII синода о запрете светской инвеституры. Папа не мог оставить без наказания такой дерзкий шаг, как нарушение постановления Dictatus papae /Диктат папы/.
Конфликт был неизбежен. Однако два соперника, предчувствуя столкновение, старались отсрочить его. Избрание Григория VII происходило вопреки правилам, установленным Николаем II в 1059г., и епископы предложили Генриху IV не признавать выбор римского духовенства. Но король, задетый восстанием саксов, и не желавший разрывать отношения с папой, решил покаяться в личных прегрешениях. Григорий VII серьезно воспринял его заверения и даже облегчил условия мирного соглашения с Саксонией. В декабре 1075г. папа в письме королю изложил суть доктрины Dictatus: указы папы следовало исполнять так же, как заповеди Господни, а мирские властители должны подчиняться наследникам Петра.
Едва ли Генрих IV желал вновь избежать конфликта, который готова была развязать большая часть его духовенства. Организованное сувереном в январе 1076г. собрание в Вормсе состояло в основном из прелатов, а не из представителей мирской власти. Большинство из присутствовавшего духовенства сразу пришло к соглашению с монархом. Тон документа, отправленного в Рим, был грубым. «Брата Гильдебрандта, за которого выступил «женский сенат» /намек на императрицу Агнессу и графинь Беатрису и Матильду Тосканских/, назвали узурпатором, и сеятелем смуты. «Изыди! Изыди», – призывали Гильдебранда, основываясь на власти, которую давал Генриху статус патриция. Текст, распространяемый в Германии, был менее резким; он отрицал право «лжемонаха», как и всех остальных, судить своего суверена. Епископы не противились реформе, но считали недопустимым вмешательством приказания епископам Майнца, Кельна и Магдебурга. Трудно было заставить принять священников обет безбрачия. Возмущенные декретом папы, они заявляли, что скорее откажутся от своего сана, чем от жен.
На самом же деле единство антиримского фронта было лишь видимостью. Расколы проявились сразу как только папа освободил подданных от присяги верности в 1076г. Григорий VII низложил, а затем отлучил от церкви Генриха IV. Затем произошло событие, которое можно было воспринять как кару небесную. На Пасху в присутствии короля, облаченного в одежду для коронации, была провозглашена анафема Гильдебранду, но вечером того же дня молния ударила в собор и резиденцию государя, превратив их в пепелище. Сразу же начались переходы на сторону неприятеля. Архиепископ Трира пытался достичь соглашения, а епископ Майнца перешел в лагерь папы. Пибон Тульский скрылся, чтобы не провозглашать порицание Григория VII.
События приняли другой оборот, когда на собрание в Аугсбурге 2 января 1077г. высшая знать пригласила папу и обязалась не признавать Генриха IV, если он не получит отпущения грехов в течение последующего года. Так вырисовывался союз всегда беспокойной высокой аристократии и папства, чью силу показал Григорий VII. Теперь следовало любой ценой избежать объединения этих двух сил. Генрих решил переправиться в Италию до того как папа решит поехать в Германию. Он прошел в лютую стужу через Альпы и в конце января босой, в позе кающегося грешника взывал к Григорию VII о прощении. Понтифик предоставил помилование, но взамен получил согласие на свой приезд в Германию, чтобы самому разрешить спор между сувереном и князьями. После встречи в Каноссе Григорий объявил, что Генрих IV есть король /rex/. Оглашенные в его адрес порицания потеряли силу. Теперь князья лишались повода настаивать на своей правоте. Так Генрих выиграл время для передышки между двумя схватками. Он мог набраться сил, что он и сделал. Таким образом, в Каноссе папа ликвидировал последствия событий в Сутри, где папа Григорий VI в свое время был обвинен в симонии.
Борьба между «двумя половинами Господа» вошла в новую фазу. В марте 1077г. три архиепископа Германии совместно с высшей знатью низложили Генриха IV, поставив вместо него швабского герцога Рудольфа Райнфельдена. Так аристократия еще раз шагнула навстречу папскому престолу, но Григорий VII не сразу принял её помощь. Его противник в 1080г. в угрожающем тоне потребовал отлучения Рудольфа от церкви. Но король остался низвергнутым, и упорствовавшему грешнику снова грозило отлучение. Однако, совершая этот резкий ход, Григорий допустил политический просчет. От него отвернулось много епископов и несколько кардиналов. На епископском синоде в Бриксене в июне 1080г. Григория низложили, а Генрих назначил на пустующий престол преемников Петра архиепископа Равенны Гвиберта. К существующему антикоролю добавился антипапа.