С замиранием сердца и полным осознанием ожидавших его трудностей Фридрих решился на новые переговоры, вознамерившись на сей раз довести их до конца. Контакты были установлены в конце лета, и 21 октября 1176 канцлер Христиан, архиепископ Магдебургский Вихман, епископ Вормсский Конрад и протонотариус Ардуин явились к папскому двору, располагавшемуся в тот момент в Ананьи, южнее Рима. Кардиналы, делегированные папой, сразу же заявили, что не смогут начать обсуждение вопросов, если в дебатах не будут участвовать полномочные представители лиги, короля Сицилии и императора Мануила Комнина. Представители императора не дали прямого ответа на это требование. Они заметили, что военные операции против мятежных городов по обоюдному соглашению приостановлены и это перемирие будет длиться до тех пор, пока не закончатся переговоры. Но настаивали, чтобы, по крайней мере, первые обсуждения проходили только между ними, с одной стороны, папой и его кардиналами — с другой, и с соблюдением строжайшей секретности во избежание утечки информации и особенно дезинформирующих слухов. Александр III согласился на это, уточнив, что оставляет за собой право держать в курсе обсуждений ломбардцев и прочих своих союзников, в чем их и заверил.
Так через своих послов Фридрих начал первые настоящие серьезные переговоры с Александром III, своим несгибаемым противником еще со времен ассамблеи в Безансоне, — переговоры крайне трудные, так как они ставили под сомнение самые разные проблемы от чисто церковных вопросов до статуса Италии. Император, — хоть в принципе и согласился признать Александра III, что было в его глазах необычайной уступкой, — придавал исключительное значение сохранению территориальных интересов на полуострове и своей власти над германским епископатом, то есть легитимности избрания епископов, поддерживавших Виктора IV, Пасхалия III и Каликста III, а также совершенных им рукоположений. По этим двум пунктам дискуссии были особенно ожесточенными.
Однако стороны пришли к соглашению довольно быстро благодаря тому, что делегаты папы своим поведением доказали желание мира, в то время как ломбардские требования им представлялись второстепенными. Фридрих также пошел на кое-какие уступки, и через полмесяца был готов проект соглашения, который называют пактом или прелиминариями (предварительными переговорами о мире — Прим. перев.) Ананьи.
Согласно этому документу Штауфен (а также все его семейство) признает Александра III законноизбранным папой; он возвращает римской церкви все regalia, которыми она располагала при Иннокентии II, то есть до восшествия Фридриха на престол; он возвращает папству префектуру Рима и «те земли графини Матильды, которыми Римская церковь владела во времена Лотаря и Конрада». Он отпускает вассалов церкви, оказавшихся в его руках, и возвращает все церковное имущество, которым завладел в результате раскола. Александр, в свою очередь, принимает его как императора, возлюбленного сына церкви, и отменяет свою буллу об его отлучении. Проблема немецких епископатов решалась в индивидуальном порядке: канцлер Христиан сохраняет архиепископство в Майнце; Филипп Гейнсберский — архиепископство в Кёльне; Конрад фон Виттельсбах, бывший ранее архиепископом Майнцским, получит первое архиепископское кресло, которое станет вакантным в Германии; ничего не было сказано о церкви в Зальцбурге, глава которой Генрих, посвященный в сан после изгнания Барбароссой Адальберта Богемского, был сторонником Александра, — разве что его имущество и владения ему возвратят; епископ Геро из Хальберштадта будет смещен, а его предшественник, отозванный монархом, восстановлен; будут пересмотрены дела об избрании в Бремене епископа Бранденбургского и о епископских креслах в Страсбурге и Базеле. Зато в отношении имперских церквей в Италии и Бургундии решение оставалось за одним лишь папой, тем не менее Гарсендоний, епископ-раскольник, был восстановлен в Мантуе, а его соперник-александровец переведен в Виченцу. Антипапа Каликст III должен был получить аббатство.
И, наконец, предусматривалось, что Штауфен начнет мирные переговоры с Ломбардской лигой и Сицилией, а если эти переговоры с коммунами провалятся, то следует обратиться в арбитражную комиссию, составленную из представителей папы и императора, которая и вынесет окончательное решение в трехмесячный срок. В этот же срок мир будет подтвержден папой и императором лично.