Второй цели территориальной политики — воссоздания герцогства Швабского — Рудольф не добился; его попытки обеспечить соединение от верхнего Рейна до Готтхардского перевала (Gotthardpass) послужили непосредственной причиной сплочения первых четырех швейцарских кантонов (Urkantonen) (Вечный союз (Ewiger Bund 1291).
Рудольф не смог получить императорскую корону. В 1275 году он встречался в Лозанне с папой Григорием X и принял крест. При этом следующий год был назначен годом императорской коронации. Но в январе 1276 года папа Григорий умер. В новых переговорах с Николаем III (1277 — 1280) Рудольф был готов признать папские притязания на Романью, на которую претендовал еще Григорий, согласился также на примирение, которого желал Николай, с Карлом Анжуйским из-за его имперских ленов в Арелате и на заключение брака между Габсбургами и Анжу. Особенно после победы над Оттокаром ему стала важна коронация императором как предпосылка к тому, чтобы один из его сыновей был избран немецким королем, и тем самым было положено начало порядку наследования его династии. Но и этот папа, ставленник Орсини, не очень-то благоволивший немецкому королю, однако, по крайней мере, и не дружественный Анжу, умер до того, как Рудольф принял корону. Новые переговоры с Гонорием IV (1285 — 1287) не увенчались успехом из-за завышенных требований папы.
Король Рудольф Габсбургский умер 15 июля 1291 года в Шпайере (Speyer). По настоянию архиепископа Майнцского, Герхарда фон Эппштайна (Gerhard von Eppstein), курфюрсты, которые стремились избежать образования новой, на наследственном праве основанной династии, выбрали не сына Рудольфа, герцога Альбрехта Австрийского, но графа Адольфа фон Нассау (Adolf von Nassau) (1292 — 1298), родственника Эппштайнов, ни разу полностью не владевшего поместьем, от названия которого происходила его фамилия. Адольф должен был сделать значительные уступки своим выборщикам. Во французско-английской войне он в 1294 году заключил за выплату субсидий союз с королем Англии, но также за деньги Франции пообещал ей остаться нейтральной стороной. Когда он попытался, как и его предшественник, основать на востоке свое новое династическое владение и конфисковать маркграфство Майссен как освободившийся лен, а Тюрингию приобрести по сделке, он вступил в сферу конфликта интересов короля Богемии и архиепископа Майнцского. На собрании курфюрстов в Майнце Адольф был смещен и Альбрехт Австрийский, который прибыл с войском, был выбран королем. 2 июля 1298 года Адольф пал в битве при Гелльхайме (Goellheim) на рядом с Доннерсбергом (Donnersberg) в Пфальце.