Политика Аденауэра основывалась на том, чтобы рассматривать раздел страны как временный; он считал, что объединение в конечном итоге произойдет благодаря разрушению орбиты советского сателлита, превосходному экономическому росту Федеративной Республики, силе и сплоченности Атлантического альянса и внутренней напряженности, возникшей в Варшавском договоре. Это предполагало распад восточногерманского сателлита - фактически, как это произошло в 1989 году. До такого распада главными приоритетами ФРГ оставались бы Атлантический альянс, тесные отношения с Америкой и интеграция в Европу. Сложность стратегии, в которой подчинение союзникам заменялось выносливостью, заключалась в том, что Москва вряд ли останется пассивной в промежутке и, несомненно, попытается предотвратить такой исход дипломатическим и даже военным давлением, как это происходило во время различных берлинских кризисов. Возникшие противоречия постепенно ослабили внутренние позиции Аденауэра.
Когда в октябре 1949 года восточногерманский советский сателлит объявил себя суверенным, Аденауэр ответил на это так называемой доктриной Брентано (названной в честь его министра иностранных дел с 1955 по 1961 год), согласно которой Федеративная Республика приостанавливала дипломатические отношения с любой страной, признавшей ГДР. Но со временем, перед лицом внутреннего давления Германии, требующей контактов хотя бы с Восточной Европой и Восточной Германией, эту политику было все труднее поддерживать.
Оправившись от поражения на выборах и под влиянием маневров Хрущева, СДПГ начала менять курс, мобилизуя поддержку, подчеркивая свою позицию в пользу переговоров с Восточной Европой и особенно с Восточной Германией. Герберт Вехнер, самый решительный лидер партии (хотя и не имевший права занимать высший пост из-за ареста в военное время и интернирования в Швеции в качестве советского агента), возглавил внутренний процесс, который в 1959 году завершился принятием партией членства Германии в НАТО. Поскольку СДПГ все больше выдвигала себя в качестве инструмента объединения, она возродила свою непосредственную послевоенную политику, направленную на достижение большей гибкости в переговорах со странами Востока и Советским Союзом, хотя теперь и в рамках НАТО - так называемую Ostpolitik.
Аденауэр и ХДС утверждали, что прогресс на пути к объединению был подорван превращением статуса Берлина, исторической столицы Германии, в переговоры, в которых коммунисты владели всеми географическими и военными активами. Утверждение конечной цели, по мнению Аденауэра, могло парадоксальным образом сделать временный раздел терпимым - в отличие от первых дней существования Федеративной Республики, когда Аденауэр стремился отложить этот вопрос в сторону.
Дебаты между ХДС и СДПГ начали пересекаться с разногласиями внутри ХДС по поводу преемственности Аденауэра. Сочетание его возраста - к 1962 году ему было восемьдесят шесть лет - и споров с США по поводу советской стратегии постепенно ослабило его позиции внутри страны. Отказ Аденауэра выступить против вето де Голля на вступление Великобритании в ЕЭС подвергся критике со стороны значительного меньшинства в ХДС. Когда на выборах 1961 года ХДС потеряла большинство в Бундестаге, возникла необходимость в коалиционном правительстве. Либеральные демократы - умеренно-консервативная партия свободной торговли и единственный доступный партнер по коалиции - согласились, но при условии, что Аденауэр покинет свой пост до окончания срока действия коалиции в 1965 году.
Осенью 1962 года вопрос об отставке Аденауэра встал во весь рост. Министр обороны Франц Йозеф Штраус обвинил журнал Der Spiegel в нарушении национальной безопасности, когда тот опубликовал просочившиеся правительственные документы о том, что он изучает идею создания тактического ядерного оружия для обороны ФРГ. В ответ Штраус обвинил Der Spiegel в подстрекательстве к мятежу и рекомендовал полиции Гамбурга провести рейд в офис журнала. Кроме того, журналист, ответственный за статью, был арестован в Испании, где он проводил отпуск.