Понятие «легальной оппозиции», идущее из западной демократической традиции, лишь частично применимо к политической ситуации в ГДР: оппозиция, понимаемая как программная и персонифицированная альтернатива действующей власти, не имела здесь никаких конституционных гарантий. Однако от этого термина нельзя отказаться, так как он объединяет часть противников СЕПГ, опиравшихся в своей деятельности на тот законодательный фундамент, который создала сама система для сохранения фикции права. Несмотря на то что в Конституции 1968 года был пункт о руководящей роли СЕПГ и исключалась возможность существования легальной политической оппозиции, партия никогда не отказывалась от видимости главенства права и законности. Оппозиция пыталась контролировать и ограничивать власть, принуждая ее уважать собственные правовые нормы и акты.
Выше говорилось, что оппозиция находила поддержку в религиозных объединениях различных конфессий. Деятельность таких структур была гарантирована законом (основывалась на декларированной свободе совести и вероисповедания), что делало подобные общественные группы единственным исключением из идеологических притязаний СЕПГ на всевластие.
Кроме того, подписывая ряд международных соглашений, ГДР принимала на себя международные обязательства, что также помогало оппозиции. С 1975 года сильной международно-правовой поддержкой для оппозиции стал Хельсинкский процесс. Даже при том, что СЕПГ подчинила законы партийной политике и систематически эти законы нарушала, существовавшая законодательная база, хотя и весьма ограниченно, давала оппозиции определенную платформу и поле для маневра. В частности, предпринимались попытки использовать в политических целях систему так называемых петиций к властям, призванных защищать гражданские и административные права. Используя суррогатную законность, оппозиция стремилась себя легитимизировать. Власть была вынуждена всерьез относиться к этим устремлениям, ибо сама искала такой легитимизации для себя. Многие оппозиционеры считали недостаточной стратегию легитимизации и склонялись к более радикальным методам сопротивления, создавая, например, в 1986 году в Берлине станции подпольного радиовещания. До начала 1950‐х роль легальной оппозиции в определенной мере играли гражданские партии: ХДС (Христианско-демократический союз) и ЛДПГ (Либерально-демократическая партия Германии). В 1950–1960‐х роль оппозиции стали играть религиозные объединения, защищавшие как свои права, так и права жертв репрессий.
С приходом к власти Эриха Хонеккера (1971) оппозиция едва ли не полностью была вытеснена в церковную сферу, где сосредоточился почти весь оппозиционный потенциал общества. Хотя независимые оппозиционеры, не связывавшие себя с религией (например, марксисты), и действовали почти до 1980‐х, но главным пространством свободы, формой существования зачатков гражданского общества стали протестантские церкви. Именно там шел поиск путей преодоления политических конфликтов, который подавлялся в обществе. И это происходило несмотря на стремление церквей к достижению соглашения с государством.
Своеобразный договор, заключенный 6 марта 1978 года между Церковью и государством в результате переговоров Хонеккера с высшими церковными иерархами, не смог преодолеть острых политических противоречий между духовенством и частью прихожан. Церковь обладала отдельной организационной структурой, была независимым форумом общения, управлялась по собственным законам и имела собственный интеллектуальный потенциал. Таким образом, социализм и антифашизм, монополизированные СЕПГ в качестве идеологической базы ее власти, в своем беспартийном виде могли существовать в лоне Церкви и стать основой для политической критики режима.
Коммунистическое государство пробовало изолировать оппозиционные группы в церковных стенах. На жаргоне Штази это называлось «теологизацией» и «оцерковлением» и имело целью нейтрализовать оппозицию с помощью церковной дисциплины. В этом направлении работали и некоторые церковники, становившиеся сексотами Штази. Однако такая стратегия не могла быть успешной, поскольку во многих группах главную роль играли как раз богословы, которые обеспечивали религиозное и богословское обоснование деятельности оппозиции. Попытки подчинить группы оппозиции церковной дисциплине лишь усиливали их стремление к автономии, что в результате привело осенью 1989 года к полному отделению этих групп от церквей. Но до этого момента основной потенциал оппозиции концентрировался в религиозных конгрегациях.