Три года прожил он с семьей в столице рейха. Затем получил назначение штурманом на легкий крейсер «Нимфа», который был флагманским кораблем командующего военно-морской базой на Балтийском море. Командиром был настоящий ас кораблевождения тогдашнего рейхсфлота капитан первого ранга Конрад. В эти годы, как вспоминал Дёниц, шли особенно оживленные дискуссии о причинах, которые вызвали мятеж на флоте в 1918 году, имевший тяжелые последствия. Высказывались суждения о том, как можно улучшить так называемое «внутреннее руководство» применительно к новым условиям и что же было с самого начала не так в кайзеровском офицерском корпусе. Дёниц всегда был убежден, что для того, чтобы поднять дух личного состава, решающее значение имеет тесная духовная связь между офицерами и матросами, спаянность экипажа, чтобы офицеры были не «над», а «рядом» с командой, чтобы было чувство локтя, чтобы матросы понимали мысли командиров и сознательно выполняли их приказы. Это были те принципы, руководствуясь которыми он потом строил подводный военно-морской флот и командовал им, а позднее, с 1943 по 1945 годы, возглавил все военно-морские силы. Соблюдался также принцип безусловного сохранения лояльности по отношению к правительству. Не должен рядовой состав и, конечно же, офицерский корпус критиковать постановления правительства или выступать против них. Никогда больше нельзя допустить еще один мятеж, еще один капповский путч.
После службы на «Нимфе» Дёниц был назначен командиром 4-й полу флотилией 1-го дивизиона миноносцев в Северном море. Но служба с этими «морскими гусарами», взращенными знаменитым гросс-адмиралом фон Тирпицем, возглавлявшим военно-морское ведомство рейха, была не в характере Дёница. Служба в министерстве вооруженных сил или на крейсерах была ему ближе. Но вряд ли все это могло в полной мере доставить удовлетворение этому высокоодаренному и честолюбивому морскому офицеру.
С октября 1930 года по сентябрь 1934-го, в годы решительных перемен в Германии, будучи в звании капитана третьего ранга, он исполнял обязанности первого офицера в главном морском штабе военно-морской базы Вильгельмсхафен на Северном море, в этом старом морском «городе на отмели» времен кайзеровского военно-морского флота. Командовал военно-морской базой сначала вице-адмирал Тилессен, начальником штаба был капитан первого ранга Вильгельм Канарис, личность которого как в старом, кайзеровском военно-морском флоте, так и в рейхсфлоте вызывала разногласия и которого презрительно называли «левантинец» (от итальянского levante — общее название стран, прилегающих к восточной части Средиземного моря. — Прим. пер.). Он был сыном директора металлургического завода в Рурской области, выходца из итальянской семьи. Канарис, ставший позднее адмиралом, а с 1935 года начальником управления разведки и контрразведки (абвера) в военном министерстве рейха, а затем в главном командовании вооруженных сил фашистской Германии (вермахта), призван был сыграть в истории Германии совершенно иную, скрытую от тогдашнего общества роль, нежели его первый офицер главного морского штаба. Он встал во главе тайной фронды против Гитлера и после неудачного выступления незадолго до самого конца войны, в апреле 1945 года повешен в концентрационном лагере Флоссенбюрг в Оберпфальце.
Капитан первого ранга Канарис, прекрасно образованный офицер, склонный к скептическим оценкам людей и событий, составляя обычно соответствующие предписанию аттестации на своих подчиненных, расширял их, прибегая к небольшим психологическим исследованиям, что значительно отличало аттестации от казенного стиля этого жанра. Он, конечно, обратил внимание на Дёница. Из-под его пера вышли две следующие характеристики. Первая запись, сделанная в ноябре 1931 года, содержит такие строки: «Очень честолюбив и тщеславен, выздоравливать пока не начал…». Канарис находил, что капитан третьего ранга Дёниц пригоден к службе в морском штабе, может командовать флотилией миноносцев или исполнять обязанности первого офицера крупного соединения. Он очень хорошо справлялся с обязанностями офицера генерального штаба, но склонен к самостоятельным действиям, включается в работу вне своей сферы деятельности, держит свой отдел на коротком поводке, должен давать больше самостоятельности своим сотрудникам. Канарис чувствовал темперамент и размах, свойственные этому офицеру, однако считал его слишком неуравновешенным и беспокойным. Дёниц предъявлял очень высокие требования к самому себе, поэтому и от своих офицеров требовал крайнего напряжения сил — так писал о нем Канарис. Начальник штаба полагал, что характер капитана третьего ранга еще не сформировался, он нуждается «в сильном и доброжелательном руководстве». Во второй аттестации, написанной в 1932 году, Канарис высказал мнение, что Дёниц, которому он, как офицеру главного морского штаба дал оценку «отлично», стал более уравновешенным, состояние его здоровья улучшилось. Дословно это звучало так: «Дело в том, что это прекрасный офицер, которого нужно, безусловно, продвигать по службе, но при этом следует обратить внимание, что он чересчур спокойно воспринимает происходящее и не предъявляет слишком высокие требования пи к себе, ни к другим».