Первая флотилия подводных лодок носила имя героя-подводника Отто Веддингена. В ее состав вошли 3 малых прибрежных лодки (250 тонн). Ее командиром 28 сентября 1935 был назначен капитан 1 ранга Карл Дениц. Остальные подводные лодки использовались в качестве учебных. В течение года после подписания Лондонского договора были построены 24 малых лодки.
Любой анализ развития подводных лодок в межвоенный период и в годы Второй Мировой войны требует ясного понимания, что они из себя представляли. Понятие "подводная лодка", строго говоря, ошибочно. Скорее это "ныряющая лодка". До самого конца Второй Мировой войны лодки оставались в основном надводными кораблями. В надводном положении они находили свою жертву, преследовали ее, атаковали и удирали. Так было быстрее. На поверхности лодка могла выбирать оружие. Лодки погружались только чтобы избежать опасности или при попытке атаковать днем (что было совсем не типично). Под водой лодка теряла скорость и в некоторой степени безопасность, так как ее мог обнаружить асдик.
К 1935 подводные лодки значительно улучшили свои характеристики по сравнению с 1918 годом. Они могли действовать бесшумно; могли оставаться под водой гораздо дольше; могли наносить удар, не выдавая своей позиции, используя бесследные электроторпеды; могли более эффективно уничтожать корабли, используя торпеды с магнитным взрывателем, которые взрывались под килем. Улучшение радиостанций создало возможность реализации совершенно новых тактических и даже стратегических планов.
Карл Дениц был идеальным командиром для вновь созданных подводных сил. За время службы на флоте он приобрел обширные знания. Он в частности служил на легком крейсере "Бреслау", который вместе с линейным крейсером "Гебен" в 1914 году прорвался через все Средиземное море в Константинополь, что привело к вступлению Турции в войну. После войны он продолжал совершенствовать свои знания во время службы на разных кораблях. Кульминацией стало командование легким крейсером "Эмден" во время учебного плавания в Атлантическом и Индийском океанах. Однако именно 2 года службы на подводных лодках в период Великой Войны определили его будущее. Столь сильным было это впечатление, что в 1919 году Дениц решил остаться служить на флоте именно в надежде на возрождение подводных сил. Ожидание затянулось на 16 лет. Однако за это время он отработал новые тактические и стратегические планы использования подводных лодок. Когда настал день, он поднялся на мостик и вывел в море крошечную U-1, уже имея в голове план действий огромного флота океанских лодок, который поставит под угрозу само существование величайшей морской держав мира.
Примерно в это же время в Денице произошла серьезная перемена. Сведя вместе внешний формализм службы на надводных кораблях и почти братские отношения на подводных лодках, Дениц выработал краткость и резкость речей и приказов, которые он компенсировал личными отношениями с людьми. В оперативном центре или на совещаниях с командирами после возвращения лодки из похода Дениц уделял огромное внимание самым мелким фактам и предложениям. Он задавал наводящие вопросы, не избегая самых щекотливых тем. Потом, отбросив в сторону все формальности, адмирал приглашал офицеров на завтрак или обед, где царили отношения добросердечности и товарищества. Такое поведение наиболее ярко демонстрирует различия между Деницем и строгим и авторитарным Редером.
Дениц понял, что нельзя выиграть войну только с помощью guerre de course — нескоординированных ударов по торговому судоходству. Главный истребитель торговли периода первой Мировой войны — подводная лодка — остался тем же. Однако использовать его планировалось совершенно новыми способами. Он всегда держал в голове как главную цель "войну тоннажа" — максимальный потопленный тоннаж на день пребывания лодки в море. Но при этом в качестве единственного решающего театра Дениц избрал Северную Атлантику. Сильно защищенным конвоям он собирался противопоставить "управляемые операции", то есть массирование сил с помощью радио. Во время первых учений по групповым атакам Дениц попробовал руководить атакой с подводной лодки, находящейся в районе боя. Позднее, когда эффективность радиосвязи с береговым штабом значительно повысилась, он испробовал иной метод. Теперь первая лодка, обнаружившая конвой, становилась своеобразным радиомаяком, наводя на цель другие лодки, а Дениц изменял их диспозицию так, чтобы перебросить в район боя как можно больше лодок. Установив контакт с конвоем, лодки действовали независимо, атакуя ночью из надводного положения. Они прекращали бой с наступлением рассвета и выходили вперед по курсу конвоя, чтобы сосредоточиться для атаки на следующую ночь. Учения проводились с максимальным приближением к реальным условиям. В результате в начале ноября 1936 U-36, пытаясь прорвать кольцо охранения и провести атаку с малой дистанции, была протаранена и потоплена эскортным кораблем.