Война резко ударила по стараниям Хербергера, так как большинство его подопечных были отправлены на фронт. Чтобы собрать 11 дельных игроков, он готов был идти на риск. Он снова и снова выдумывал военные награды для своих игроков, дабы доказать, что они уже проявили себя в бою; помимо этого он способствовал переводу некоторых игроков в люфтваффе. В случае Фрица Вальтера это вызвало некоторое недовольство, потому что молодой солдат был вынужден признаться, что еще никогда не видел самолета изнутри. К счастью, этой дивизией командовал футбольный фанат и знаменитый боевой летчик Герман Граф, взявший Вальтера под свою опеку и позаботившийся, чтобы тот мог спокойно тренироваться.
После денацификационного расследования Хербергера снова позвали тренером национальной команды. Он приложил все усилия, чтобы разыскать выживших игроков и обеспечить их всем необходимым. После того как Германия была разделена на четыре оккупационные зоны, выснилось, что каждая из четырех держав-победительниц имеет свой взгляд на футбол и о единой бундеслиге пока нечего и думать. Но по сравнению с ситуацией с обеспечением в послевоенные годы это было меньшей из забот. Для миллионов людей, пострадавших от бомбежек или бежавших из восточных регионов, первичным был вопрос выживания, а досуг типа футбола не играл в Германии большой роли. Зарегистрированные сообщества и их игроки вынуждены были импровизировать, и они изготавливали майки и угловые флажки из старых национал-социалистских флагов – естественно, удалив с них свастику.
Что касалось футбольных бутс, Хербергер мог положиться на Ади Дасслера, дружба с которым стала еще крепче после неосторожных слов Рудольфа. Оба были немногословны – чтобы договориться, хватало пары скупых предложений и кивка. Хербергер ценил в фабриканте внимательность к деталям. Ади скоро вошел в самый узкий круг национальной команды – со скромной улыбкой, всегда с чемоданчиком с инструментами в руке, он сидел рядом с Хербергером и производил в случае необходимости небольшие починки или что-то улучшал по запросу.
К чемпионату мира 1954 года Хербергер сколотил команду, в которой доминировали игроки Первого футбольного клуба Кайзерслаутерна. Этот клуб, ставший в предыдущем году чемпионом Германии, выставил пять игроков. Капитаном стал Фриц Вальтер, к которому бездетный Хербергер, очевидно, питал отеческие чувства. В команде был и младший брат Фрица Вальтера Оттмар, во время войны едва избежавший смерти, когда в Ла-Манше его корабль был атакован торпедами.
Кроме того, тренер рассчитывал на Хельмута Рана из Эссена, который как нападающий не знал себе равных. Талант Рана уже вызвал повышенное внимание различных испанских и латиноамериканских клубов, но он отклонил беспрецедентное по тем временам предложение и остался верным своему клубу «Рот-Вайсс Эссен», где он не только считался выдающимся нападающим, но и был известен тем, что не знал чувства меры. Зепп Хербергер охарактеризовал его как «мастера конструктивной импровизации, с которым всегда нужно быть готовым к сюрпризам».
Сам Хербергер был загадкой для футбольных экспертов. Он выказывал непоколебимую уверенность в себе и радовал журналистов лаконичными замечаниями и псевдофилософскими наблюдениями о глубинном смысле футбольной игры, например: «Игра длится девяносто минут»; «После игры – это перед игрой» или его самое знаменитое изречение: «Мяч круглый». Дасслер также сохранял свое самообладание и под давлением, он первым делом осматривал футбольное поле и концентрировался на том, чтобы каждый игрок получил идеальную обувь.
Перед последними играми чемпионата в Швейцарии Хербергер полностью положился на своего друга из Херцогенаураха. Немецкая команда едва ли имела шансы против ребят из Уругвая, игроков английской сборной во главе со Стэнли Мэтьюзом или непобедимых австрийцев – не говоря уже о венграх. Со своим капитаном Ференцем Пушкашем, легендарным нападающим «Золотой команды», венгры за последние четыре с половиной года не проиграли еще ни в одном международном матче.
Хербергер оставил за собой право определять, кто с кем делит комнату, и это оказалось умной тактикой. Он, например, понимал, что никто не справится лучше с задачей успокоить нервного капитана Фрица Вальтера, чем жизнерадостный Хельмут Ран. И наоборот, Вальтер был как раз тем человеком, который мог смягчить непредсказуемый характер товарища. Как вспоминает Оттмар Вальтер, это прекрасно работало: «Хельмут был таким весельчаком, что мой брат всегда появлялся к завтраку со слезами от смеха в глазах. У него просто не было времени нервничать».