Когда вконец разочаровавшийся Бек 18 августа подал в отставку, так как не видел никаких шансов действенно сдерживать военную политику Гитлера, Браухич, естественно, попросил именно Гальдера взять на себя функции начальника главного штаба сухопутных войск. После недолгого размышления и с согласия Бека 54-летний Гальдер принял предложение. Однако он не мог исходить из того, что его назначение повсюду найдет однозначное одобрение. Так, рейхсфюрер СС Генрих Гиммлер называл нового начальника главного штаба «генералом Божьей Матери» и критиковал за краткое пребывание на фронтах во время первой мировой войны, чтобы принизить его перед Гитлером. Гитлер также выразил Браухичу свои сомнения, так как полагал, что Гальдер католик и поэтому будет критически относиться к национал-социализму. В этой связи характерно то, что национал-социалисты оценивали его как ревностного прихожанина, хотя, по его собственному признанию, он никогда не был «ходоком в церковь».
Гальдер хотел использовать свое положение в духе Бека, чтобы вместе с Браухичем бороться против авантюрной военной политики Гитлера. Но возник вопрос о том, не переоценивает ли он свои возможности воздействия как начальника штаба сухопутных войск, так как созданная после введения всеобщей воинской повинности должность «начальника генерального штаба сухопутных войск» уже не имела такого влияния, как бывшие начальники главного генерального штаба в империи, каковыми были граф Мольтке и граф Шлиффен. После того как Гитлер взял на себя лично имперское > военное министерство и было вновь создано верховное командование вермахта под руководством генерала Кейтеля, эта должность занимала подчиненное место в рамках высшего руководства вермахта и имела гораздо меньшее значение, чем могло внушить звучное, традиционное название, введенное 1 июля 1935 года. Начальник генерального штаба сухопутных войск не имел самостоятельного положения и тем самым не имел права лично докладывать Гитлеру. Помимо этого, он не обладал властью отдавать приказы, хотя в текущих делах в случае отсутствия главнокомандующего сухопутными войсками замещал его. В конце концов начальник генерального штаба, после того как Бек проиграл в борьбе за новую организационную структуру командования вермахта, являлся лишь «чисто техническим бюро» одной из трех частей вермахта, даже если в генеральном штабе претендовали на ответственность за общее ведение войны рейхом.
С другой стороны, мнение Гитлера о новом начальнике генерального штаба, казалось, дает возможности влиять на военную политику диктатора, так как, судя по поздним высказываниям современников, Гитлер спустя определенное время больше доверял Гальдеру, чем Беку. Фюрер считал, что Гальдер «современно ориентирован» и «открыто идет навстречу» ходу его мысли, тем более что начальник генерального штаба как представитель баварского офицерского корпуса «значительно прогрессивнее и более положительно настроен к национал-социализму», чем офицеры из «так называемого прусского офицерского корпуса», как объяснял сам Гитлер. Тем не менее Гальдер не мог обойти Браухича и непосредственно проверить свои возможности влиять на Гитлера. Таким образом, основной оставалась задача завоевания главнокомандующего как передового борца против авантюрной внешней и военной политики Гитлера.
Мог ли Гальдер считать себя способным решить подобную задачу? Был ли он столь энергичен, располагал ли таким воодушевлением, чтобы увлечь за собой офицерский корпус и колеблющегося главнокомандующего? Или он больше надеялся на то, что сумеет тщательным планированием, продуманностью и осуждением гитлеровской политики «ва-банк» убедить его в правильности своей критической точки зрения и привлечь тем самым Браухича к борьбе против диктатора? Что для этого ему требовалось? Карьера Гальдера была отмечена оказанием ему предпочтения на постах в генеральном штабе. Он был рекомендован на пост начальника генерального штаба сухопутных войск или какого-либо другого высшего штаба. Помимо периода с 1923-го по 1925 год, когда он был командиром роты, он только с октября 1935-го по ноябрь 1936 года командовал войсковой частью. Но зато он был наилучшим образом подготовлен к выработке военных решений или всесторонне, взвешивая все возможности, консультировать того или иного командующего. Как офицер генерального штаба он привык к «добросовестному выполнению долга» и «надлежащему прохождению службы». В силу отмеченного у него еще ранее обостренного чувства ко всему реально возможному на должности обер-квартирмейстера он доказал больше реализма, чем генерал Бек, потому что понимал, что представления Бека о коллективной акции высшего командного состава против Гитлера неосуществимы. Он продумывал другие воз? можности пресечения действий Гитлера, однако не был готов к убийству тирана.