После маневров вермахта в Мекленбурге он остался в главном штабе сухопутных войск в качестве главного квартирмейстера под началом генерала артиллерии Людвига Бека. На этой должности Гальдер отвечал за обработку всех вопросов боевой подготовки, а как начальник отделов 4-го и 11-го также и за военно-научную и военно-историческую работу в главном штабе. На подобную должность обер-квартирмейстера в то время был назначен генерал-лейтенант Эрих фон Манштейн. Оба, таким образом, были основными сотрудниками начальника главного штаба Бека. В этот период, в феврале 1938 года, Гальдер мог с самого близкого расстояния наблюдать за событиями, связанными с отставкой Бломберга и Фрича Гитлером, когда тот избавлялся от потенциальных противников своего плана войны, который он представил узкому кругу 5 ноября 1937 года. При этом диктатор ловко использовал скандал вокруг генерал-фельдмаршала фон Бломберга, связанный с женитьбой, и ложное обвинение генерал-полковника барона фон Фрича в гомосексуализме, которые были сфабрикованы и инсценированы Герингом, а также рейхсфюрером СС Генрихом Гиммлером, начальником уголовной полиции и службы безопасности Рейнхардом Гейдрихом, чтобы принудить обоих к отставке. Гитлер непременно хотел избавиться от главнокомандующего сухопутными войсками, потому что видел в нем консервативный и «тормозящий элемент» своей военной политике и гонке вооружений; в соответствии с этим он отклонил восстановление Фрича в прежней должности главнокомандующего сухопутными войсками после того, как суд оправдал его.
Скандал Бломберга — Фрича стал для Гальдера поворотным моментом в его отношении к диктатору; после этого он был готов принять в расчет свержение режима СС, размышляя об изменении политической ситуации. Гальдер попытался повлиять на Бека, чтобы не допустить оскорбительного отношения к главнокомандующему сухопутными войсками со стороны национал-социалистского руководства. Начальник генерального штаба, однако, отклонил насильственную акцию против руководства государством, сказав, что то, чего требует Гальдер, является «мятежом, революцией». Бек возразил тогда также, что для немецкого офицера об этом не может быть и речи. Позднее он признал, что в те дни был упущен решающий момент для выступления против Гитлера. Но и Фрич не был той опорой, на которую можно было рассчитывать в борьбе против Гитлера. Он был доволен исходом судебного разбирательства о клеветническом обвинении против него и последующей реабилитацией, хотя это и не стало известно общественности. В конечном счете Гитлеру удалось успешно использовать аферу Бломберга— Фрича в своих целях и ввести новую кадровую структуру в руководстве вермахтом и сухопутными войсками.
В ходе последовавших за этим кадровых изменений Гальдер принял предложение нового главнокомандующего сухопутными войсками генерал-полковника Вальтера фон Браухича занять с 10 февраля 1938 года пост обер-квартирмейстера I и одновременно получил звание генерала артиллерии. Он отвечал за все оперативное планирование сухопутных войск, которое возлагалось на главный штаб в рамках гитлеровской политики. Очень скоро он благодаря этому познакомился с игрой Гитлера «ва-банк» и его стремлением к войне. Он соглашался с Беком в том, что следует бороться против политики силы и экспансии диктатора, но оба считали это преждевременным.
Для этого он должен был непременно завоевать также генерала фон Браухича. Под его командованием Гальдер работал еще в отделе боевой подготовки военного управления. Прежнее сотрудничество облегчало Гальдеру общение с новым главнокомандующим сухопутными войсками, который охотнее совещался с им самим предложенным обер-квартирмейстером I, чем с чересчур настойчивым начальником главного штаба. Таким образом, постепенно восстановились былые доверительные отношения между Гальдером и Браухичем, в то время как у Бека возникло ощущение, что Браухич бросил его на произвол судьбы. Если в ходе дальнейшего обострения внешнеполитической ситуации с весны 1938 года генерал Бек все более явно противился военной политике Гитлера и многократно призывал Браухича к прямому протесту, то главнокомандующий сухопутными войсками все чаще и теснее сотрудничал с Гальдером как представителем Бека, потому что взгляды Гальдера преимущественно совпадали с его точкой зрения и он не с такой последовательностью, как Бек, требовал от него выступления против «фюрера». Очевидно, Гальдер рассчитывал на то, что созданием сдерживающей внешнеполитической ситуации удастся удержать Гитлера и в конечном счете избежать прямой борьбы за власть и «поединка» с Гитлером.