Из поколения в поколение сыновья семьи Гальдеров, происходившей из швабской местности Альгой, выбирали своей профессией солдатское ремесло и служили Виттельсбахам. Она считалась одной из старейших офицерских семей в Баварии. Некоторые представители этой семьи получили личное дворянство королевства Баварии, как, например, прадедушка будущего генерал-полковника Антон Риттер фон Гальдер. Отец Франца Максимилиан Антон Гальдер, родившийся 2 марта 1853 года, закончил свою военную службу в чине баварского генерал-майора и коменданта крепости фон Гермерсхайм. Его дедушка Карл Антон Гальдер, родившийся 5 октября 1811 года и преждевременно умерший 20 апреля 1856 года, дослужился до капитана королевской баварской армии. Сам Франц Гальдер, который был вторым ребенком в семье старшего лейтенанта Максимилиана Гальдера и его жены Матильды, также выбрал для себя путь профессионального военного.
К моменту рождения сына отец служил офицером во 2-м полку полевой артиллерии, который размещался в резиденции бывших архиепископов-курфюрстов Вюрцбурге, известном своим университетом. Родители, а также бабушки и дедушки Франца Гальдера были верующими христианами. Дед и отец были католиками. Однако 15 июля 1884 года Франца окрестили, следуя религии его матери, в евангелическо-лютеранскую веру, которой будущий генерал остался верен до конца своей жизни. Мать Гальдера Матильда, урожденная Штейнхейль, отец которой был гражданином Нью-Йорка, родилась в Лионе. По словам сына, ее французское происхождение чувствовалось до конца ее жизни и, возможно, в результате этого влияния Гальдер позже успешно сдал экзамен по французскому языку.
Первые четыре года мальчик провел во Франции, после чего семья переехала в столицу Баварии Мюнхен. Отец стал адъютантом в штабе 2-й бригады полевой артиллерии, потом преподавал в инженерно-артиллерийской школе в Мюнхене. В баварской столице Франц Гальдер был принят сразу во второй класс, ввиду хорошей подготовки с частным преподавателем, и с сентября 1890-го по июль 1893 года посещал первую протестантскую народную школу на улице Герцога Вильгельма. У него постоянно были хорошие и отличные оценки, и только по пению он не мог подняться выше оценки «удовлетворительно». Иногда его внимание оставляло желать лучшего. В третьем классе было решено, что мальчик не умеет сдерживать себя и ему нужна «крепкая узда». Можно предположить, что эта рекомендация совпала с мнением родителей, так как уже в следующем году классный учитель отметил, что теперь Гальдер постоянно внимателен. В конечном счете мальчик занял восьмое место среди 55–60 учеников его года рождения. К концу четвертого класса его хвалили за большое прилежание и примерное поведение.
После этого осенью 1893 года он перешел в королевскую гимназию короля Людвига, где оставался до лета 1896 года. Там также в табеле указывалась его первоначальная невнимательность. Однако оценки были хорошие и отличные. По окончанию четвертого класса гимназии он учился в классической гимназии св. Терезы в Мюнхене. Там в его табелях подчеркивались выдающееся чувство долга, прилежание, усердие и поведение, а также добросовестность ученика. Многие годы подряд Гальдер показывал особые успехи в истории. Его хвалили за прилежание в итальянском языке и стенографии. В аттестате особо высоко были оценены его письменное сочинение на немецком языке, а также совместная работа по религии и французскому языку. Ввиду выдающихся письменных результатов его освободили от устного экзамена. Почти отличный аттестат королевской гимназии св. Терезы от 14 июля 1902 года обрадовал отца, в то время уже полковника, как и решение сына избрать военную карьеру и записаться в 3-й полк полевой артиллерии, где отец ранее, с 1893 года по 1895 год, был командиром батареи, а с 1901 года командиром полка.
Уже к 30 июня 1902 года Франц Гальдер записался кандидатом на звание офицера в королевскую артиллерию Баварии, где служили многие его предки. Четырнадцать дней спустя он в качестве фанен-юнкера, унтер-офицера, начал свою военную карьеру. В январе 1903 года в 3-м баварском полку полевой артиллерии «Мать Королева» он был произведен в фенрихи. В том же полку служил его двоюродный брат Пауль Гальдер, сын начальника полиции, а позже председателя правительства Верхней Баварии Антона Риттера фон Гальдера. С марта 1903 года по февраль 1904 года Франц учился в королевской военной школе Баварии в Мюнхене, которую закончил с отличием. Наивысшую оценку «превосходно» он получил по предмету «командование». В целом высоко оценивался и его хороший характер. Месяц спустя он сдал экзамен на офицера с очень хорошими результатами в силу «в целом превосходных знаний». 9 марта 1904 года с дипломом от 3 марта Франц Гальдер был произведен в чин лейтенанта и в качестве «наивысшего поощрения» назначен сверх штата на должность офицера в 3-й полк полевой артиллерии.