Родители Густава имели шведско-финские корни. Однако сам род Маннергеймов вел свое происхождение от голландской семьи, которая в середине XVII века перебралась на жительство в Швецию.
Прадед будущего президента Финляндии Карл Эрик Маннергейм (1759–1837) первым из семьи в 1783 году переехал из Стокгольма в Або (Турку). Здесь он в 37 лет женился на 17-летней Вендле Софье Виллебранд (1779–1863). В 1825 году Карлу Эрику был присвоен графский титул.
Один из сыновей Карла Эрика — Карл Густав (1797–1854), чье имя перейдет к знаменитому внуку, достиг высокого поста президента Верховного суда Выборга и попутно написал много книг на французском языке и латыни о разнообразных жуках. В 1832 году в Або (Турку) он женился на дочери подполковника Карла фон Шанца — Еве Вильгельмине (1810–1895). У супругов родились четверо детей — сын Карл Роберт (отец будущего президента Финляндии) и три дочери. Одна из них, Анна, вышла замуж за знаменитого исследователя Севера Нильса Адольфа Эрика Норденшельда (1832–1901).
Что касается семьи матери Густава — Хедвиг Шарлотты Хелены, то она происходила из другой среды. Отец Хелены, горный советник Юхан Якоб фон Юлин (1787–1853), был владельцем крупнейшего в XIX веке в Финляндии чугунолитейного завода на берегу быстрой речки Фискарс, основание которого было положено в 1649 году. Фон Юлин за успехи в развитии финской промышленности и прекрасные изделия завода, известные в России и Западной Европе, был возведен в дворянство.
После смерти своей жены Шарлотты Ягершольд (1814–1844), когда их дочери Хедвиг Шарлотте Хелене было всего два года, Юхан Якоб женился на родной сестре своей умершей супруги, которая и стала приемной матерью Хелены.
В 1862 году 20-летняя Хелена вышла замуж за графа Карла Роберта Маннергейма, венчание состоялось в селении Пуйо в старинной приходской церкви. Отец подарил дочери имение Селлвик, известное своей старой липой, под сенью которой обедал и отдыхал царь Петр I в один из дней Северной войны.
Семья, в которой Густав рос со своими братьями и сестрами, была богата традициями XVIII века. Обстановка дома с его мебелью, произведениями искусств свидетельствовала об этом. Родители были проникнуты идеями свободы и равенства, которые широко распространились в Западной Европе в 1848 году.
Воспитание Густава, отвечая взглядам матери, велось в строгом соответствии с основными идеями английской педагогической школы. Радостными были ранние годы будущего президента Финляндии, о чем он в старости охотно вспоминал, рассказывая о катании на коньках, походах на паруснике и приключениях во время купания. Мать воспитывала своих детей в спартанском духе, развивая в детях мужество и бесстрашие.
Густав рос непоседливым ребенком, постоянно попадая в разные передряги. Он часто набивал себе шишки и один раз получил тяжелое сотрясение мозга. Все попытки матери урезонить сорванца ни к чему не приводили.
Семилетнего Густава родители отправляют в Гельсингфорс и определяют во второй подготовительный класс шведского Бёёкского лицея, где уже учился его старший брат. Однако за буйный характер и выбитые стекла Маннергейм скоро был отчислен.
Весну 1880 года Густав провел в Вилльнесе и усадьбе Селлвик, затем его отправили во Фредриксхамн (Хамину), в школу для подготовки к вступительному экзамену в финский кадетский корпус, где он проучился два года.
В 1880 году, пустив на ветер приданое жены и недвижимость и просадив собственное наследство, Карл Роберт бросает семью и вместе с фрейлиной Софьей Норденстам, впоследствии ставшей его женой, бежит в Париж. Одновременно он продает Вилльнес своей незамужней сестре Вильгельмине.
Забрав четырех младших детей, Хелена уезжает в Селлвик, где живет на попечении своей мачехи Луизы фон Юлин. Старшая из детей Софья в то время находилась в Стокгольме, Карл учился в Гельсингфорсе, а Густав был в Фредриксхамне.
23 января 1881 года от сердечного приступа умирает графиня Хедвиг Шарлотта Хелена Маннергейм. Она так и не смогла перенести позорного бегства мужа, изоляции и одиночества.
Семеро детей Карла Роберта Маннергейма остались сиротами без всяких средств к существованию. «Наше детство, — писал Маннергейм, — было жестоким временем. Мы не могли рассчитывать на помощь родственников и знакомых семьи. Нужда и забота сопровождали нашу жизнь».
Тетка Ханна, вторая дочь Юхана фон Юлина, взяла к себе Августа и Еву. Иохан достался Луизе фон Юлин, а ее сын Альберт взял на себя заботу о воспитании и образовании Густава. Анна поступила в Смольный институт в Петербурге, но в 1886 году неожиданно умерла от воспаления легких.