Сергій Федорович Грушевський почав шукати служби на Кавказі (його приваблював клімат), і йому запропонували місце учителя гімназії в Кутаїсі. Зі своїм легким характером і вмінням скоро і легко обживатись скрізь, він скоро звик до Кавказу, здоров’я його в теплім кліматі швидко поправилось, а місцеві звичаї не дуже лякали. Він рішив залишитись на Кавказі, коли йому запропонували місце інспектора народних шкіл в новоорганізованій Ставропольській губернії. Він поїхав по сім’ю і перевіз її до Ставрополя.
Життя на новому місті було взагалі нелегким. Батька часто не було дома, бо він багато працював. А потім з ним сталось нещастя: почтові коні понесли, розбили тарантас, батько випав і зламав ногу. Михайло відчував до хворого батька велику ніжність. Саме з того часу в нього з’явилося особливе відчуття родини і почав формуватися культ сім’ї.
Мати вчила Михайла читати по російській «Граматиці» Блінова, котра довго потім зберігалась між родинними реліквіями, заяложена, потріпана і зшита нитками. «Процес вчення не лишив в мені особливих споминів, мабуть, не був прикрий, – писав Грушевський. – Пригадую, як я копіював букви на обгортці від гербати. І ще – споминаю себе в виді воєнного чоловіка – з старим попсованим величезним пістолем, який я носив на перев’язі через плече замість рушниці, з великим задоволенням парадуючи в такім виді перед своїми й чужими».
Батько теж зіграв велику роль у становленні Михайла як особистості, він був щирим патріотом і виховував в дитині національну свідомість. Як згадує І. Крип’якевич, «свою приязнь до українства зумів він передати своїм дітям. Отак Михайло не тільки не відчужився від України, а дуже рано цілим серцем і душею приляг до свого народу».
В автобіографії Михайло Сергійович Грушевський згадує: «Виростав на Кавказі, куди батько перейшов в 1869 р.: в Ставрополі (1870—1880), потім Владикавказі, зрідка звідуючи Україну. Одначе, під впливом оповідань батька, що заховав тепле прив’язання до всього українського – мови, пісні, традиції, в мені рано збудилося й усвідомилося національне українське почуття, піддержуване книжками, тими рідкими поїздками на Україну, що малювалася тому в ореолі далекої “вітчини” і контрастом чужеплеменної й чужомовної “чужини”».
Хлопчик рано навчився читати, і книжки замінювали йому дитяче товариство. Михайло виріс мрійником і фантазером та рано почав пробувати свої сили у написанні прози та віршів. З великою охотою він читав праці з історії літератури та етнографії України.
Неабияку роль у становленні таких рис характеру малого Михайла, як амбітність та самолюбство, відіграв батько. С. Ф. Грушевський дуже пильно стежив за розвитком та успіхами свого сина. Саме тому, коли Михайло склав іспит до четвертого класу Тифліської гімназії, і, до речи, дуже успішно, Сергій Федорович вирішив, що сину буде значно легше навчатися у третьому класі. Сперечатися з батьком не мало сенсу, і Михайло мав піти навчатися у третій клас. Але з яким обуренням писав він пізніше про цей випадок: «Думаю, що в моїм життю було небагато фактів, які мали б таке рішуче значення для всього складу моїх настроїв і змагань, мого характеру та світогляду, як се невинне рішення батька. Коли я, зложивши зовсім добре іспит до четвертої класи, добровільно пішов до третьої, то се чи не зобов’язувало мене до дечого, кат його бери!»
Мабуть звідти й пішло прагнення юного Грушевського бути першим, доводити всім і кожному, що в нього немає потреби до «заниження планки», що йому підкориться будь-яка вершина. Його принципом стало прагнення мати перед собою мету, якій він би мусив віддаватись повністю, навіть якщо для цього потрібно довести себе до крайнього напруження, самозабуття і знесилення. Він відчував себе щасливим тільки тоді, коли поставлене завдання було виконане успішно та ретельно. Безумовно, що саме цей принцип допоміг Михайлу Грушевському в майбутньому стати тим, ким він став – великим українським істориком та політичним діячем.
Михайло багато часу проводив з батьком. «Особливо зимовими вечорами ми провадили багато часу разом, – писав у своїх спогадах Грушевський. – У нас завівся звичай молитись разом, довго і з смаком, з колонника, з котрого ми вичитували молитви, поки не навчились їх напам’ять. Батько оповідав мені з свого життя всяку всячину, особливо спомини з Лісників і Києва. Я вчивсь від нього українських пісень, котрі він любив співати, акомпануючи собі на фортепіяні, що стояло в залі. У нього був доволі приємний тенор, і се для нього було найкращим спочинком – поспівати собі з власним акомпанементом, котрий він собі підбирав. Нарешті він вводив мене в круг своїх нинішніх інтересів, своїх шкільних справ і планів. Він вкладав в них всього себе. Се був взагалі тип українського робітника, у котрого в крові культ роботи – не для збагачення, не для кар’єри, а для роботи самої. Що б він не робив, він робив з любов’ю, з смаком, основно, систематично, доводячи кожну роботу до кінця. Кидати що-небудь недокінчене серед дороги, робити абияк, здаваючи на інших, було йому органічно противно. В роботі він знаходив свою утіху, поезія праці захоплювала його».