После монголо-татарского нашествия титул великого князя остается в роду потомков Юрия Долгорукого, но теперь уже великокняжеская власть зависит от воли ханов, дающих ярлык на великое княжение не старшему в роду русских князей, а более лояльному к ханской власти. В связи с этим титул великих князей утверждается в младшей линии потомков Ярослава Всеволодовича (1238–1246), князей московских в нисходящей линии от отца к сыну, а не к старшему в роду.
Постепенно появились новые великие княжества — Тверское и Рязанское, хотя великие князья этих княжеств признавались старшими только по отношению к удельным князьям своих земель, а также великие княжества Ярославское, Ростовское, Смоленское.
Во второй половине XIV в., когда в результате ожесточенной борьбы между суздальско-нижегородскими и московскими правителями победа осталась за Дмитрием Донским, великокняжеский титул, а вслед за ним и земли Владимирского княжества навсегда отошли к Москве. Московские великие князья начали диктовать свою волю другим, более слабым владетелям. В 1363 г. летописец говорит, что Дмитрий Московский взял свою волю над князем Константином Ростовским, а князя Ивана Федоровича Стародубского и Дмитрия Галицкого выгнал из их княжеств.
Объединяя страну, великие князья московские тем не менее сами образовывали внутри Московского княжества свои уделы. Тот же Дмитрий Донской завещал города Московского княжества своим четверым сыновьям: Коломну — старшему, Василию, Звенигород — Юрию, Можайск — Андрею, Дмитров — Петру. Несмотря на это, великое княжество Московское все более усиливалось и присоединяло новые территории. Сын Дмитрия Донского, Василий I, получил в Орде ярлык на княжество Нижегородское, Городец, Муром, Мещеру и Тарусу. Постепенно Москва не только приобрела главенствующую роль над всеми территориями Северо-Восточной Руси, но и стала полновластным хозяином этих земель. Уже в грамотах Ивана Калиты впервые встречается название «великого князя всея Руси».
Даже продолжавшаяся не один год во время правления великого князя Василия II Темного феодальная война не поколебала в достаточной мере великокняжескую власть, несмотря на попытки двоюродных братьев Василия II, Дмитрия Шемяки и Василия Косого, предъявить свои права на великокняжеский престол. Окончание феодальных распрей ознаменовалось присоединением к Москве в 1454 г. Можайска, а можайский князь Иван бежал в Литву. В 1456 г. был схвачен и заключен в Угличе князь Василий Ярославич Серпуховской. Из всех уделов в Москве остался только один — Верейский.
К моменту начала правления великого князя Ивана III слабые удельные князья, такие как Михаил Андреевич Верейский и сын Бориса Васильевича Волоцкого, в своих духовных грамотах уже называют великого князя московского государем. Некоторые служилые люди из греков употребляют более распространенные выражения в отписках к великому князю Ивану III; так, Дмитрий Ларев Палеолог пишет: «Наияснейшему и вышнейшему господу, господу Ивану Васильевичу, царю всея Руси и великому князю».
Еще его отец Василий II, желая узаконить новый порядок престолонаследия и отнять у враждебных князей всякий предлог к смуте, назвал Ивана великим князем. Иван III продолжил «собирание» разрозненных русских земель. В 1463 г. под нажимом Москвы уступили свою вотчину ярославские князья. В 1474 г. Иван выкупил у ростовских князей остававшуюся еще у них половину Ростовского княжества. Но гораздо более важным событием было окончательное покорение Новгорода, завершенное к 1479 г.
Брак московского государя с византийской царевной Софьей Палеолог стал важным событием в русской истории. Вместе с Софьей при великокняжеском дворе утвердились некоторые порядки и обычаи двора византийского. Сам великий князь возвысился в представлении современников. Он стал монархом, самовластным государем, требующим беспрекословного подчинения и повиновения, строго карающим за ослушание; поднялся до царственной недосягаемой высоты, перед которой боярин, князь и потомок Рюрика и Гедимина должны были благоговейно преклониться наравне с последними из подданных.
Великий князь Василий III Иванович продолжал политику своих предков. В 1510 г. был присоединен Псков. Василий III приказал: «Вечу в Пскове не быть, а быть в Пскове двум наместникам». Важным событием в его правлении была и война с Литвой, результатом которой явилось присоединение Смоленска (1514). В 1517 г. присоединена Рязань, сразу же за тем — Стародубское, а в 1523 г. — Новгород-Северское княжество.
Русское государство с XVI в. входит в ряд великих европейских держав, и великий князь московский и всея Руки Иван IV в 1547 г. принимает царский титул, ставя себя в один ряд с монархами Европы. Титул же великого князя остается как второй по значению после царского и употребляется вместе с ним: «царь и великий князь всея Руси». С принятием царем Петром I императорского титула великокняжеский титул сохраняется, но все более отходит на второй план. Пользоваться же им как личным именным титулом начинают сыновья и внуки императоров, сохраняя этот титул в узких рамках императорской семьи.