У Витовта не было детей, и после его смерти в Великом княжестве начались усобицы. Занявший престолы Польши и Литвы младший сын Ягайло король Казимир и его дети потеряли интерес к «общерусской» программе Ольгерда. Эту задачу «перехватил» московский правнук Витовта — великий князь Иван III (1462–1505). Уже в 1478 г. он заявил о «возвращении» бывших древнерусских земель — Полоцка, Витебска, Смоленска. Эту задачу облегчало нарушение конфессионального баланса в Литве после Флорентийской унии. В 1481 г. король Казимир запретил православным строить новые храмы и восстанавливать прежние; по просьбе короля константинопольский патриарх посвятил для Литовской Руси особого митрополита Григория Болгарина, помощника изгнанного из Москвы сторонника унии митрополита Исидора. Наступление на православие вызвало в Литве оппозицию. В 1481 г. был раскрыт заговор против короля, во главе которого стояли князья Михаил Олелькович и его двоюродный брат Федор Иванович Вельский. Вельский бежал в Москву и остался там навсегда со своим потомством.
Так начались переходы православных князей Великого княжества на сторону Москвы, сильно облегчившие Ивану III и его сыну Василию III борьбу с западным соседом. Вслед за князьями Вельскими на московской службе оказались владельцы других окраинных земель Великого княжества — князья Белевские, Воротынские, Мезецкие, Вяземские, Новосильские, Одоевские, Трубецкие. В 1500 г. перешли к Москве вместе со своими «волостями» потомок Дмитрия Шемяки, князь Василий Иванович Шемячич, и князь Семен Иванович Можайский, сын сторонника Шемяки Ивана Андреевича Можайского. В результате двух больших войн 1487–1494 гг. и 1500–1503 гг. Великое княжество Литовское потеряло треть территории; великий князь Александр признал за Иваном III титул «государя всея Руси». К России были присоединены Вязьма, черниговские и новгород-северские земли (Чернигов, Новгород-Северский, Брянск, Стародуб, Гомель). После трех походов в 1514 г. был отвоеван Смоленск, который на 200 с лишним лет стал главной крепостью и «воротами» на западной границе России. Во время этих войн московские государи умело использовали недовольство части православных князей Литвы — в дальнейшем такая политика станет традиционной по отношению к польско-литовскому государству и в конце концов послужит одним из факторов его крушения.
Но уже во время третьей (1512–1522) и четвертой (1534–1537) по счету войн силы противников оказались примерно равными, а население Великого княжества больше не изъявляло желания присоединяться к Москве. По территории Восточной Европы пролегла граница, по обе стороны которой сложились глубокие различия в общественно-политическом строе двух восточнославянских государств. При этом православные славяне в границах держав Ягеллонов называли себя «русскими» или «русинами», а свой язык «русской мовой» — но при этом отличали себя от «Москвы». В Москве же на соседей смотрели как на «литвинов», и после бедствий Смуты даже православных «литовских людей» встречали подозрительно, а «ляхов»-католиков представляли уже как главных врагов, по сравнению с которыми даже немец-«лютор» выглядел симпатичнее. Правда, это не мешало вполне православным русским мужикам и в XVII и в XVIII вв. бежать за границу к тем же «ляхам». Крепостничество там было такое же, но барин мог быть и добрым, а вот злое государство с его чиновниками, податями и рекрутчиной — намного слабее.
Политическая элита Литвы и Москвы выработала свои исторические традиции и мифы о собственном прошлом. В литовских хрониках помещался рассказ о князе Палемоне, который с пятьюстами шляхтичами бежал от тирании Нерона на берега Балтики и покорил бывшие княжества Киевской державы. В сочинениях Ивана Грозного и московских дипломатических актах появилась теория о происхождении Рюриковичей от римского императора Августа. Гедимина же московское «Сказание о князьях Владимирских» называет бывшим княжеским конюхом, женившимся на вдове своего господина и захватившим власть над Западной Русью.
Осознавались и принципиальные различия в характере политической культуры: в источниках XVI в. появляется противопоставление «жестокой тирании» московских князей правам и «вольностям» шляхты и мещанства Великого княжества Литовского. Во времена Ивана Грозного уже московские служилые люди бежали в Литву. Князь и боярин Андрей Михайлович Курбский становится одним из первых политических эмигрантов. Знаменитая переписка царя Ивана и беглого боярина стала самым известным памятником русской политической мысли XVI в., споры вокруг которого продолжаются и поныне. Князь-диссидент обличал царя в безвинных гонениях против московской знати, но в то же время его жизнь в Литве показала несовместимость московского боярина с чуждой общественной средой. Курбский до самой смерти не выходил из-под суда и искренне не понимал, почему он, «княжа на Ковлю», не может «чинить бой морды» своей жене — знатной панне Голыпанской, раздавать слугам данные ему в держание короной земли или посадить евреев-заимодавцев в пруд с пиявками.