Сохранение верности великому князю литовскому обуславливалось предоставлением им военной защиты. Когда такой защиты не последовало, а давление со стороны Москвы усилилось, Рюриковичи один за другим признали верховенство великого московского князя. В результате этого земли в верховьях Оки и значительная часть Чернигово-Северщины перешли под власть Ивана III.
Для того чтобы сдержать давление со стороны Московского княжества, литовский князь Александр Казимирович идет на серьезные уступки Ивану III. В частности, в 1494 г. он инициирует династический брак с дочерью великого московского князя, признает за Иваном III титул «государя всея Руси», заключает с ним мирный договор, закрепляющий за Москвой территориальные приобретения. Вместе с тем Александр стремится создать антимосковскую коалицию в составе Литвы, Польши и Заволжской орды, а также консолидировать подданных внутри страны, внедрив церковную унию католиков и православных.
Впрочем, последнее обстоятельство провоцирует конфликт с православной знатью княжества, используя который, весной 1500 г. Иван III вводит войска на земли Чернигово-Северщины. Учитывая, что союзник московского князя хан Менгли Герей разбил заволжского хана Шах-Ахмата (союзника Александра Казимировича), после чего вторгся в пределы Волыни и Берестейщины, шансы Вильно противостоять Ивану III были незначительными. В течение нескольких месяцев власть великого князя московского признали жители Серпейска, Путивля, Стародуба, Любеча, Гомеля, Новгород-Северского, Рильска. Новые территориальные приобретения Москвы закрепило перемирие 1503 г.
Перемирие было подписано на шесть лет, однако вопрос о его пересмотре встал уже в 1506 г., когда после смерти Александра Казимировича великокняжеский стол занял его брат Сигизмунд I. Именно он выдвинул великому князю московскому Василию ІІІ Ивановичу ультимативное требование вернуть захваченные прежде земли. Москва отклонила ультиматум, и с весны 1508 г. Вильно начал подготовку к войне. Впрочем, Василию Ивановичу удалось опередить противника и первому выступить в поход против неприятеля.
К тому же на Киевщине против Сигизмунда I поднимает восстание влиятельный аристократ, маршалок двора Александра Казимировича князь Михаил Глинский. Потомок татарского рода Мамаевичей, Глинский был богат, по-европейски образован, служил при дворе императора Максимилиана. В 1506 г. он одержал первую серьезную победу княжества над Крымской ордой. После смерти Александра Казимировича безуспешно претендовал на великокняжеский стол.
Опорой Глинскому служил чрезвычайно разветвленный родовой клан. Один из его братьев получил должность воеводы киевского, другой — воеводы берестейского, целая армия клиентов князя была рассажена на важных государственных должностях. С целью расширения круга своих приверженцев Глинский обещал киевскому боярству восстановить удельное Киевское княжество.
Восставшим удается овладеть Мозырем, Клецком, осадить Житомир и Овруч. Впрочем, развить успехи князю не удается, поскольку его действия не находят поддержки у боярства Волыни и Центральной Беларуси. Напротив, представитель могущественного волынского клана князей Острожских, великий гетман литовский Константин Иванович, мобилизировав собственных клиентов, успешно противостоит Глинскому. В мае 1508 г. Глинский приносит присягу верности великому московскому князю, и к нему на помощь приходят московские ратники во главе с еще одним перебежчиком — князем Василием Щемячичем. Общими усилиями они стремятся овладеть Минском, Оршей, Друцком, Новогрудком. Однако князю Острожскому во главе литовского шляхетского ополчения и польских войск удается выбить неприятеля за границы княжества. Терпят поражения и призванные Глинским на помощь крымские татары. Впрочем, подписанный в сентябре между Вильно и Москвой «вечный мир» для Литвы носил пораженческий характер. За Василием III признавалось право на владение землями, приобретенными его отцом; клан Глинских, а также их клиенты получали право свободного выхода на земли, подвластные великому князю московскому.
Очередной вооруженный конфликт между Литвой и Москвой за русьские земли вспыхнул осенью 1512 г., когда Василий III, заручившись поддержкой великого магистра Тевтонского ордена и немецкого императора, а также уверив в своих дружеских намерениях крымского хана, начал наступление на Смоленские земли Великого княжества Литовского. Осада Смоленска продолжалась шесть недель, но результата не принесла. Удалось только разорить окрестности Минска, Орши, Киева. Попытка овладеть Смоленской крепостью была возобновлена в следующем году. Однако, простояв под стенами четыре недели и обрушив на Смоленск артиллерийский шквал, великий князь московский был вынужден вновь отступить. И только летом 1514 г. московское войско, оснащенное большим количеством тяжелых артиллерийских орудий, сумело наконец вынудить защитников города к капитуляции. Василий Ш пытался развить успех наступлением в глубь литовской территории. Однако в генеральной битве под Оршей 8 сентября 1514 г. одержать победу выпало великому гетману литовскому князю Острожскому.