Другая, еще более важная причина разрыва заключалась в коварной политике Сигизмунда по отношению к Крымской орде. Усердными подговорами, подарками хану, его царевичам и вельможам Сигизмунду удалось разрушить долголетний союз Менгли-Гирея с Москвой и вооружить против нее орду. Несмотря на недавно заключенный мир с Василием, король вступил в тайный договор с ханом и обязался платить ему ежегодно по 15 000 золотых, если татары будут воевать Московское государство. Менгли-Гирей был уже стар и не мог держать власть твердой рукой, а его буйные сыновья жаждали добычи. В течение 1512 года крымские татары, под начальством царевичей Ахмата и Бурнаш-Гирея, сделали три набега на белевские и рязанские украйны и подступили, хотя безуспешно, к самой Рязани. С этого времени открылся длинный ряд опустошительных набегов Крымской разбойничьей орды, имевших неисчислимые последствия для всего Московского государства.
Москва имела в Крыму своих доброхотов и немедленно узнала о договоре Литвы с ханом, а также о военных приготовлениях Сигизмунда. В думе великокняжьей решено было предупредить врага. Василий послал королю «складную грамоту», или объявление войны, и вслед за тем зимой 1513 года сам выступил в поход с Михаилом Глинским, воеводами Даниилом Щеней и Репней-Оболенским. На этот раз предпринятая война имела определенную цель: возвращение от Литвы древнего русского города Смоленска с его областью. Осада этого города продолжалась шесть недель. Смоленск, расположенный по крутым холмам днепровского берега, был хорошо укреплен. Великий князь попытался взять его нечаянным ночным приступом и для ободрения людей велел им выкатить бочку меда и пива. В полночь полупьяные пищальники полезли на укрепления, а «посоха» (пешая рать, набранная из крестьян) несла за ними примет; но приступ был отбит с большими потерями. Василий воротился в Москву, а летом того же года он вновь осадил Смоленск. Меж тем другая рать, собранная в Новгородской и Псковской области, ходила на Полоцк, а оттуда пришла также к Смоленску. Хотя москвитяне выиграли открытую битву под Смоленском, однако осада его и на этот раз не удалась. Московский пушечный «наряд», огражденный турами, громил стены, но действовал неискусно; а то, что он разрушил днем, осажденные успевали исправлять ночью. Опять Василий воротился в Москву, ограничась опустошением литовских пределов. Однако решено было добывать Смоленск во что бы ни стало, и не медля начали готовиться к новому походу. С особенным усердием хлопотал о том Михаил Глинский, которому, как говорят, Смоленск был обещан на правах удельного княжения. Он посылал верного человека в Силезию, Чехию и к немцам, чтобы нанимать там в московскую службу людей, хорошо знавших военное дело. Такие люди, действительно, были наняты и прибыли в Москву через Ливонию.
Император Максимилиан не только держал сторону Москвы, но и усердно возбуждал ее к войне. Он имел виды на Чехию и Венгрию, которыми владела тогда династия Ягеллонов, в лице старшего Сигизмундова брата Владислава Казимировича. Этим видам Габсбургского дома сильно противодействовала национальная венгерская партия, во главе которой стоял знатный магнат граф Иоанн Заполыя; а король Польско-Литовский Сигизмунд не только дружил с этой партией, но и вступил в брак с сестрой Иоанна Заполыи, Варварой, в 1512 году, чем сильно вооружил против себя Максимилиана. Этот последний предложил свой союз государю Московскому и к тому же союзу привлек молодого тевтонско-прусского магистра Альбрехта Бранденбургского, который хотя по матери и был родной племянник Сигизмунда польско-литовского, но стремилея уничтожить вассальную зависимость своего ордена от польского короля и воротить прусские города, отнятые поляками при Казимире IV. Кроме Тевтонского ордена, Максимилиан старался привлечь к тому же союзу датского короля Христиана II, женатого на его внучке Изабелле. Михаил Глинский, хорошо знакомый с отношениями германских владетелей и с некоторыми из них самих, был душой их переговоров о союзе с Москвой против Польши.