22 апреля 1467 года умерла жена князя Ивана Мария Борисовна. Новую жену он решил подыскать себе в Европе. Князь остановил свой выбор на племяннице последнего византийского императора Софье (Зое) Палеолог, которой покровительствовал папа римский Сикст IV, надеявшийся благодаря этому браку вовлечь Русь в антитурецкую коалицию. Свадьба состоялась в Москве 12 ноября 1472 года. Однако прибывшему в свите Софьи папскому легату не удалось склонить Ивана к войне с турками. Зато Иван почувствовал себя наследником византийских басилевсов, самым могущественным православным государем на земле. Он провозгласил Московское государство преемницей Византийской империи «и по политическому могуществу, и по православному христианству, и по брачному родству», и стал употреблять по отношению к себе царский титул. Элементом же государственного герба стал византийский двуглавый орел – родовой герб Палеологов. Иван еще более выделился как первый среди всех русских князей. Впрочем, его первенство на Руси уже никто не оспаривал. Брак же Ивана и Софии принес шесть дочерей и шесть сыновей.
В 1474 году Иван прибрал к рукам Ярославское и Ростовское княжества, которые просто выкупил у их владельцев. В 1483 году Москве завещал свое княжество верейский князь. В 1484 году тверской князь женился на дочери литовского князя Казимира, после чего Иван объявил Твери войну. Тверичи сдались практически без боя. Иван обязал их отныне не иметь никаких сношений с Ордой и с Литвой. Но когда год спустя был перехвачен гонец Михаила Борисовича в Литву, московское войско осадило Тверь. Многие тверские бояре еще во время похода перешли со своими людьми на службу московского князя, другие сделали это уже во время осады города. 11 сентября 1485 года оставшиеся тверские бояре сдались на милость московскому князю, а Михаил Борисович бежал в Литву. Московский князь посадил княжить в Твери своего сына Ивана Молодого. В 1504 году, согласно завещанию Ивана III, Тверская земля была разделена между несколькими наместниками. Тверское княжество в прежнем виде перестало существовать.
В 1480 году в результате «стояния» на реке Угре, продолжавшегося до 11 ноября, золотоордынский хан Ахмат так и не рискнул вступить в бой с московским войском и вторгнуться в русские пределы и в конце концов повернул назад в Орду. На обратном пути он был убит воинами сибирского хана Ибаха, а в 1502 году Золотая Орда была окончательно разгромлена крымским ханом Менгли-Гиреем. Так кончилось ордынское иго на Руси. В 1487 году Иван вмешался в междоусобицу в Казани и посадил там лидера промосковской партии хана Мухаммеда Эммина.
В ходе войн с Литвой в 1487–1494, 1500–1503 годах Иван III завоевал некоторые пограничные литовские территории. В договорах с Литвой Иван первым из московских князей стал именовать себя «государем всея Руси». Присоединение литовских земель происходило главным образом за счет того, что местные князья предпочитали переходить от Литвы к Москве. Это было вызвано принятием литовскими князьями католичества.
В 1480–1481 годах московское войско совершило успешный поход в Ливонию. После этого было заключено десятилетнее перемирие. В дальнейшем русско-ливонские отношения были нормализованы, и договор был продлен еще на 10 лет в 1493 году. После этого в 1503 году был заключен полноценный мирный договор. Мир с Ливонией обеспечивал Ивану хорошие отношения с ганзейскими городами, которые смирились с разгромом ганзейского двора в Новгороде и с тем, что та торговля, которая прежде шла с Новгородом и Псковом, теперь будет вестись с Москвой.
Князь Иван также предпринял кодификацию законов. В 1497 году был принят Судебник, заменивший «Русскую правду» Киевской Руси. Он предусматривал существование как центрального суда, который вершили великий князь и окольничии, так и местного, который был в руках назначаемых великим князем наместников. В судах также участвовали старосты городов и «лучшие люди» уездов. Для выполнения судебных решений была учреждена городская «исправа» (полиция). Судебник также сохранил обычай, по которому спорщики имели право доказывать свою правоту в поединке на мечах, причем разрешалось выставлять вместо себя наемных бойцов. В царствование Ивана III также была сформирована Боярская дума – совещательный орган при великом князе, состоявший из наиболее знатных людей государства.