Время, непрочность кирпичей и извести, употреблявшихся тогда, и неумение еще строить с надлежащей прочностью каменные укрепления были причиной, что заложенный Дмитрием Донским Кремль по прошествии ста лет приходил в ветхость. Иван III Васильевич, положивший прочное основание единодержавию и величию России, перестроил и распространил Кремль и вообще первый занялся украшением Москвы. До него Москва представляла довольно бедный вид, как единогласно свидетельствуют о том все иностранцы, бывавшие в Москве и оставившие описания своего пребывания в ней. Так как свои мастера не имели достаточных знаний, чтобы производить постройки, то великий князь по совету своей жены Софьи решился выписать из Италии более сведущих строителей. Он поручил Семену Толбузину, своему послу в Венеции, поискать там хороших мастеров. Но никто не соглашался ехать в далекую и мало еще известную Москву. Наконец Толбузину посчастливилось найти одного славного зодчего, который заявил себя уже тем, что выстроил в Венеции большую церковь и ворота, и который согласился ехать в Москву за десять рублей жалованья в месяц, что составляло около двух фунтов серебра. Это был знаменитый Аристотель Фьораванти. Он приехал в Москву с сыном Андреем и учеником. Найдя за Андроньевым монастырем хорошую глину, он стал делать превосходные кирпичи. Он же первый употребил в дело стенобитную машину и блок, которых москвичи не видали у себя ранее. Аристотель был не только искусным архитектором, но знал еще и Другие художества: лил пушки и настолько умел ими управлять, что участвовал, по свидетельству летописца, в походе Ивана Васильевича на Тверь, находясь при орудиях. Во время осады Новгорода он построил под городищем мост на судах. Кроме того, он лил колокола и чеканил монеты. Вслед за Аристотелем были приглашены в Москву еще многие Другие иноземные художники, производившие различные постройки и исправлявшие прежние соборы, церкви, здания.
Новые каменные стены с башнями были возведены, отступя от прежних. Между стеной и дворами было оставлено 109 саженей, а церкви и дома, стоявшие на этом пространстве, снесены. Петр Фрязин в 1485 году выстроил Свибловскую башню на Москве-реке и под ней вывел тайник. Затем, в течение семи лет, он выстроил башни, или стрельницы, у Фроловских, Никольских, Боровицких и Константино-Еленских ворот и стену от Свибловской стрельницы до Боровицких ворот и далее до Неглинной. Другой зодчий — иностранец Марк Руффо построил стрельницу Беклемишевскую. Все эти стрельницы были соединены толстой, вышиной в некоторых местах до трех саженей стеной.
Страшный пожар в 1493 году внутри Кремля сделал в нем и страшные опустошения. Сгорели новый великокняжеский дворец, оконченный года за два перед тем, старый дворец. Митрополичий двор, обрушилась церковь Иоанна Предтечи у Боровицких ворот, под которой хранилась казна великой княгини Софьи, и много других зданий. Уцелели только соборы да Грановитая палата, выстроенная Марком Руффо и Петром Фрязиным, получившая свое название от граненых камней наружной стены. Великий князь вместе со своим сыном лично помогал разметывать строения для прекращения пожара. При этом погибло более 200 человек, а также множество лошадей и других животных. Летописцы говорят, что, как Москва стала, такого пожара еще не было. Сам великий князь принужден был переехать временно за Яузу и поселился на «крестьянских дворах» у церкви Св. Николая, что именовалась Подкопай. Через шесть лет великий князь поручил архитектору Алевизу построить каменный дворец на старом своем дворе у Благовещения. Алевиз употребил девять лет на построение дворца, но выстроил его основательно, сделал под ним подвалы и ледники и провел каменную стену от великокняжеского двора до Боровицкой стрельницы. Во время постройки дворца великий князь помещался в деревянных хоромах в своем Кремлевском дворе, а иногда на Воронцовом поле. Он не дожил до окончания строительства дворца. Надо заметить, что построение церквей и палат хотя и было поручаемо иностранным художникам, но живопись, особенно церковная, оставалась в руках русских художников.
Преемник Ивана III Васильевича Василий Иванович был первым вполне самостоятельным государем московским. В самом начале своего княжения он достроил в Кремле каменный дворец, начатый отцом его, и перешел в него жить 7 мая 1508 года. Он великолепно отделал дворец и, кроме того, выстроил в Кремле на прежних местах некоторые новые каменные церкви. Ров, идущий вокруг Кремля, великий князь велел мастеру Алевизу обложить камнем и кирпичом и выкопать при впадении Неглинной в Москву-реку за Боровицкими воротами пруд, названный Лебединым. На этом пруде была поставлена каменная мельница, и вода из него проводилась во рвы.