Реконструкция улицы Горького началась от Охотного ряда. На месте 14 старых домов, которые были снесены и частично передвинуты в глубь квартала по правой стороне улицы от ее начала до Советской площади, Мордвиновым были спроектированы два крупных семиэтажных дома (так называемые корпуса А и Б— ныне дома № 4 и 6) на 312 квартир, от двух до пяти комнат в каждой. Первые два этажа были отведены для крупных магазинов, кафе, аптеки и тому подобных учреждений. Через Георгиевский переулок была перекинута арка высотой в четыре этажа. Терракотовый цвет единого по высоте карниза и вставных декоративных элементов из керамики придали домам нарядный облик. Когда в 1938—1939 гг. строительство закончилось, укрупнился масштаб улицы, которая приобрела представительный, столичный характер. В предвоенные годы в витринах магазинов по праздничным дням выставлялись подрамники с архитектурными проектами, привлекавшими внимание москвичей к новым идеям и разработкам, к проблемам реконструкции и развития столицы. Улица Горького надолго стала любимым местом для прогулок.
Дома строились по новой красной линии улицы, за рядами еще стоявших старых зданий. Впервые в нашей стране на строительстве жилых домов в столь большом масштабе применялись детали, изготовленные на заводе,—сборные железобетонные перекрытия, металлические колонны и балки. Мокрая штукатурка была заменена в помещениях плитами сухой, а на фасадах — керамической плиткой. На строительстве использовались подъемные краны, применялись контейнеры для транспортировки кирпича, вмещающие по 200 штук кирпичей. Ускорение строительства обеспечивалось одновременным ведением земляных работ и кладки стен фундаментов, а также монтажа сборных элементов и перекрытий каркаса вместе с кирпичной кладкой стен. Оба дома были построены за 11 месяцев1.
По проектам Мордвинова в 1939—1940 гг. построены также корпуса В и Г (ныне дома № 15 и 17) на отрезке улицы Горького от улицы Станкевича до Бульварного кольца. Улица Станиславского и Большой Гнездниковский переулок, как и Георгиевский переулок, перекрыты арками. Корпус Е (ныне дом № 8) занимает участок от Советской площади до улицы Немировича-Данченко. Эти дома отличаются более строгим рисунком фасадов, подчеркивающим индустриальный характер архитектуры, и более сдержанным цветовым решением. Угол здания № 17, выходящего на Пушкинскую площадь, увенчан декоративной башенкой, фасад по улице Горького завершается аттиком с небольшими шатровыми пинаклями (обелисками) .
Опыт реконструкции головной части улицы Горького сделал имя А. Г. Мордвинова широко известным. Следующим его шагом на пути поточно-скоростного строительства была реконструкция Большой Калужской улицы (ныне Ленинский просп., 24, 26, 28). Здесь построены одиннадцать домов — восемь по проектам А. Г. Мордвинова, остальные по проектам Г. П. Гольца, Д. Н. Чечулина. Проекты были разработаны на основе типовых жилых секций, отдельные элементы зданий изготавливались на заводе. На стройке был применен поточно-скоростной метод, при котором бригады, окончившие земляные работы на первом объекте, переходили на второй, а на первом начинали работы каменщики, затем отделочники ит. д. Все дома объемом более 500 тыс. м³ были построены в 1940 г. за 14 месяцев.
А. Г. Мордвинов уделил большое внимание рациональному решению правой, северо-западной стороны улицы, застройка которой с тыльной стороны обращена к Центральному парку культуры и отдыха имени М. Горького. Несмотря на фронтальный характер застройки, в разрывах между домами ощущается пространственная связь магистрали с зеленью парка. Творческая работа Мордвинова, Гольца, Чечулина над реконструкцией и застройкой Большой Калужской улицы была отмечена первой премией на конкурсе лучших жилых домов Москвы.
По проектам Мордвинова и мастерской Моспроекта, которой он руководил, перед войной были построены также жилые дома на улице Чайковского, 7, на углу Большой Полянки и Кадашевской набережной, 1 (с башенкой, напоминающей завершение дома на пл. Пушкина), на Фрунзенской набережной, 28—34 (повторное использование проекта дома на Б. Калужской, 24) и др. В числе первых архитекторов А. Г. Мордвинов был в 1941 г. удостоен Государственной премии СССР.