В Союзе писателей А. С. Щербаков направляет писательские силы на создание высокоидейных художественных произведений. Он возглавляет делегацию Союза советских писателей на Международном конгрессе писателей в защиту мира, состоявшемся в 1935 году в Париже. В состав делегации входили В. Иванов, А. Толстой, Н. Тихонов, Ф. Панферов, А. Корнейчук и другие писатели.
А когда ЦК ВКП(б) назначил А. С. Щербакова культпропом ЦК партии без освобождения от обязанностей секретаря Союза писателей, Алексей Максимович писал ему: «Дорогой Александр Сергеевич, не скрою, очень огорчен Вашим назначением в Культпроп. Конечно, дело необходимое, с литературой тесно соприкасается и давно требует энергичных работников — людей, которые имеют определенное представление о социалистической культуре, о методах ее развития. Но боюсь, что новая сложная работа отнимет у Союза писателей две трети, а то и всю Вашу энергию. В Союзе Вы оказались на месте, быстро приобрели авторитет культурного руководителя и друга дела… То, что Вы не совсем уходите, несколько утешает меня…»
В 1936 году Александр Сергеевич работает в Ленинграде в качестве второго секретаря обкома ВКП(б). В это время партия ведет напряженную работу по выполнению плана второй пятилетки, одновременно советуется с народом по важнейшему вопросу в жизни страны — новой Конституции СССР. Щербаков проводит большую работу по разъяснению рабочим и колхозникам области значения нового Основного Закона Советского государства.
Совместная работа с таким выдающимся деятелем нашей партии, как А. А. Жданов, оказала благотворное влияние на его формирование как партийного и государственного работника. ЦК ВКП(б) направляет Щербакова в Иркутский обком ВКП(б). За непродолжительный срок напряженной работы ему удается сплотить актив, обновить руководящие кадры и поднять хозяйство края. Вскоре ЦК ВКП(б) направляет Александра Сергеевича в Донецкую область. Его избирают первым секретарем обкома партии. Партией ставится трудная задача подъема угольной промышленности Донбасса. И здесь за короткий срок, мобилизуя на выполнение этой задачи в первую очередь коммунистов и комсомольцев, Щербаков добивается значительных результатов. За выдающиеся успехи в деле подъема угольной промышленности он впервые награждается орденом В. И. Ленина.
В октябре 1938 года Александр Сергеевич Щербаков избирается первым секретарем столичной городской и областной партийных организаций. Ему тридцать семь лет. С первых дней пребывания на посту первого секретаря Щербаков особо заботился об улучшении партийного руководства промышленностью, о правильном сочетании партийно-политической и хозяйственной работы в Москве. Стилем его деятельности было постоянное общение с массами, умение советоваться с рабочим классом и со всей энергией двигать дело вперед. Он обладал бесценным качеством руководителя — чувством нового, и подмечал любую полезную инициативу, любое патриотическое начинание. Распространение передового опыта среди рабочих масс, вопросы социалистического соревнования всегда были в поле его зрения.
Так, по инициативе А. С. Щербакова бюро МГК ВКП(б) обсудило опыт работы многостаночного обслуживания на заводе «Фрезер» имени М. И. Калинина. Ценный почин получил широкий отклик в стране и принес немалый экономический эффект. Оценивая в 1940 году итоги пятилетней работы в области жилищного и коммунального хозяйства, развития транспорта, строительства метро, водоснабжения и озеленения столицы, он говорил: «То, что сделано за пять лет в Москве, вообще не знает примера в истории градостроительства, немыслимо и невозможно при капитализме». Первый Генеральный план реконструкции Москвы и его осуществление также связаны с именем А. С. Щербакова.
В условиях усложнившейся международной обстановки, нарастания угрозы мировой войны Московский городской и областной комитеты ВКП(б) особенно внимательно занимались партийными организациями оборонных заводов города и области, помогали им в выполнении напряженных производственных планов.
В 1939 году А. С. Щербаков предупреждал московских коммунистов: «Военная опасность — вещь вполне реальная, она растет… война приближается. Нельзя назвать срока, но она не за горами… Это будет тяжелое — испытание. Победим наверняка. Но чем скорее… — зависит от нас, как подготовимся».