Еще студентом он работал на ряде московских построек, а в 1916—1917 гг. успешно выполнил и осуществил в натуре проекты фасадов для четырех зданий строившегося тогда первого в России автомобильного завода АМО (ныне ЗИЛ) — заводоуправления, кузнечного, литейного и прессового цехов.
Первое из этих зданий сохранилось на территории автозавода. Симметричное, с невысоким куполом в центре, кирпичное с немногими белыми деталями, оно характеризуется монументальностью и простотой. Здание вызывает ассоциации с постройками русских зодчих начала XIX в.— О. И. Бове, Д. И. Жилярди и других, но в его больших проемах, в обновленной трактовке традиционных форм как бы «осуждается» новое время: это произведение Мельникова представляет собой выразительный пример московского архитектурного неоклассицизма 1910-х гг.
После революции, начиная с 1918 г., К. С. Мельников работает в ряде вновь созданных московских проектных мастерских под руководством И. В. Жолтовского и А. В. Щусева (мастерские Моссовета, отдела ИЗО Наркомпроса, «Новая Москва»). В 1918—1919 гг. он разрабатывал в духе палладианства проект поселка при Алексеевской больнице, а также участвовал во внутренних конкурсах на проекты Народного дома, жилых домов разных типов, колумбария и др. Для «Новой Москвы» в 1918—1923 гг. Мельников проектировал перепланировку своего родного Бутырского района и участвовал в таком же проекте для соседнего района, включавшего Петровский парк и Ходынское поле. Этот проект, первоначально начатый И. И. Фидлером и А. Л. Поляковым,— единственный в мельниковской практике пример работы в авторском коллективе. Предлагал он и свой вариант реконструкции Советской площади, перепланировавшейся тогда по проекту А. В. Щусева и И. А. Голосова.
В конце 1920 г. Мельникова пригласили преподавать на архитектурном факультете только что организованного Вхутемаса. Здесь вместе с И. А. Голосовым он возглавил один из трех потоков факультета. Это была «Вторая мастерская экспериментальной архитектуры», или «Новая академия», небольшая, но вполне самостоятельная по творческим установкам. Оба руководителя этой мастерской в собственных и учебных проектах того времени интенсивно искали новых путей в архитектуре, ее нового пластического и образного языка, исповедовали и разрабатывали теорию «архитектурного организма», решительно отказывались от ордерных архитектурных форм.
Первый общепризнанный успех принесло Мельникову участие в конкурсе на квартал показательных домов для рабочих по Серпуховской улице, в котором он среди нескольких десятков архитекторов единственный выступил с комплексно новаторским проектом. Тогда же выполненный второй конкурсный проект Дворца труда (оба в 1922—1923 гг.), хотя и не был премирован, подтвердил незаурядность и оригинальность таланта Мельникова. Пожалуй, Мельников был самым молодым из получивших заказ на самостоятельное проектирование павильона для Всероссийской сельскохозяйственной выставки 1923 г. Правда, павильон ему заказали очень скромный — один из множества отраслевых, предназначенных для показа работы и продукции махорочного синдиката.
Но павильон «Махорка» оказался архитектурным событием, и не только в рамках выставки. Мельников остроумно скорректировал предложенную функциональную программу, а в композиции исходил из убеждения, что выставочная архитектура должна быть обязательно образно новой и впечатляющей, должна выполнять роль важнейших «экспонатов» выставки. Архитектор расчленил здание на ряд самостоятельных объемов, контрастно сгруппировал их, накрыл разнонаправленными односкатными кровлями, консольно выдвинул верхний объем над опорами, противопоставив его массиву две ажурные формы — открытую винтовую лестницу и узкую застекленную шахту для транспорта.
Своей образной экспрессивностью павильон «Махорка» произвел огромное впечатление на современников. Он вообще оказался одним из самых первых примеров подлинного обновления языка архитектуры, тем более знаменательного, что постройка была выполнена в традиционнейшем и, казалось бы, уже не поддающемся какому- либо новому осмыслению материале,— в дереве.
В феврале 1924 г. Мельников по конкурсу получил право на почетнейшую работу: сооружение саркофага в еще только проектировавшемся и одновременно строившемся тогда временном (втором) Мавзолее В. И. Ленина. Это задание в сложных технических условиях и в сжатые сроки Мельников реализовал к открытию Мавзолея для посетителей летом 1924 г. Выполненный им саркофаг служил своему назначению в течение двух десятилетий, вплоть до послевоенной реконструкции интерьеров Мавзолея.
В том же 1924 г. Мельников, как архитектор с выраженным индивидуальным характером творчества, успешно участвовал в заказных конкурсах на проект московского здания для издательства «Ленинградская правда» на Страстной площади (ныне Пушкинская пл.), проект павильона СССР для Международной выставки декоративного искусства и художественной промышленности в Париже, а также получил эаказ на сооружение комплекса Ново-Сухаревского рынка (в квартале между Садовой-Сухаревской ул. и Б. Сухаревским пер.).