Отмечая необходимость создания единых союзных народных комиссариатов по военным и иностранным делам, В. И. Ленин рекомендовал не торопиться с этим и вопрос о форме объединения деятельности всех других наркоматов представить на коллективное решение союзных республик, строго продумать меры, обеспечивающие правильное сочетание несокрушимого единства с охраной фактического равенства и суверенных прав союзных республик.
Разработка Конституции и создание государственного аппарата Союза ССР, начавшиеся после съезда, прошли под знаком реализации этих ленинских идей. Президиум ЦИК СССР обратился к ЦИК союзных республик с просьбой дополнительно рассмотреть и обсудить Декларацию и Договор об образовании СССР. В союзных республиках более трех месяцев происходили обсуждение и разработка конституционных основ союзного государства, составлялись проекты и предложения, вносились замечания.
Избранные Президиумом ЦИК СССР шесть конституционных комиссий разрабатывали положения о союзных органах власти и управления, бюджетные вопросы, подготовляли предложения о персональном составе руководящих работников союзных наркоматов.
Февральский Пленум ЦК РКП (б) (1923 г.) рассмотрел вопрос о функциях союзных и республиканских государственных органов. Пленум ЦК избрал комиссию для общего руководства дальнейшей подготовкой Конституции, принял тезисы по национальному вопросу, разработанные членами ЦК к XII партийному съезду. Тезисы перед съездом широко обсуждались в печати, в партийных организациях, на республиканских съездах партии и в советских органах.
На XII партийном съезде (апрель 1923 г.) делегаты были ознакомлены с письмом В. И. Ленина «К вопросу о национальностях или об «автономизации». Указания В. И. Ленина были положены в основу решений съезда по докладу И. В. Сталина о «Национальных моментах в партийном и государственном строительстве» и по организационному вопросу, в частности о строительстве государственного аппарата.
Съезд рекомендовал построить центральные органы Союза так, чтобы обеспечить равенство прав и обязанностей отдельных республик как во взаимных между ними отношениях, так и в отношении к центральной власти Союза.
В резолюции съезда по национальному вопросу подчеркивалось, что Союз ССР может быть сохранен и укреплен только при условии решительной борьбы партии против великодержавного шовинизма и местного национализма, причем главной опасностью съезд признал великодержавный шовинизм.
XII съезд партии одобрил предложение о создании двух равноправных палат в составе ЦИК СССР — Совета Союза и Совета Национальностей. Это было открытие новой формы построения высших органов многонационального государства. Совет Национальностей должен был обеспечивать представительство и национальные интересы больших и малых народов. В резолюции съезда рекомендовалось предоставить союзным республикам достаточно широкие бюджетные права, способствующие активному и самостоятельному их государственному существованию. В резолюции также указывалось, что должны быть изданы специальные законы, сурово карающие всех нарушителей национальных прав и особенно прав национальных меньшинств.
Коммунистическая партия, выполняя указания В. И. Ленина, очень тщательно подготовляла Конституцию СССР. По предложению ЦК РКП (б) ЦИК СССР в апреле 1923 г. образовал расширенную конституционную комиссию с представителями ЦИК союзных республик. Конституционной комиссии ЦИК СССР и Комиссии ЦК РКП (б) удалось решить сложные и спорные вопросы и составить окончательный вариант проекта Конституции СССР.
Проект Конституции, утвержденный Конституционной Комиссией ЦИК СССР и Комиссией ЦК РКП (б), рассматривался на Пленуме ЦК РКП (б) (26-27 июня 1923 г.). Пленум ЦК принял ряд поправок и дополнений, усиливавших гарантии прав и суверенности союзных республик.
Сессии ЦИК Закавказской Федерации, Украинской и Белорусской союзных республик, Российской Федерации единодушно одобрили проект Конституции СССР. Только после этого вторая сессия ЦИК Союза ССР 6 июля 1923 г. утвердила Конституцию СССР и постановила немедленно ввести ее в действие, а текст внести на окончательное утверждение II съезда Советов Союза ССР.
С введением в действие Конституции СССР приступило к работе утвержденное сессией первое союзное правительство — Совет Народных Комиссаров СССР во главе с В. И. Лениным. Был создан аппарат народных комиссариатов Союза ССР. В ЦИК СССР председательствовали по очереди председатели ЦИК союзных республик.