На этой же сессии ЦИК было решено упразднить Наркомат по делам национальностей РСФСР. Он «закончил свою основную миссию по подготовке дела образования национальных республик и областей и объединения их в Союз республик». В дальнейшем функции комиссариата выполняли Совет национальностей ЦИК СССР и другие специальные органы по осуществлению национальной политики — отдел национальностей при Президиуме ВЦИК, постоянные комиссии по делам национальных меньшинств в республиках, при областных и краевых исполкомах.
II Всесоюзный съезд Советов. В январе 1924 г. прошли съезды Советов союзных республик, ратифицировавшие Конституцию СССР. Окончательно утвердить ее текст должен был II Всесоюзный съезд Советов, созванный 26 января 1924 г. Он работал в траурные дни: 21 января умер В.И. Ленин. Съезд принял специальное обращение к трудящемуся человечеству и ряд постановлений об увековечивании имени вождя (сооружение мавзолея и памятников, переименование Петрограда в Ленинград, издание сочинений). Тело Ленина было помещено в мавзолей на Красной площади в Москве, ставший местом паломничества миллионов людей.
II съезд Советов завершил юридическое оформление союзного государства как Федерации суверенных союзных республик. 31 января 1924 г. Конституция СССР была утверждена. Как и первая Конституция РСФСР 1918 г., она носила ярко выраженный классовый характер. Верховный орган государственной власти — съезд Советов состоял из делегатов городских Советов (1 депутат от 25 тыс. избирателей) и губернских съездов Советов (1 депутат от 125 тыс. жителей). Этим обеспечивалась «руководящая роль рабочего класса». Выборы были многоступенчатыми. Классовый характер Конституции четко просматривался и в избирательном праве, которое было всеобщим только для трудящихся. Не избирали и не могли быть избранными лица, использовавшие наемный труд или жившие на нетрудовые доходы: частные торговцы, монахи и профессиональные служители религиозных культов всех исповеданий; бывшие полицейские и жандармы, лишенные избирательных прав по суду; душевнобольные.
Иерархический федерализм. К ведению высших органов власти были отнесены дела, связанные с внешними функциями государства (международные сношения, торговля, защита границ); хозяйственные дела (общее управление народным хозяйством, руководство его важнейшими отраслями); вопросы урегулирования межреспубликанских отношений и решения важнейших социально-культурных проблем. Наркоматы были общесоюзные (по иностранным делам, по военным и морским делам, внешней торговли, путей сообщения, почт и телеграфов) и объединенные, позднее называвшиеся союзно-республиканскими (ВСНХ, продовольствия, труда, финансов и рабоче-крестьянской инспекции), руководившие порученной им отраслью государственного управления через одноименные народные комиссариаты в каждой из союзных республик. В ведении союзных республик находились внутренние дела, земледелие, просвещение, юстиция, социальное обеспечение и здравоохранение, возглавлявшиеся республиканскими народными комиссариатами.
На основе новой Конституции СССР разрабатывались и принимались конституции союзных и автономных республик. В апреле 1925 г. введена в действие Конституция ЗСФСР, в мае — РСФСР. В 1927 г. принят Основной Закон Белоруссии. Первые после образования СССР изменения в Конституцию Украины были внесены уже на IX съезде Советов Украины: переработанный проект утвержден в мае 1929 г. Из конституций автономных республик в 1920-е гг. был разработан и вступил в силу Основной Закон Молдавской АССР. Высшими исполнительными и распорядительными органами государственной власти союзных республик являлись Советы народных комиссаров, включающие соответствующие союзно-республиканские и республиканские наркоматы.
Иерархический федерализм, оформившийся в СССР с принятием Конституции 1924 г., объясняется фактическим неравенством народов. Считалось, что он представлял собой ту необходимую форму, в которой пролетариат решал национальную задачу путем действенной и длительной помощи отсталым народам в деле их хозяйственного, культурного развития, в их переходе к социализму. Автономная область и округ представлялись как форма самоуправления народов, особо нуждавшихся в поддержке центральной власти. Поэтому распределение средств между нациями в СССР осуществлялось по правилу «больше тому, кто слабее». Подобный патернализм имел и негативные следствия, порождая иждивенческие настроения среди части населения и стремление местных элит обрести более высокий этнополитический статус. Это таило реальную опасность взращивания сепаратизма «на законных основаниях».