Перед Коммунистической партией, которая вела и направляла к тому времени заметно возросший централизованный госаппарат, встали новые и масштабные задачи, решение которых могло быть обеспечено лишь при росте активности парторганизаций и их членов. Однако и структура и методы руководства партии во время гражданской войны изменились: на широкие дискуссии не оставалось времени, решения руководства требовали строгого и безусловного выполнения, руководители всех уровней по большей части назначались сверху, а не выдвигались и не избирались своими собственными организациями, как это было прежде. Централизация и концентрация полномочий в немногих органах наблюдалась и в партии, так что демократический централизм как основной организационный принцип партии тогда превратился в диктаторский централизм.
К этому добавилось также и то, что наиболее активные руководители и члены партии сражались в Красной Армии, при этом очень многие из них погибли. Оттого и внутрипартийная жизнь находилась в довольно плачевном состоянии. В поисках путей выхода из сложившейся ситуации всё громче звучали призывы вернуться к внутрипартийной демократии, росло недовольство тем, что приказы шли только сверху вниз, а также командным стилем руководства.
Руководство Коммунистической партии состояло из Центрального Комитета, включавшего примерно 24 члена, и небольшого секретариата, возглавляемого Я. М. Свердловым. Руководящая верхушка, вынужденная устраивать частые заседания для принятия срочно требовавшихся решений, составила Политическое бюро, вскоре получившее сокращённое название «Политбюро». Тогдашнее Политбюро состояло из Ленина, Троцкого, Каменева, Сталина и Бухарина. Позднее к нему присоединились Зиновьев, Рыков и Томский. Так как Политбюро постепенно взяло на себя все решающие полномочия, то именно оно практически являлось реальным правительством страны, в то время как Совет народных комиссаров (официальное правительство) стал всего лишь высшим исполнительным органом. После преждевременной кончины Свердлова, руководившего секретариатом просто и вместе с тем эффективно, потребовался новый руководитель. Поскольку к тому времени объём задач чрезвычайно возрос, Каменев предложил объединить секретариат с существовавшим тогда Организационным бюро, выполнявшим скорее технические задачи, и создать таким образом генеральный секретариат партии. На пост генерального секретаря он выдвинул Сталина, с которым был сам давно знаком. Они повстречались ещё на заре своей революционной деятельности в Грузии, затем бок о бок провели немало лет в сибирской ссылке, а в марте 1917 года вместе вернулись в Петроград, где до приезда Ленина возглавляли редакцию партийной газеты «Правда». Каменев считал, что хорошо знает Сталина. Он понимал, что этот «практик» (как тот сам себя всегда называл) был теоретически малообразован, вследствие чего Каменев сознавал своё превосходство над ним не только в своём общем образовании, но также, и главным образом, в своих солидных марксистских знаниях. Очевидно, что с помощью Сталина в качестве генерального секретаря он надеялся укрепить собственное влияние и статус в Политбюро, так как его положение не было особо устойчивым из-за колебаний, проявленных им в дни Октябрьской революции.
Ленин не был доволен кандидатурой Сталина, так как считал, что «этот повар будет готовить острые блюда». И всё же он согласился с предложением Каменева, потому что Сталин действительно обладал организационным талантом и способностью проявить себя, а именно такие черты были в те дни необходимы. В результате 3 апреля 1922 года на XI съезде партии был избран генеральный секретарь.
Вскоре выяснилось, что в итоге он получил гораздо бо́льшую власть, чем ему намеревались дать те, кто его избрал. Тому было много причин, отчасти связанных с другим кругом обязанностей Сталина. Кроме всего прочего, он был также наркомом по делам национальностей, а это означало, что только он имел прямую связь с руководителями партии и государства в нерусских национальных республиках и автономных регионах. Там он подбирал и расставлял руководящие кадры, таким образом обеспечив себе сильную личную власть.