Сталин лично допрашивал Николаева — убийцу Кирова. На вопрос, зачем он это сделал, Николаев ответил, что кто-то ведь должен был решиться показать на неблагополучие в стране, повторить подвиг Желябова. Ответ, конечно, не удовлетворил вождя. Надо было найти «подстрекателей» убийцы. И в поле зрения следствия сразу же попали сторонники Зиновьева, которых в Ленинграде было немало. С некоторыми из них Николаев встречался.
Эти люди, ранее занимавшие более или менее крупные посты, привыкшие играть заметную роль в политической жизни, теперь с трудом мирились со своим скромным положением и всегда были готовы поворчать по поводу новых порядков и сравнить их с «добрыми старыми временами». Строго говоря, это не было тайной организацией, но они собой встречались между собой, и дух недовольство политикой партийного руководства был там неискоренимым. То есть, организации не было, но почва для неё была всегда готовой. Некоторые из этих фрондёров, приезжая в Москву, встречались с Зиновьевым и Каменевым. Заместитель Ягоды Агранов, друг Ежова, представил группу этих ленинградских «бывших» как заговорщиков и террористов. К этой группе следователи «пристегнули» и Каменева.
Есть такое мнение, что Ленин завещал своим соратникам по руководству партией не убивать друг друга, и первое время этот завет покойного вождя строго соблюдался.
Сталин не расстрелял Троцкого (о чём впоследствии очень жалел), а выслал его из страны — туда, где его враг смог безнаказанно (до поры до времени) вредить СССР. На его ликвидацию впоследствии с помощью зарубежной агентуры НКВД пришлось затратить колоссальные усилия и средства.
Бухарин, выведенный из Политбюро, стал редактором «Известий». Более того, его назначили секретарём комиссии по выработке проекта новой Конституции СССР, названной потом «сталинской». Как он сам признавался, его авторучкой текст Конституции был написан от первого до последнего слова.
Каменев, которым очень дорожил Горький (он устроил Каменеву встречу со Сталиным) под честное слово был прощён и поставлен во главе солидного издательства «Академия». Ему даже дали возможность выступить на XVII съезде партии, где его речь имела успех (хотя в ней он обосновал необходимость личной диктатуры, потому что в условиях кризиса стране нужен вождь).
Бухарин тоже выступил на съезде с покаянной речью и даже провозгласил здравицу в честь Сталина — «фельдмаршала всех революционных сил», но его речь была воспринята скептически (Киров назвал бухаринцев «обозниками», плетущимися в хвосте партии). Казалось, наступило некоторое примирение Бухарина с большинством партии.
Но как мог Сталин оставаться благодушным, если на съезде буквально все выступавшие клялись ему в верности и славословили его, а при тайном голосовании оказалось, что против него были поданы сотни голосов. Значит, все они — лицемеры. Если до убийства Кирова Сталин ещё колебался в выборе линии в отношении к старым большевикам, то теперь он убедился, что они в большинстве своём враждебны ему. Ведь они сформировались в условиях борьбы против царского режима, в подполье, их деятельность была по преимуществу разрушительной. Они поэтому настроены неизменно оппозиционно, склонны к критике складывающихся порядков, а потому им уже не место в партии.
Наверное, поэтому, когда перед арестом Каменева привезли к Сталину, он ему, снова кающемуся, уже не поверил и сказал: пусть вопрос о его вине или невиновности решит суд.
А уже в январе 1935 года Сталин получил информацию о готовящемся в Кремле заговоре с целью совершения государственного переворота. Сталин отнёсся к предупреждению серьёзно и поручил начать глубоко засекреченное расследование шефу НКВД Генриху Ягоде. Но, поскольку Сталин со времени убийства Кирова перестал доверять Ягоде, для присмотра за ходом дела был поставлен секретарь ЦК ВКП(б) Николай Ежов, которому после смерти Кирова и Куйбышева (другого сторонника смягчения отношений с общественностью) перешли их функции. В числе других мер по ужесточению режима в стране надо отнести ликвидацию Коммунистической академии, на которую смотрели как на гнездо оппозиционных «теоретиков».
Ягода представил дело так, будто заговор против Сталина и его команды составили несколько мелких кремлёвских служащих, в основном женщин из бывших дворян. Однако ему не удалось скрыть причастность к делу комендантов Кремля — близкого друга Сталина, секретаря ЦИК СССР Авеля Енукидзе и ответственного за личную безопасность живших в Кремле высших руководителей Рудольфа Петерсона (бывшего начальника охраны Троцкого).