Официально Германия все еще была демократической. Торговые отношения между Германией и Советской Россией достигли высшей точки своего развития. Советское правительство закупало машины у немецких фирм. Немецкие техники приглашались на ответственные должности в советских горных предприятиях и работали в области электрификации. Советские инженеры ездили в Германию. Советские торговые представители и агенты по закупкам и коммерческим операциям беспрерывно курсировали между Москвой и Берлином по заданиям, связанным с выполнением пятилетнего плана. Некоторые из этих советских граждан были сторонниками или бывшими последователями Троцкого.
В течение 1932 г. будущая «пятая колонна» России начала принимать конкретные очертания в подпольном мире оппозиции. На узких совещаниях и тайных конференциях участники заговора знакомились с новой линией и получали инструкции, связанные с новыми задачами. В Советской России создавалась сеть террористических и вредительских ячеек и система курьерской связи. В Москве и Ленинграде, на Кавказе и в Сибири, в Донбассе и на Урале троцкистские организаторы выступали на пестрых по составу тайных сборищах заклятых врагов советского строя: эсеров, меньшевиков, «левых», «правых», националистов, анархистов и белогвардейцев — фашистов и монархистов. Письмо Троцкого распространялось в этом бурлящем подпольном мирке оппозиционеров, шпионов и тайных агентов; готовилось новое наступление против советского строя.
Настойчивые требования Троцкого о подготовке террористических актов вначале встревожили кое-кого из троцкистских интеллигентов старшего поколения. Журналист Карл Радек проявил признаки паники, когда Пятаков ознакомил его с новой линией. В феврале 1932 г. Радек получил от Троцкого письмо, доставленное, как и вся троцкистская переписка секретного характера, тайным курьером.
Троцкий писал своему колеблющемуся стороннику Радеку: «Вы должны учесть опыт предыдущего периода и понимать, что нет у вас возврата к старому, что борьба вошла в новый фазис и что новое в этом фазисе состоит в том, что или мы будем уничтожены вместе с Советским Союзом, или надо поставить вопрос об устранении руководства».
Письмо Троцкого и настояния Пятакова в конце концов убедили Радека. Он согласился следовать новой линии — линии террора, вредительства и сотрудничества с «иностранными державами».
В числе наиболее активных организаторов террористических ячеек, создававшихся в Советском Союзе, были Иван Смирнов и его старые товарищи по гвардии Троцкого — Сергей Мрачковский и Эфраим Дрейцер.
Под руководством Смирнова Мрачковский и Дрейцер приступили к формированию небольших групп боевиков-террористов из своих бывших сотоварищей со времен гражданской войны — троцкистов, готовых применять насильственные методы.
Одной из таких террористических групп в Москве Мрачковский заявил в 1932 г.:
— Надежды на крах политики партии надо считать обреченными. До сих пор применявшиеся средства борьбы не дали положительных результатов. Остался единственный путь борьбы — это путь насильственного устранения руководства партии и правительства… Надо убрать Сталина и других руководителей партии и правительства. В этом главная задача.
Тем временем Пятаков подбирал кадры заговорщиков среди лиц, занимавших ведущие посты, главным образом в военной промышленности и на транспорте, вербуя их для участия в решительной кампании вредительства, которую Троцкий намеревался развернуть.
Летом 1932 г. между Пятаковым, как заместителем Троцкого в России, и Бухариным, лидером правой оппозиции, велись переговоры о соглашении с тем, чтобы ликвидировать на время былое соперничество и разногласия и работать совместно под верховным руководством Троцкого. Меньшая по численности группа, возглавлявшаяся ветеранами оппозиции Зиновьевым и Каменевым, согласилась подчинить свою деятельность авторитету Троцкого. Касаясь этих переговоров, Бухарин впоследствии показал на суде: «Я разговаривал с Пятаковым, Томским и Рыковым. Рыков разговаривал с Каменевым, а Зиновьев с Пятаковым.
Летом в 1932 г. я второй раз разговаривал в Наркомтяжпроме с Пятаковым. Разговаривать тогда мне было очень просто, так как я работал под руководством Пятакова. Он тогда был моим хозяином. Я должен был по делам заходить к нему в кабинет, не вызывая никаких подозрений… Пятаков рассказал, что в беседе, которая происходила летом 1932 г., о встрече с Седовым относительно установки Троцкого на террор… Мы решили, что очень быстро найдем общий язык и что разногласия в борьбе против Советской России будут изжиты».