Многие месяцы Томас и Бронский занимались своим детищем самостоятельно. У них не было с Москвой даже телефонной связи, и редкие контакты с Исполкомом Коминтерна осуществлялись через пару курьеров. Но после Второго конгресса Коминтерна летом 1920 года Москва стала проявлять к ним больший интерес. Конгресс принял решение о формировании подпольных коммунистических организаций во всех странах, и русские представители Коминтерна отправились в Германию.
Главной из них была Елена Стасова («Герта»), дочь царского губернатора и представительница старой гвардии большевиков. С помощью советских фондов и советников она сформировала подпольную организацию немецких коммунистов, известную на партийном жаргоне как «Аппарат». Это название позаимствовано у банды головорезов, организованной в 1919 году левым социалистом Рихардом Доймигом.
Доймиг служил старшиной в германских войсках в Африке, затем стал редактором «Форвертс» и принадлежал к левому крылу Независимой Социал-Демократической партии, которое тесно сотрудничало с образованной в декабре 1918 года Коммунистической партией Германии. Как большинство коммунистов, он считал, что революцию можно вызвать одними террористическими и техническими методами.
По его мнению небольшие вооруженные отряды фанатиков должны уничтожать полицейских, убивать политиков, взрывать общественные здания. Этим отрядам следует действовать тайно и в день Д с точностью автомата выйти из подполья — отсюда и любопытное название «Аппарат», то есть машина.
Террорист Доймиг вскоре нашел ещё пару решительных соратников, собрал банду из крепких ребят с городских окраин, взял себе в союзники подобную группу из коммунистической партии и «аппарат» заработал. Но партийное руководство вскоре сочло дальнейшее использование безрассудных террористов слишком одиозным и избавилось от неуправляемого «Аппарата». В 1920 году Доймига заставили распустить свою организацию, и, как сообщал бывший «аппаратчик», большинство членов «в той или иной мере вернулись на преступный путь».
Чтобы выполнить приказ Москвы о формировании подполья, Елена Стасова обратила внимание на эту организацию. Из остатков группы Доймига наряду с несколькими молодыми коммунистами был создан подпольный коммунистический отряд самообороны, известный как М-Аппарат (военный). Его главой Стасова назначила спартаковца Хуго Эберлайна.
Вслед за тем Пятницкий отправил в Берлин подкрепление в виде опытных специалистов. В качестве заместителя руководителя Информационного отдела русский коммунист Миров-Абрамов прибыл в советское посольство в сопровождении двадцати пяти помощников и курьеров. В их задачи входило наблюдение за подготовкой Германской Коммунистической партии в гражданской войне. Вильгельм Пик, видный функционер коммунистической партии, а впоследствии президент Германской Демократической Республики, регулярно посылал ему свои сообщения, чтобы получать деньги из партийной кассы.
Одновременно ЗЕБ строил свою курьерскую службу. В Берлине создавали убежища, где коммунисты, находившиеся в розыске, могли скрываться от полиции. За несколько месяцев ЗЕБ превратилось в агентурный центр. Было сформировано несколько отделов (включая контрразведовательный), которые руководили целой армией информаторов, внедренных агентов и нигилистов, готовых в любое время выполнить свою задачу по организации долгожданного восстания.
В начале 1923 года московские пророки мировой революции узрели приближение «Германского Октября». В январе французские и бельгийские войска оккупировали Рур, и тут же как лесной пожар по Германии прокатилась волна недовольства. Это пассивное сопротивление очень скоро могло привести сломленную войной Германию на грань экономического краха, и вот тут-то, как полагали коммунисты, и возникал уникальный шанс превратить националистическое буржуазное сопротивление в восстание против правящих классов.
Москва ухватилась за такую возможность. Отдел кадров Коминтерна попросил разведывательную службу Берзина выделить пять — шесть офицеров, способных внести в подготовку немцев к революции армейский порядок. Берзин собрал команду, включавшую будущего генерала разведки Вальтера Кривицкого, и в январе 1923 года группа отправилась в Германию.
Из членов коммунистического «М-Аппарата» они образовали три отдельных группы. В самом «М-Аппарате» как таковом остались только люди, годные для воинской службы, которых сотрудники Берзина считали будущими руководителями Германской Красной Армии; разведывательный отдел («N-Аппарат» (Nachrichten — разведка) — был образован, чтобы следить за политическими противниками, а контрразведка («Z-аппарат», Zersetzung — разложение) внедряла агентов в полицию и армию.
Профессионалы русской разведслужбы были главным образом заинтересованы в секретах вражеской разведки. Львиная доля из миллиона долларов, выделенных в 1923 году Москвой на эту германскую авантюру, предназначалась разведывательным организациям и контрразведке. Подчиненные Берзина нашли энергичного помощника в сыне лейпцигского священника Гансе Киппенбергере, которого они сочли способным создать и возглавить эффективную агентурную сеть.
Молодой коммунист двадцати пяти лет от роду оказался фанатичным и талантливым организатором. Более поздняя запись в гестаповском списке подозреваемых сообщала: «Киппенбергер, 15. 1. 98., журналист, резидент ГПУ». Вскоре он стал ведущей фигурой в коммунистическом студенческом движении. Даллин утверждает, что «он до конца сохранил черты студента идеалиста».
Все произошло незадолго до того, как он стал ключевой фигурой в гамбургском коммунистическом подполье. Киппенбергер руководил деятельностью красных в гамбургском рабочем квартале Бармбек, где его и нашли люди Кривицкого. Он остался верен Бармбеку, но в то же время создал разведслужбу, которая устраивала его коммунистическое начальство. Вскоре в его распоряжении уже была эффективная сеть агентов. Бывший член коммунистической партии Рут Фишер вспоминала, что «под видом сочувствующих они внедрялись во вражеские организации, приобретали там влияние и таким образом получали доступ к закрытой информации. Связи между партией и её агентами в армии или полиции хранились в строжайшей тайне.»
Люди из команды Киппенбергера помогали русским готовить первые бригады для грядущей гражданской войны. Многим активистам приказали оставить коммунистическую партию и вступить в один из «аппаратов». Они перебрались в «убежища» и оборвали все связи со своими друзьями. Их вооружали ручными гранатами, револьверами, на глухих окраинах или в отдаленных лесах занимались боевой учебой.
Едва сформировался первый костяк будущей военной организации, Москва направила в Германию вторую партию советских инструкторов. Тем временем создавалась военно-политическая организация, в которую входили коммунисты, годные к военной службе. Ключевые позиции в ней занимали сотни русских офицеров. Управлялась эта организация из размещавшегося в Берлине центрального штаба, в ведении которого находилось шесть районов; последние возглавляли проверенные немецкие коммунисты, но реальная власть была сосредоточена в руках советских офицеров-советников.
11 сентября 1923 года советское Политбюро рискнуло дать команду на восстание в Германии. Сопротивление немцев французским оккупантам в Руре заглохло, экономика рейха была почти разрушена, целостность государства находилась под угрозой. Коминтерн поспешил отправить человека, которому предстояло возглавить восстание. Это был Петр Алексеевич Скоблевский руководитель военно-политической организации, назначенный командовать «красным подпольем».
Бывший ремесленник Скоблевский, ставший генералом на гражданской войне, поднял по тревоге весь аппарат и открыл тайные арсеналы оружия. «Аппаратчик» Адольф Бурмайстер вспоминает, что «Саксония и Тюрингия должны были выступить первыми, затем Гамбург, Берлин и Рур. Это был профессионально составленный план военного путча.»
Но восстание потерпело неудачу. В Саксонии и Тюрингии коммунисты совместно с левыми социал-демократами приняли участие в создании правительства Народного фронта. И только в Гамбурге красным революционерам удалось организовать выступления. Но они были так скудно вооружены, что восстание захлебнулось всего через 48 часов. Командовавший в Бармбеке Киппенбергер бежал и был тайно переправлен русскими товарищами в Москву.