Разведупр оказался в значительной мере ущемленным со стороны ГПУ. Разведка и контрразведка в Красной Армии и пограничных военных округах были переданы не Четвертому управлению разведывательной службы, а Третьему управлению Военного наркомата, отделы состояли исключительно из офицеров ГПУ и подчинялись специальному подразделению — Особому отделу.
Создание этого подразделения ознаменовало дальнейшее снижение авторитета разведслужбы, поскольку Особый отдел отвечал за всю шифровальную службу. Шифровальный отдел располагался в доме шесть на Лубянке в Москве, но только две комнаты этого здания были отведены для группы военных шифровальщиков под началом полковника Каркевича. Хотя ему и разрешалось передавать информацию непосредственно в Генеральный Штаб Красной Армии, но находился он в подчинении главы Особого отдела Глеба Бокия.
Еще одним конкурентом шпионской организации Берзина был Иностранный отдел ГПУ, образованный в 1921 году. В начале его основной задачей было наблюдение за сбежавшими на Запад белогвардейцами, но уже вскоре появились новые амбиции в области разведки. ИНО держал за границей резидентов-организаторов с их собственными осведомителями и впоследствии был представлен в каждой дипломатической миссии, его сотрудники обычно назначались секретарями посольств. Эти чиновники вели заметки о благонадежности каждого работника посольства, включая военного атташе, они отмечал все, что по весьма растяжимым понятиям ГПУ могло подпадать под «борьбу с контрреволюцией».
Секретная полиция находилась в тесном контакте с зарубежным коммунистическим подпольем преимущественно тех стран, которые, по мнению Москвы, созрели для революции. ГПУ контрабандой доставляло в эти страны оружие, формировало террористические группы, обучало зарубежных коммунистов искусству подрывной деятельности.
Поскольку дело касалось разведки за рубежом, Берзин ухитрился ограничить деятельность своего соперника Дзержинского исключительно «оборонительными» задачами. Центральный информационный отдел Политбюро Коммунистической партии, который разрешал проблемы, возникавшие между разведкой и тайной полицией, постановил, что активная разведка полностью относится к прерогативе Разведупра. Тем не менее разведке приходилось постоянно держаться настороже ввиду дальнейших посягательств секретной полиции на её территорию, поскольку последняя теперь начала работать ещё с одним соперником за рубежом — Коминтерном.
Коммунистический Интернационал, сокращенно Коминтерн, был международной коммунистической организацией, созданной по решению высшего советского руководства в марте 1919 года. Его создание стало отражением надежд европейских коммунистов на мировую революцию. Тридцать две партии учредители Коминтерна верили, что их организация поможет сменить буржуазное общество коммунистическим, которое удержит империализм от развязывания следующей, ещё более кровавой войны.
Поскольку мировая революция так и не стала реальностью, Коминтерн постепенно превратился в инструмент советской политики. Образовали его в Москве, руководство его находилось в Москве, и отсюда же исходили приказы. Советские функционеры возглавляли самые важные подразделения Красного Интернационала, в частности Президиум Исполнительного Комитета с его многочисленными отделами. Его председатель был русским, основные решения Коминтерна принимались Политбюро Советской Коммунистической партии, непосредственно Исполнительному комитету оставили только распорядительные директивы.
Тайный мир иллюзий, в котором пребывало руководство Коминтерна, был инспирирован русскими. На Втором Всемирном конгрессе Коминтерна в июле-августе 1920 года русское руководство настоял на решении, по которому в дополнение к своим легальным органам коммунистические партии должны формировать подпольные организации для подготовки вооруженного восстания. Официально названной причиной этого являлось стремление буржуазных капиталистических правительств «уничтожить коммунистов во всех странах путем систематической нелегальной работы», поэтому они должны подготовиться к моменту, когда «буржуазия начнет открыто преследовать коммунистов».
В результате такого решения наряду с разведкой и тайной полицией появилась третья организация, занимавшаяся конспиративной работой. Эмиссары Исполнительного Комитета вели тщательно скрываемую подпольную войну против некоммунистических государств. Его «международные инструкторы» наблюдали за образованием нелегальных организаций коммунистических партий, вооружали их и финансировали, организовывали мастерские по подделке паспортов и создавали курьерскую службу, связывавшую партийное подполье с руководством Коминтерна.
В скрытом от посторонних глаз мире нелегальной политики человек, управлявший этой империей, оставался загадочной фигурой даже для самих конспираторов. Им был Осип Пятницкий, «серый кардинал» Коминтерна, глава его организации и казначей. Свою подрывную деятельность он вел главным образом через отдел, в который могли свободно обращаться коммунисты — Отдел международных связей (ОМС).
Достаточно невинное название скрывало тот факт, что у Пятницкого с его ОМС были свои люди в каждой коммунистической партии, и он практически определял их политику. Он был хозяином могущественных «международных инструкторов» Коминтерна, его отдел имел за границей собственные офисы и держал в советских дипломатических миссиях своих представителей, которые часто пользовались за рубежом большим влиянием, чем их соперники из Разведупра и ГПУ. С такими силами глава ОМС явно стал центральной фигурой советского шпионажа.
Ни тайная полиция, ни разведка не могли осуществлять свою зарубежную деятельность без агентов из местных коммунистических партий или помощи мастерских по подделке паспортов. Поэтому Разведупр и ГПУ работали в тесном контакте с Коминтерном. Представители разведки входили в Военный отдел Пятницкого, одной из основных задач которого было содействие росту революционного движения за рубежом. Старшие функционеры ГПУ были членами Международной контрольной комиссии, собиравшей тщательно засекреченную картотеку, содержавшую также и персональные досье на всех сколь-нибудь примечательных деятелей международного коммунистического движения.
Так что с конца Первой мировой войны три различных ветви советской машины шпионажа: разведывательная служба, тайная полиция и Коминтерн начали опутывать Европу невидимой сетью информаторов. Как и прежде, Германия представлялась им одной из самых важных целей.
Советское руководство никогда не переставало надеяться на «Германский Октябрь» и приход коммунистов к власти в Германии. Без германской революции Ленин не видел возможности перестроить структуру российского общества. Интеллект и образованность немецкого рабочего класса, по его мнению, могли облегчить русским революционерам решение непосильной задачи построения бесклассового общества в стране, где царили грубость и невежество.
Первоначально все методы, используемые советскими шпионами в Германии, были следствием ожиданий, что немецкие товарищи последуют тем же путем. Так что первую разведывательную сеть в Германии создал именно Коминтерн. Случай тоже сыграл здесь свою роль: с высылкой в конце 1918 года советского посла Иоффе интересы новой России в Германии представляли только функционеры Коминтерна.
Летом 1919 года два большевика, М. Г. Бронский и Я. Томас, открыли в Берлине скромное бюро пропаганды, которое они назвали Западноевропейское бюро (ЗЕБ) и предложили его услуги Исполкому Коминтерна. Впоследствии ЗЕБ выросло в крупнейший после Москвы центр разведывательной и оперативной деятельности Коминтерна. Однако поначалу его основатели просто стали издавать две небольших газеты — «Ротекорреспонденц» и «Руссише Корреспонденц», где яркими красками рисовали германской общественности картины нового Эльдорадо большевистской России.