Во время японской интервенции на Дальнем Востоке он вел подпольную работу в Благовещенске. Два года работал председателем Амурского областного ревкома и членом Дальневосточного бюро ЦК. После X съезда партии в марте 1921 года Трилиссера хотели оставить в аппарате ЦК или Коминтерна, но Дзержинский переманил к себе умелого подпольщика.
В августе 1921 года Трилиссер стал помощником начальника иностранного отдела и руководителем закордонной части, то есть отвечал за работу всех резидентур, легальных и нелегальных. Первоначально нелегальные резидентуры создавались на случай войны. Считалось, что всех разведчиков, работающих под дипломатической «крышей», вышлют, а разведчики, находящиеся на нелегальном положении, смогут остаться и продолжат работу. Потом пришли к сочетанию легальных и нелегальных резидентур, вторые брали на себя работу, опасную для официального советского представителя.
Закордонная часть ИНО по положению была «организационным центром, сосредотачивающим все руководство и управление зарубежной работой разведывательного и контрразведывательного характера».
«За границей, — говорилось в положении об иностранном отделе, — в определенных пунктах по схеме, вырабатываемой Закордонной Частью ИНО ГПУ, имеют местопребывание уполномоченные, именующиеся резидентами».
В 1921 году появились легальные резидентуры в Афганистане и Турции, потом в Иране. В 1922-м — легальная резидентура в составе представительства РСФСР в Берлине.
В декабре 1921 года Трилиссера утвердили заместителем начальника иностранного отдела, а 13 марта следующего года он возглавил разведку. Меир Абрамович был спокойным и осторожным человеком, избегавшим поспешных шагов. В иностранном отделе его за глаза называли Стариком и Батькой.
При Трилиссере первое поколение советских разведчиков вполне профессионально освоило это ремесло. Они выработали принципы работы заграничных резидентур, приемы переброски за границу нелегалов, методы вербовки агентуры и способы поддержания связи со своими агентами. Переписку с нелегалами вели, используя симпатические чернила — фотографический гипосульфат, который легко было приготовить.
Трилиссера ценил Вячеслав Рудольфович Менжинский, который в роли заместителя председателя ГПУ-ОГПУ курировал внешнюю разведку. 30 июля 1926 года, через десять дней после смерти Дзержинского, Менжинский занял его место. Трилиссер получил должность заместителя председателя ОГПУ. Помимо иностранного отдела он курировал и пограничную охрану, занимался внутренним политическим сыском. Его позиции подкрепило избрание членом Центральной контрольной комиссии ВКП/б/.
Трилиссер в июле 1927 года вывел иностранный отдел из состава секретно-оперативного управления (им руководил восходящая звезда советской госбезопасности Генрих Григорьевич Ягода), и теперь разведка фактически подчинялась только Трилиссеру.
Менжинский и Трилиссер сделали советскую разведку, возможно, самой сильной в мире. Во-первых, в разведку пришли работать опытные люди, большевики, прошедшие школу подполья, конспирации, борьбы с царской полицией и тюрем. Во-вторых, первое поколение советских разведчиков состояло из людей, родившихся за границей или вынужденно проживших там много лет: они чувствовали себя за рубежом как дома или в прямом смысле дома.
И наконец, самое главное. До появления Советской России считалось, что разведка и контрразведка нужны только во время войны, а в мирное время их распускали, довольствуясь обычной полицией.
Немецкие спецслужбы вообще перестали существовать после поражения в Первой мировой. Соединенные Штаты до Второй мировой войны не имели разведывательной службы и стали создавать ее с помощью англичан лишь после вступления в войну. Англичане сократили штаты спецслужб донельзя, то же сделали и французы. И только аппараты советской политической и военной разведок росли как на дрожжах.
Советская Россия считала себя в состоянии войны чуть ли не со всем миром, поэтому вполне естественно для нее было и вести подпольную войну по всему земному шару.
Еще одна особенность советской разведки состояла в том, что она занималась не только сбором информации, но и уничтожением врагов советской власти, политических оппозиционеров, вынужденных покинуть Россию.
В постановлении политбюро № 59 от 1923 года говорилось: «Усилить работу ИНО ГПУ за границей в направлении пресечения связи меньшевиков с Россией…»
После разгрома очередной оппозиции в стране список тех, за кем надо было вести наблюдение, все увеличивался. До поры до времени оппозиционеров высылали за границу. И перед разведкой ставилась задача следить за ними.
Первое поколение советских разведчиков во многом состояло из идеалистов, преданных идее мировой революции. Они шли в разведку не ради поездки за границу. Они служили делу, которое считали великим. Сначала они обратились за помощью к естественным союзникам — иностранным компартиям, но быстро поняли, что открыто действующий член коммунистической партии не может быть успешным агентом: он на учете в полиции, и ему никуда нет ходу.
Тогда вербовщики советской разведки стали искать агентов «на вырост» — перспективную молодежь левых убеждений. Молодых людей, которые соглашались сотрудничать, убеждали не афишировать свои истинные взгляды и искать место в государственном аппарате, желательно в специальных службах.
Такие идейные волонтеры в Европе между двумя мировыми войнами оказались лучшими агентами, но их было сравнительно немного, поэтому искали и людей, которые соглашались работать за деньги.
Вербовщики советской разведки, наверное, первыми сообразили, как удобно набирать агентов среди гомосексуалистов. Во-первых, те, кто вынужден вести двойную жизнь, умеют хранить тайну. Во-вторых, они легко находят интересующих разведку людей внутри гомосексуального братства: в постели выведываются любые секреты. В-третьих, в среде гомосексуалистов были распространены социалистические идеи. В Англии в тридцатые годы братство гомосексуалистов-леваков называлось Гоминтерном.
Ценность таких людей разведка поняла, воспользовавшись услугами одного из знаменитых своих агентов англичанина Гая Берджесса, друга и соратника Кима Филби. Первым заданием Берджесса было завербовать сотрудника английского военного министерства, что Берджесс и сделал, вступив с ним в интимную связь.
Комплексы, вызванные сексуальными отклонениями, сифилисом, который тогда плохо лечили, семейными проблемами, обида на весь белый свет за то, что их не оценили, не признали, трудности с карьерой, желание тайно повелевать окружающими — вот что привело целую когорту молодых англичан в сети московских вербовщиков. Не желая взглянуть правде в глаза, эта публика находила успокоение в мыслях о том, что все они служат великому делу.
Это был мир странных, незаурядных, неординарных людей. Романтики, которые запросто убивали недавних коллег. Бессребреники, занимавшиеся подделкой казначейских билетов. Двадцатые и тридцатые годы были временем, когда в разведку шли и ради острых ощущений, убегая от серых и пустых будней.
Задача состояла в том, чтобы умерить их авантюризм, научить быть незаметными.
Политбюро 5 мая 1927 года постановило:
«Обязать ИККИ, ОГПУ и Разведупр в целях конспирации принять меры к тому, чтобы товарищи, посылаемые этими органами за границу по линии НКИД и НКТорга, в своей официальной работе не выделялись из общей массы сотрудников полпредств и торгпредств.
Вместе с тем обязать НКИД обеспечить соответствующие условия конспирации для выполнения возложенных на этих товарищей специальных поручений от вышеназванных организаций».
В 1930 году численный состав иностранного отдела составлял сто двадцать два человека, половина работала в заграничных резидентурах. 8-е отделение ИНО стало заниматься научно-технической разведкой за границей. Главная задача — добывать сведения об изобретениях, конструкторские разработки, производственные чертежи.
Серьезной проблемой стало сохранение тайны шифропереписки, это волновало и дипломатов, и разведчиков.