Сталин учел, что правые числят заместителя председателя ОГПУ Меира Трилиссера среди своих сторонников, и при очередной перестановке убрал его из аппарата госбезопасности. Впрочем, похоже, и Генрих Ягода тоже жаждал устранения Трилиссера, удачливого руководителя разведки, как вероятного соперника в борьбе за должность председателя ОГПУ. Они оба были замами, оба понимали, что Менжинский серьезно болен и что в ЦК подыскивают ему замену.
Конфликт двух замов окончился победой Ягоды. Трилиссер публично обвинил Генриха Григорьевича в поддержке «правых уклонистов», в дружеских отношениях с лидерами правых. Сталину это не понравилось. Трилиссер сыграл ва-банк и проиграл. 27 октября 1929 года Трилиссер был освобожден от работы в ОГПУ.
В феврале 1930 года Трилиссер получил должность заместителя наркома рабоче-крестьянского контроля. Его ввели в состав президиума Центральной контрольной комиссии ВКП(б). В 1934 году назначили уполномоченным Комиссии советского контроля по Дальневосточному краю. 10 августа 1935 года решением политбюро Трилиссера перевели на работу в Коминтерн. После седьмого конгресса его избрали членом президиума и утвердили секретарем исполкома Коминтерна – под псевдонимом Москвин.
Сталина, отдыхавшего на юге, не поставили в известность, что Трилиссеру изменили фамилию. И он прислал Кагановичу возмущенное письмо:
«Почему кандидатуру Трилиссера в ИККИ заменили кандидатурой Москвина? В чем дело?»
Сталин подумал, что члены политбюро решили выдвинуть Ивана Михайловича Москвина. Это был известный партийный работник. В двадцатые годы он работал в Ленинграде и презирал ленинградского вождя Зиновьева. Иван Москвин был одним из немногих ленинградцев, резко выступивших против Зиновьева. Сталин приметил Москвина, перевел его в Москву, сделал членом оргбюро ЦК, кандидатом в члены секретариата ЦК и поставил руководить всеми руководящими партийными кадрами. Своим заместителем в организационно-распределительном отделе ЦК Москвин поставил исполнительного Николая Ивановича Ежова. Но Сталин вскоре в Москве разочаровался: Иван Михайлович был ригористом и партийным романтиком, верил в то, что говорил. Поэтому из партаппарата его убрали.
Лазарь Каганович, оставшийся на время отпуска Сталина на партийном хозяйстве, поспешил успокоить вождя: «Трилиссера переименовали в Москвина ввиду того, что его фамилия известна как бывшего работника НКВД».
Коминтерновские дела были Трилиссеру не в новинку. Еще в декабре 1922 года решением оргбюро ЦК он был включен в «постоянную нелегальную комиссию исполкома Коминтерна». Задача состояла в том, чтобы помочь компартиям научиться действовать в нелегальных условиях: разрабатывались средства связи в условиях строжайшей конспирации, шифры, методы создания тайных типографий.
Как руководитель иностранного отдела Трилиссер тесно сотрудничал с отделом международных связей исполкома Коминтерна, который ведал переброской партийных агентов за границу и их нелегальной работой. Трилиссер информировал аппарат Коминтерна о ситуации в той или иной стране, предупреждал об ожидаемых арестах, о путях перехода границы.
13 мая 1922 года Трилиссер писал руководителю отдела международной связи Иосифу Ароновичу Пятницкому:
«Некоторые из материалов, получаемые от наших резидентов из-за границы, могущие интересовать Коминтерн, мы направляем Вам. Я бы просил каждый раз по получении от нас таких материалов, давать свои заключения по ним и сообщать имеющиеся у вас сведения по вопросам, затронутым в этих материалах».
В свою очередь, Пятницкий обращался к Трилиссеру со своими заботами:
«в целях сокрытия нашего учреждения при получении валюты из Госбанка нам необходимо, чтобы получатель валюты был бы снабжен фиктивным удостоверением. Поэтому просим вас выдать ему удостоверение либо в том, что он сотрудник по ответственным поручениям ИНО, либо от какого-нибудь крупного треста, если таковые у Вас имеются».
В исполкоме Коминтерна секретариат Трилиссера ведал связями с компартиями Польши, Финляндии, Литвы, Латвии и Эстонии.
Кроме того, он занимался финансами Коминтерна и курировал отдел международных связей (с 1936 года – служба связи секретариата). Аппарат Трилиссера состоял из одиннадцати человек, в том числе из представителей подведомственных партий. Служба связи занималась среди прочего отправкой добровольцев в Испанию. Шифровальную часть в 1937 году у Трилиссера забрали и подчинили напрямую председателю исполкома Коминтерна Георгию Димитрову.