В 1928 году, когда Крошко был заподозрен на Западе в связи с советской разведкой, в печати появилось сообщение о его гибели при переходе границы. На самом же деле он возвратился на родину, проживал и работал в Москве под фамилией Кейт.
В 30-е годы в Румынии работала агентурная группа, в которую входили выведенный нелегально в эту страну разведчик Георгий Эммануель (Мартовец) и местные жители — баронесса Евгения Зоти и ее сын Юрий Зоти. Этой группе удалось поставить под контроль деятельность нескольких белоэмигрантских центров и иноразведок.
Так, ровсовские полковники Желундковский и Боголюбов, а также английский разведчик Мюллер давали Мартовцу задания по сбору стратегической и оперативной информации о Черноморском военном флоте. Румынская разведка поручала сбор информации в пограничных западных областях Советского Союза.
По всем этим вопросам через Мартовца и другие возможности до противника была доведена выгодная для советской стороны информация.
Полковник Боголюбов по заданию «Братства русской правды» пытался привлечь Мартовца к созданию бандитских групп для организации вылазок в районе Киев— Проскуров — Винница. Разведчик, ссылаясь на знание обстановки на местах, сумел убедить полковника в невозможности и нецелесообразности проведения этой работы.
Через Мартовца были перехвачены три письма бежавшего за границу Петра Крючкова, руководителя антисоветской организации, взорвавшей в 1925 году пороховой склад в Севастополе, к оставшимся в Советском Союзе его сообщникам. В письмах предлагалось возобновить враждебную деятельность, сообщалось, где хранится оружие, давались соответствующие инструкции. Естественно, эти инструкции остались невыполненными.
В результате работы Мартовца и его группы с 1931 по 1936 год было выявлено и нейтрализовано свыше сорока агентов, засланных белоэмигрантскими организациями и зарубежными разведками в СССР.
В конце 1936 года в результате предательства Эмма-нуель (Мартовец) Георгий Александрович, Зоти Евгения Евстафьевна, Зоти Юрий Константинович были арестованы румынскими властями и приговорены к большим срокам каторжной тюрьмы. Евгения Зоти не вынесла каторжного режима и умерла в тюрьме в 1943 году. Мартовец и Юрий Зоти были освобождены из заключения Красной Армией в 1944 году и принимали участие в боях с фашистами.
По указанию руководства страны резидентуры выполняли также работу по зарубежным троцкистским организациям. В этот же период перед разведкой все чаще ставились задачи по оказанию активного влияния на внешнюю политику иностранных государств и государственных деятелей в выгодном для СССР направлении. Наиболее успешно эта задача была выполнена в период прихода к власти и последующей деятельности правительства Народного фронта во Франции. Большие успехи были достигнуты й в проникновении в международные сионистские организации в США.
В этот период появляются и первые зарубежные партнеры советской разведки. Ими являлись работники созданной в 1922 году Государственной внутренней охраны Монгольской Народной Республики, а также сотрудники турецкой контрразведки, с которой с 1927-го по середину 1931 года поддерживались официальные контакты.
Важное значение в истории становления внешней разведки имело решение Политбюро ЦК ВКП(б) от 30 января 1930 года. Деятельность разведки была подвергнута тщательному анализу, и в принятом развернутом решении были определены приоритетные задачи разведывательной работы. В постановлении Политбюро констатировалось, что Советский Союз находится на пороге новой войны, в связи с чем рекомендовалось переводить работу заграничных аппаратов ИНО из советских учреждений на нелегальное положение. Резко увеличилось финансирование разведки. В середине 30-х годов на ее нужды отпускалось от восьми до десяти миллионов рублей в валюте.
Тем же постановлением было предписано развернуть «активные действия» по ликвидации предателей и перебежчиков, главарей белоэмигрантских террористических организаций. Одновременно была создана самостоятельная спецгруппа под руководством Я. И. Серебрянского, вошедшая в историю советской разведки как «группа Яши», для развертывания диверсионно-террористической деятельности в глубоком тылу противника на случай начала войны с «западными демократиями». Первоначально эта группа действовала в составе ИНО ОГПУ, но позднее она перешла в непосредственное подчинение наркома Ягоды, а с 1937 года функционировала при секретариате Наркомата внутренних дел. Серебрянский и его сотрудники создали двенадцать резидентур на территории основных стран Европы, Азии и Америки.