«Представляя при сем заключение профессора Мартынова и удостоверение врача Ос. Отдела ВЧК, прошу Вашего разрешения и ходатайства об отправлении меня в санаторий для лечения.
Прим.: за все время с Октябрьской революции никакими отпусками ни разу не пользовался.
Сотрудник Оперотдела — Ф. Карин».
А. Артузов наложил резолюцию на рапорт:
«Упр. делами: Карину необходим отпуск на две недели по болезни. Прошу оформить. И.о. нач. оперотд. А. Артузов. 8.XI.20 г.»
Отдохнув и поправив здоровье, Федор возвращается в Оперативный отдел. В мае 1921 года чекисты выходят на след контрреволюционной организации «Народный союз защиты Родины и свободы» (НСЗРС), возглавляемой известным террористом эсером Борисом Савинковым, организатором ряда громких убийств, в том числе Московского генерал-губернатора Великого князя Сергея Александровича. Этот террорист «прославился» еще и тем, что в годы Гражданской войны организовал восстание эсеров в тылу Красной Армии в городах Рыбинск и Ярославль. Во время этих восстаний были убиты тысячи мирных граждан. В 1921 году Савинкову удалось создать Западный областной комитет НСЗРС на Украине и в Белоруссии. Для борьбы с савинковцами А. Артузов разработал операцию «Синдикат-2», в реализации которой принимали участие Ф. Карин и другие сотрудники ВЧК, среди которых, в частности, был ставший впоследствии знаменитым разведчиком Н.И. Эйтингон.
Гомельская губчека зафиксировала распространение в городе листовок контрреволюционного содержания. Одновременно чекисты вышли на некоторых военных специалистов, чье поведение вызывало подозрения. У ряда из них, в том числе на квартире уездного военрука Максимова, были произведены обыски. Ничего подозрительного обнаружено не было, но на всякий случай уполномоченный Гомельской губчека В. Алексеев решил осмотреть нетопленую печь. Ему показалось странным, что, несмотря на холод, печь не топится. Под золой он обнаружил жестяную банку с иностранной валютой. Были произведены обыски и у других военспецов. Чекисты нашли савинковскую литературу, документы и печати НСЗРС. Они произвели аресты, и в июле 1921 года Западный областной комитет НСЗРС был ликвидирован. В 1925 году был арестован и сам Б. Савинков. А операция «Синдикат-2» продолжалась до полного разгрома его организации.
В 1922 году Гражданская война завершилась на всей территории Советской России. Отпала необходимость содержать в прежнем объеме самый крупный в системе ВЧК Особый отдел, занимавшийся прежде всего военными делами. В феврале 1922 года Всероссийская чрезвычайная комиссия по борьбе с контрреволюцией и саботажем упраздняется и на ее основе создается Государственное политическое управление (ГПУ) при НКВД РСФСР. А Ф. Карин становится сотрудником Иностранного отдела (ИНО) ГПУ (внешней разведки).
28 июня 1922 г. Коллегия ГПУ утвердила «Положение о закордонном отделении ИНО ГПУ», в котором были определены его функции, четко сформулированы основные задачи разведывательной работы за рубежом, указаны средства их выполнения. Коллегия ГПУ приняла решение создать резидентуры ИНО в основных европейских странах. Наряду с широким спектром задач политического, военного и контрразведывательного характера в документе предусматривалось целенаправленное использование нелегальных возможностей разведки, оговаривались поручения по освещению экономической ситуации в каждом отдельном государстве и выявлению особенностей их экономической политики по отношению к РСФСР.
Для решения этих задач внешней разведке были крайне необходимы грамотные, квалифицированные кадры, имевшие опыт чекистской работы и владевшие иностранными языками. Ф. Карин, которому исполнилось всего 26 лет, идеально подходил для работы в ИНО. Помимо молдавского, он свободно владел румынским, немецким и английским языками. Молодого разведчика, но уже опытного чекиста сразу же направили руководителем нелегальной резидентуры в Румынию.
Цель его поездки заключалась в том, чтобы изучить возможности организации разведывательной работы в этой стране и в целом на Балканах с нелегальных позиций. В его задачу входило и выполнение разведывательных заданий «военно-политического характера как в отношении самой Румынии, так и существующих там белогвардейских организаций». Находясь в Румынии, с которой у молодого советского государства в ту пору не было дипломатических отношений, Ф. Карин передает в Центр информацию о работе румынской разведки против нашей страны, взаимоотношениях Бухареста с малой и большой Антантой, о военно-политических договорах Румынии с соседними странами. Видное место в работе возглавляемой им нелегальной резидентуры ГПУ занимали вопросы деятельности на территории боярской Румынии русских и украинских антибольшевистских группировок и отрядов, в том числе сторонников «батьки Махно», укрывшегося на ее территории, выявление их связей с Россией, а также использование этих организаций румынскими спецслужбами.