«В марте 1921 г. Разведупр начал создание и переброску на территорию Западной Украины и Западной Белоруссии отрядов боевиков для организации массового вооруженного сопротивления польским властям. Предполагалось, что эти вооруженные отряды станут ядром всенародного партизанского движения на оккупированных белорусских и украинских землях, которое в перспективе приведет к их освобождению и воссоединению с СССР. Подобная деятельность получила название «активная разведка», — пишут в своей книге «Империя ГРУ» А. И. Колпакиди и Д. П. Прохоров.
Славутинскому погранпосту в этой тайной войне отводилась заметная роль. Пограничники обеспечивали заброску и возвращение с территории Западной Украины диверсионных групп и отдельных агентов. Несколько раз к подобным мероприятиям привлекался и Павел Судоплатов. В суть дела его не вводили, но, наблюдая уходящих ночами на сопредельную территорию суровых людей, нагруженных тяжелыми вещмешками, он понимал, что принимает участие в ответственном и сверхсекретном деле.
Тем не менее в начале сентября 1923 года Судоплатов подал рапорт о переводе со службы на погранпосту в Мелитополь. Рапорт был удовлетворен. В конце месяца молодой пограничник Павел Судоплатов вернулся домой. Причиной этого была не только усталость от участия в боевых действиях, но и то, что в Украинском ГПУ, как и по всей стране, началось сокращение чекистского аппарата и резкое уменьшение его финансирования.
В родном городе Павел Судоплатов попал на работу в аппарат Мелитопольского окружкома Л КСМУ (в комсомол он вступил во время службы на границе). Вначале был заведующим информационного отдела окружкома и членом правления, затем — комендантом клуба рабочей молодежи. В 1924 году его направили секретарем сельской комсомольской ячейки в село Ново-Григорьевка Генического района Запорожской губернии, а в январе 1925 года — секретарем ячейки ЛКСМУ завода имени Воровского (бывшие механические мастерские Гольца) в Мелитополе.
В феврале того же года окружком комсомола направил Павла Судоплатова на работу в органы ОГПУ.
— Доверяем тебе, товарищ Судоплатов, беречь Советскую власть. Будь бдителен, зорок и беспощаден к врагам пролетариата, дави их своей мозолистой рукой без всякого снисхождения и жалости, — такими словами напутствовал его секретарь Мелитопольского окружкома ЛКСМУ.
Так Павел Судоплатов восстановил свой стаж чекистской работы, прерванный на полтора года. В 1925–1927 годах он — сводчик информационного отделения Мелитопольского Окружного отдела ГПУ, в 1928 году — помощник уполномоченного учетно-статистического отделения Мелитопольского окротдела, затем — младший оперативный работник в окружном отделе ОГПУ, отвечающий за работу с осведомителями, действовавшими в греческом, болгарском и немецких поселениях. Работа с осведомителями, в просторечии — стукачами, требовала от сотрудника большой выдержки и хладнокровия. Общение с подобным человеческим материалом было тяжелым и неприятным. Многие оперативники не выдерживали и подавали рапорт о переводе в другой отдел.
Павел Судоплатов был хладнокровен и выдержан. Оперативный материал, собранный им в ходе встречи с осведомителями, всегда представлял определенный интерес для органов госбезопасности. Что иногда вызывало раздражение непосредственного начальства Судоплатова, так это клички агентов — осведомителей.
— Товарищ Судоплатов, почему у ваших осведомителей такие дикие клички — Хряк, Дубина, Страхуил, Побелка Потолков какой-то… Что это такое? Неужели нельзя придумать что-нибудь более благозвучное, — сердилось начальство.
— Псевдонимы осведомители выбирают себе сами. Вмешиваться в этот процесс считаю невозможным и вредным для дела, — отвечал Судоплатов.
— Ну, хорошо, пускай будут дубинами, если им так хочется, — в конце-концов соглашалось начальство.
В 1928 году Павел Судоплатов получил повышение и был переведен в Харьков, тогдашнюю столицу Украины, где стал работать уполномоченным Информационного отдела ГПУ УССР.
Именно здесь, в Харькове, двадцатилетний Судоплатов встретил свою будущую жену — Эмму Карловну Каганову (Суламифь Соломоновну Кримкер), так же? как и он, служившую в органах госбезопасности.
В своих мемуарах Павел Анатольевич тепло вспоминал о подруге жизни:
«Она приехала на Украину из белорусского города Гомеля. Эмма была способной, и ей удалось поступить в гимназию, где для евреев существовала ограничительная норма. Она окончила несколько классов гимназии и позднее стала работать секретарем-машинисткой у Хатаевича, секретаря гомельской губернской организации большевиков. Когда ее начальника перевели в Одессу, где он возглавил партийную организацию, она последовала за ним. Именно в Одессе Эмма перешла в местное ГПУ. Ей поручили вести работу среди проживавших в городе немецких колонистов. Голубоглазая блондинка, она говорила на близком к немецкому идише и вполне могла сойти за немку.