Для меня Эмма была идеалом настоящей женщины, и в 1928 году мы поженились, хотя официально зарегистрировали наш брак лишь в 1951 году. Так жили многие из моих товарищей, годами не оформляя своего брака.
Между тем работа шла своим чередом, и я получил новое — весьма необычное, но весьма важное задание, которое совместно контролировалось руководителями ОГПУ и партийными органами. Моя новая должность называлась: комиссар спецколонии в Прилуках для беспризорных детей. После гражданской войны подобного рода колонии ставили своей целью покончить с беспризорностью детей-сирот, которых голод и невыносимые условия жизни вынуждали становиться на путь преступности. На содержание этих колоний каждый чекист должен был отчислять десять процентов своей заработной платы. При них создавались мастерские и группы профессиональной подготовки: трудовой деятельности ребят придавалось тогда решающее значение. Завоевав доверие колонистов, мне удалось организовать фабрику огнетушителей, которая вскоре начала приносить доход.
Благодаря положению моей жены в украинских партийных кругах я дважды встречался с Косиором, тогдашним секретарем ЦК Коммунистической партии Украины. Эти встречи проходили на квартире Хатаевича, куда нас приглашали в качестве гостей. Особое впечатление на меня производило, как оба руководителя смотрели на будущее Украины. Экономические проблемы и трагедию коллективизации они рассматривали как временные трудности, которые следует преодолевать всеми возможными средствами. По их словам, необходимо было воспитать новое поколение, абсолютно преданное делу коммунизма и свободное от всяких обязательств перед старой моралью. Наибольшее внимание следовало уделять развитию и поддержке новой украинской интеллигенции, враждебно относящейся к националистическим идеям. Потребовались еще шестьдесят лет и развал Советского Союза, чтобы стало очевидным: нужно было проявить по крайней мере терпимость и постараться понять противную сторону, а не стремиться во что бы то ни стало ее уничтожить.
Нам с женой льстило, что такие люди, как Косиор и Хатаевич, разговаривают с нами как со своими товарищами по партии, хотя оба мы были тогда комсомольцами. Кандидатами в члены партии мы стали позднее.
В 1933 году глава украинского ГПУ Балицкий был назначен заместителем председателя общесоюзного ОГПУ. Переезжая в Москву на новую работу, он взял с собой нескольких сотрудников, в том числе и меня. Я получил в управлении кадров центрального аппарата госбезопасности должность старшего инспектора, курировавшего перемещения по службе и новые назначения в Иностранном отделе (закордонной разведке) ОГПУ.
В то время я начал часто сталкиваться по работе с Артузовым, тогдашним начальником Иностранного отдела, и его заместителем Слуцким. В 1933 году Кулинич, офицер, отвечавшая за оперативное наблюдение и борьбу с украинской эмиграцией на Западе, подала рапорт об отставке по состоянию здоровья. Узнав, что я родом с Украины и имею опыт работы в местных условиях, Артузов предложил эту должность мне. К тому времени Эмма также перевелась в Москву и получила назначение в Секретно-политический отдел. С 1934 года в ее обязанности входила работа с сетью осведомителей в только что созданном Союзе писателей и в среде творческой интеллигенции.
После трагического убийства советского дипломата Майлова во Львове, совершенного террористом ОУН Лемеком в 1934 году, председатель ОГПУ Менжинский издал приказ о разработке плана действий по нейтрализации террористических акций украинских националистов. Украинское ГПУ сообщило, что ему удалось внедрить в подпольную военную организацию украинских националистов в изгнании (ОУН) своего проверенного агента — Лебедя. Это было крупным достижением.
Слуцкий, к тому времени начальник Иностранного отдела, предложил мне стать сотрудником-нелегалом, работающим за рубежом. Сначала это показалось мне нереальным, поскольку опыта работы за границей у меня не было, и я ничего не знал об условиях жизни на Западе. К тому же мои знания немецкого, который должен был мне понадобиться в Германии и Польше, где предстояло работать, равнялись нулю.
Однако чем больше я думал об этом предложении, тем более заманчивым оно мне представлялось. И я согласился. После чего сразу приступил к интенсивному изучению немецкого языка — занятия проходили на явочной квартире пять раз в неделю. Опытные инструкторы обучали меня также приемам рукопашного боя и владению оружием. Исключительно полезными для меня были встречи с заместителем начальника Иностранного отдела ОГПУ — НКВД Шпигельгласом. У него был большой опыт работы за границей в качестве нелегала — в Китае и Западной Европе. В начале 30-х годов в Париже «крышей» ему служил рыбный магазин, специализировавшийся на продаже омаров, расположенный возле Монмартра.