После своего назначения заместителем начальника разведслужбы в марте 1939 года Судоплатов напомнил Берии о судьбе старого чекиста Зубова, всё ещё находившегося в тюрьме за невыполнение приказа о финансировании переворота в Югославии.
— Этот человек, — сказал он наркому, — преданный и опытный офицер разведки.
Нарком, знавший осуждённого на протяжении семнадцати лет, сделал вид, что ничего не слышал, хотя именно этот человек сыграл значительную роль в том, что Берия сумел добраться до вершин власти.
В начале 20-х годов Зубов возглавлял отделение разведки, следившее за тайными связями грузинских меньшевиков и их агентуры в Турции. Основываясь на Зубовской информации, Берия доложил Дзержинскому с Лениным о готовившемся восстании и об успешном подавлении его в самом зародыше. Этот доклад обсуждался на пленуме ЦК партии и фактически послужил основанием для назначения Берии на должность начальника ГПУ Закавказья. Зубов оставался в дружеских отношениях с Лаврентием Павловичем и его заместителем Кобуловым. Приезжая в Москву из Грузии, оба нередко останавливались на квартире Зубова.
Осенью 39-го, после захвата Польши немцами в руки чекистов попали полковник Сосновский, бывший руководитель польской спецслужбы в Берлине, и князь Радзивилл — богатый польский аристократ, имевший немалый политический вес. Оба были помещены на Лубянку для активной разработки в качестве агентов. Ради спасения Зубова Судоплатов предложил Берии использовать того в оперативной разработке, поместив в одну камеру с Сосновским.
— Он отлично знает польский и немецкий, а к тому же отличный психолог и вербовщик, — так Павел обосновал свою просьбу.
— Ну что же, попробуйте, — пожевал губами нарком.
Зубова перевели из Лефортова, где его безжалостно избивали по приказу того же Кобулова, но на самооговор ветеран не шел. Павел знал о недозволенных методах следствия, был против, но, как и другие, молчал. Они поощрялись высшим руководством, а добавлять подозрений к тем, которые уже имелись на него, не желал.
Как и следовало ожидать, находясь с Сосновским в одной камере, Зубов содействовал его вербовке. Он убедил полковника, что сотрудничество с немецкой или польской спецслужбами не сулит тому никакой перспективы на будущее, поэтому имеет прямой смысл работать на русскую разведку. В результате тот дал соответствующую подписку.
В 30-х годах Сосновский, будучи в Берлине польским резидентом, весьма эффективно руководил агентурной сетью. Выступая под видом польского аристократа, содержал конюшню и устраивал званые обеды, своих агентов, привлекательных и молодых дам, как правило, внедрял в штаб-квартиру нацистской партии и секретариат министерства иностранных дел. Однако гестапо удалось засветить большую часть его сети, а самого полковника арестовать за шпионаж.
Следователям на Лубянке он показал, что разоблаченных агентов казнили в тюрьме Плетцензее прямо у него на глазах. Поляки обменяли Сосновского на руководителя немецкой общины в Польше, обвиненного в шпионаже в пользу Германии. В 1937 году военный суд в Варшаве осудил Сосновского за растрату выделенных на агентуру средств, и он отбывал срок в Восточной Польше. Двумя годами позже части Красной Армии освободили заключенных из тюрем, что же касается Сосновского, то его «переселили» в тюрьму НКВД.
От нового агента советская разведка получила информацию, что двое из его агентов все ещё продолжали действовать. Кроме того, он подал идею использовать связи князя Радзивилла, сделав того посредником между советским руководством и Герингом, одним из заместителей Гитлера.
После того как Зубов сумел оценить потенциальные возможности Сосновского для разведки и помог завербовать его, Судоплатов предложил использовать ветерана в качестве сокамерника князя Радзивилла. Берия согласился, Зубова перевели в камеру князя, вместе они находились месяц. Последствия были те же, что и с Сосновским.
К тому времени условия содержания Зубова изменились, ему позволяли обедать и ужинать в кабинете Павла, причем еду заказывали в ведомственном ресторане. Всё ещё находясь под стражей, он в сопровождении конвоира ходил в поликлинику НКВД на медицинские процедуры, а впоследствии был освобожден и продолжил службу у Судоплатова начальником одного из отделений.
Радзивиллом же занялся лично Берия. Он сумел убедить князя, что тот должен выступить в роли посредника между советским правительством и Герингом для выяснения деликатных вопросов во взаимоотношениях обеих стран.