Вермахт вступает в Австрию, 13 марта 1938 г.
В октябре 1938 года я пришел на работу в Иностранный отдел оперативным уполномоченным отделения по разработке троцкистов и «правых» за кордоном, однако вскоре меня назначили начальником этого отделения. В январе 1939 года я стал заместителем начальника 5-го отдела, а в мае 1939 года возглавил 5-й отдел НКВД. На посту начальника внешней разведки находился до середины 1946 года.
Влившиеся в разведку новые кадры вместе с оставшимися на работе чекистами-разведчиками образовали монолитный сплав опыта и молодого задора. Их задача состояла в том, чтобы улучшить разведывательную работу за кордоном.
Руководство управления в первую очередь сосредоточило внимание на подборе руководителей резидентур за рубежом. В течение 1939–1940 годов за кордон направлялись старые, опытные разведчики: В.М. Зарубин, Е.Ю. Зарубина, Д.Г. Федичкин, Б.А. Рыбкин, З.А. Рыбкина, В.А. Тахчианов, М.А. Аллахвердов, А.М. Коротков, а также молодые способные чекисты: Г.Н. Калинин, А.К. Тренев, А.И. Леоненко, В.Г. Павлов, Е.И. Кравцов, Н.М. Горшков и многие другие.
При подборе кандидатур на разведывательную работу за рубежом приходилось сталкиваться с большими трудностями из-за слабого знания иностранных языков многими товарищами, вновь пришедшими в разведку, и отсутствия у них опыта ведения разведки за кордоном.
В результате принятых мер в предвоенные годы удалось укомплектовать около 40 резидентур за кордоном и направить в них более 200 разведчиков, а также вывести на нелегальную работу многих кадровых чекистов. Это сразу же сказалось на результатах.
Принимая во внимание заслуги чекистов-разведчиков в добывании ценной и нужной для советского государства информации, Президиум Верховного Совета СССР в мае 1940 года наградил ряд работников внешнеполитической разведки орденами и медалями. Высокой правительственной награды был удостоен и я как начальник Первого управления НКГБ СССР.
Благодаря наличию агентуры с большими разведывательными возможностями в таких странах, как Германия, Англия, США, Чехословакия (к тому времени — «протекторат Богемии и Моравии», созданный гитлеровцами), Болгария, Франция, и некоторых других, с конца 1940 года и до нападения Германии на Советский Союз в Управление поступали данные, которые говорили о том, что Германия, захватив тринадцать европейских стран, готовится к нападению на СССР.
Например, наш резидент в Праге сообщал о перебросках немецких воинских частей, техники и другого военного снаряжения к границам Советского Союза. Аналогичные сведения поступали и от других резидентов. Естественно, вся эта информация направлялась в Главное разведывательное управление Красной Армии, а наиболее важная — в три адреса: И.В. Сталину, В.М. Молотову, К.Е. Ворошилову. Поэтому вызов к И.В. Сталину 17 июня 1941 года не застал нас врасплох.
Несмотря на нашу осведомленность и твердое намерение отстаивать свою точку зрения на материалы, полученные Управлением, мы еще пребывали в состоянии определенной возбужденности. Это был вождь партии и страны с непререкаемым авторитетом. А ведь могло случиться и так, что Сталину что-то не понравится или в чем-то он усмотрит промах с нашей стороны, и тогда любой из нас может оказаться в весьма незавидном положении.
С такими мыслями мы вместе с наркомом в час дня прибыли в приемную Сталина в Кремле. После доклада помощника о нашем приходе нас пригласили в кабинет. Сталин поздоровался кивком головы, но сесть не предложил, да и сам за все время разговора не садился. Он прохаживался по кабинету, останавливаясь, чтобы задать вопрос или сосредоточиться на интересовавших его моментах доклада или ответа на его вопрос.
Подойдя к большому столу, который находился слева от входа и на котором стопками лежали многочисленные сообщения и докладные записки, а на одной из них сверху был наш документ, И.В. Сталин не поднимая головы сказал:
— Прочитал ваше донесение… Выходит, Германия собирается напасть на Советский Союз?
Мы молчим. Ведь всего три дня назад — 14 июня — газеты опубликовали заявление ТАСС, в котором говорилось, что Германия так же неуклонно соблюдает условия советско-германского Пакта о ненападении, как и Советский Союз. И.В. Сталин продолжал расхаживать по кабинету, изредка попыхивал трубкой. Наконец, остановившись перед нами, он спросил: