Исправлять ошибки приходилось в экстремальных условиях войны, неся немалые потери.
К моменту начала войны функции внешней разведки были сосредоточены в Первом управлении Народного комиссариата государственной безопасности (НКГБ) СССР. В нем насчитывалось восемь отделов, из них шесть оперативно-территориальных: немецкий, стран Дальнего Востока, англо-американский, славяно-балканский, романо-скандинавских стран и Ближнего Востока. В ходе войны в рамках Управления было создано еще несколько подразделений: информационно-аналитическое, для работы по эмиграции и ряд других.
На протяжении всех военных лет работой внешней разведки руководил комиссар госбезопасности 3-го ранга Павел Михайлович Фитин (с 1943 г., после введения единой системы воинских званий, — генерал-лейтенант).
Всю разведывательную работу за границей внешняя разведка вела через «легальные» и нелегальные резидентуры, специально создаваемые разведгруппы, отдельных разведчиков и агентов, посылаемых в страны, где не было резидентур, или на оккупированные территории. Во время войны резидентуры внешней разведки действовали в США, Англии, Швеции, Болгарии, Китае, Иране, Турции, Афганистане, Японии. В 1943–1944 годах были созданы резидентуры в Египте, Италии, Франции, Финляндии, Румынии и Венгрии. Всего в годы войны по линии внешней разведки действовало свыше 90 «легальных» и нелегальных резидентур, подрезидентур и агентурных групп.
Уже в конце июня 1941 года только что созданный Государственный комитет обороны СССР рассмотрел вопрос о работе внешней разведки и уточнил ее задачи. В принятом постановлении было указано, что внешняя разведка должна в ходе войны:
— наладить работу по выявлению военно-политических и других планов фашистской Германии и ее союзников;
— создать и направить в тыл противника специальные оперативные отряды для осуществления разведывательно-диверсионных операций;
— оказывать помощь партийным органам в развертывании партизанского движения в тылу врага;
— выявлять истинные планы и намерения наших союзников, особенно Англии и США, по вопросам ведения войны, отношения к СССР и проблемам послевоенного устройства;
— вести разведку в нейтральных странах (Иран, Турция, Швеция и др.), с тем чтобы не допустить перехода их на сторону стран «оси», парализовать в них подрывную деятельность гитлеровской агентуры и организовать разведку с их территории против Германии и ее союзников;
— осуществлять научно-техническую разведку в развитых капиталистических странах в целях укрепления военной и экономической мощи СССР.
Задачи были поставлены обширные и ответственные. Наряду с добычей информации, внешней разведке надлежало принять непосредственное участие в разведывательно-диверсионной работе и партизанском движении в тылу врага.
В плане выполнения задачи по развертыванию партизанской борьбы при самом активном участии разведки был создан ОМСБОН (отдельный мотострелковый батальон особого назначения) с участием коммунистов-интернационалистов разных стран, а также известных спортсменов.
Эти действия предпринимались в соответствии с постановлением ЦК ВКП(б) от 18 июля 1941 года «Об организации борьбы в тылу германских войск». В нем говорилось о необходимости создания партийного подполья, способного возглавить борьбу народных масс в тылу вражеских войск, готовить партизанские отряды. «Партизанские отряды и подпольные группы должны быть обеспечены оружием, боеприпасами, деньгами… снабжены радиоаппаратурой». В отряды предлагалось отбирать людей с опытом участия в Гражданской войне, работников НКВД и НКГБ.
С началом войны оба наркомата (НКГБ и НКВД) были вновь объединены, для руководства партизанским движением была создана Особая группа. Ее костяк составили разведчики Первого управления. По мере расширения партизанского движения на основе Особой группы было создано Четвертое управление (январь 1942 г.). Оно подбирало командиров партизанских отрядов из числа самых опытных разведчиков. Опыт конспирации помогал им успешно руководить боевыми действиями, налаживать в тылу противника разведку, вылавливать лазутчиков. Многим из них было присвоено звание Героя Советского Союза.