Были сорваны и планы проведения в крупных масштабах подпольной борьбы против советских войск на территории Германии.
Свою скромную лепту в победу советского народа над фашистскими захватчиками внесли чекисты, действовавшие в тылу врага.
Накануне войны советские разведчики сообщали о развертывавшейся подготовке фашистской Германии к войне против СССР. Уже в середине 1940 года советской разведке стало известно, что министерство путей сообщения Германии получило указание представить в генеральный штаб сухопутных войск данные о возможностях железных дорог Германии по переброске войск с запада на восток. К 25 марта 1941 года были собраны данные о сосредоточении на советско-германской границе 120 немецких дивизий, что в целом соответствовало действительности. 10 апреля органы государственной безопасности направили в Центр разведывательную информацию о содержании беседы Гитлера с югославским принцем Павлом, из которой следовало, что Гитлер решил открыть военные действия против СССР в конце июня. В этом же месяце поступило сообщение от Рихарда Зорге, раскрывавшее не только намерение, но и конкретные планы и сроки нападения фашистской Германии на Советский Союз. 11 июня органы НКВД доложили Советскому правительству о том, что немецкое посольство в Москве 9 июня получило из Берлина распоряжение подготовиться к эвакуации в течение семи дней. Указывалось, что в подвальном помещении посольства сжигаются архивные документы. Эти данные были прямым свидетельством надвигающейся войны.
С началом войны органы советской разведки усилили работу по сбору информации о противнике (его планах, силах и средствах); по осуществлению диверсионных актов с целью вывода из строя военных объектов, техники и живой силы противника; по сбору информации о разведывательных органах и школах фашистской Германии, их агентуре; по разложению различного рода войсковых формирований, созданных из военнопленных и принудительно мобилизованных граждан оккупированных районов.
Органы государственной безопасности проделали титаническую работу по завоеванию и закреплению разведывательных позиций в тылу врага. За линией фронта действовали тысячи чекистов. От них регулярно поступала ценнейшая разведывательная информация военного и политического характера. Так, сведения, полученные от советских разведчиков летом 1943 года, помогли командованию Советской Армии своевременно узнать о планах наступления гитлеровцев на Орловско-Курской дуге и подготовить контрнаступление. В том же году чекистам удалось раскрыть и предотвратить диверсионно-террористический заговор фашистской разведки против глав правительств союзных держав — участников Тегеранской конференции.
Большое значение для борьбы с немецко-фашистской агентурой имело проникновение советских разведчиков в разведывательные и контрразведывательные органы и школы врага. Только на территории Белоруссии чекисты выявили 22 разведывательно-диверсионные школы абвера, 36 резидентур и несколько тысяч агентов. Благодаря этому деятельность отдельных разведывательных школ противника была настолько парализована, что их пришлось закрыть.
Большую роль в разведывательной и диверсионной деятельности в тылу врага сыграли оперативные группы органов государственной безопасности, которые создавались под непосредственным руководством партийных и комсомольских органов. Через своих разведчиков, внедрившихся в разведывательные центры и школы противника, оперативные группы собирали сведения о фашистской разведке, их агентуре, методах их подрывной деятельности. В течение 1943 года оперативные группы передали органам военной контрразведки сведения более чем о 1260 агентах, переброшенных противником в соединения действующей Советской Армии для проведения разведывательной и подрывной деятельности.
Оперативные группы действовали в тесном контакте с военным командованием. Они осуществляли диверсии на путях сообщения противника: пускали под откос поезда с войсками, горючим и боеприпасами; дезорганизовали работу тыла противника, что содействовало боевым действиям советских войск. Например, в первых числах мая 1942 года группа подрывников из оперативного отряда «Неуловимые» уничтожила крупную нефтебазу противника, снабжавшую горючим немецко-фашистские войска на Калининском фронте. В результате этой смелой операции снабжение горючим вражеских войск на Калининском фронте было нарушено.