Директива НКВД СССР № 169 о задачах особых отделов в связи с реорганизацией органов военной контрразведки была издана 18 июля 1941 года и по мнению многих историков имела пропагандистский характер. На следующий день, 19 июля 1941 года, начальником Управления особых отделов НКВД СССР был назначен заместитель наркома внутренних дел СССР Виктор Семенович Абакумов.
В тот же день приказом № 00941 наркома НКВД СССР Л. П. Берии для борьбы с дезертирами, шпионами и диверсантами предписывалось сформировать при особых отделах дивизий и корпусов — стрелковые взводы, при особых отделах армий — отдельные стрелковые роты, при особых отделах фронтов — отдельные стрелковые батальоны, с укомплектованием этих частей из войск НКВД.
Уже в первые месяцы войны резко возросла потребность в военных контрразведчиках. Для решения этой задачи при Высшей школе НКВД СССР 26 июля 1941 года были организованы Курсы подготовки оперативных работников для особых отделов (приказ НКВД № 00960 от 23 июля 1941 года). Планировалось набрать 650 человек и обучать их в течение одного месяца. Начальником курсов был назначен по совместительству начальник Высшей школы НКВД комбриг (в приказе он проходит в этом звании, отмененном уже в 1940 году) Никанор Карпович Давыдов. Во время учебы первым слушателям курсов пришлось строить оборонительные сооружения, ловить под Москвой немецких парашютистов.
С 11 августа 1941 года эти курсы были переведены на трехмесячную программу обучения. В сентябре 1941 года 300 выпускников Высшей школы было направлено в подразделения военной контрразведки.
Приказом начальника Высшей школы 28 октября 1941 года в особый отдел Московского военного округа было направлено 238 выпускников курсов. Последняя группа выпускников курсов в количестве 194 человек была направлена в распоряжение НКВД в декабре 1941 года. Затем Высшая школа была расформирована, потом вновь создана.
В марте 1942 года в Москве был организован филиал Высшей школы НКВД СССР. Там предполагалось обучить 500 человек в течение четырех месяцев. Первый набор был произведен из резерва работников Особого отдела НКВД Московского военного округа. В составе Высшей школы этот филиал находился до июля 1943 года, затем был передан в ГУК «Смерш» НКО СССР. Всего за время войны курсы закончили 2417 чекистов, направленных в армию и на флот.
Одновременно шла подготовка кадров для особых отделов и в самой Высшей школе. Так, в 1942 году большая группа выпускников была направлена в распоряжение особого отдела Сталинградского фронта. А всего, за время Великой Отечественной войны Высшей школой для особых отделов было подготовлено 1943 человека.
В августе — декабре 1941 года структура НКВД продолжала меняться и усложняться. Всего в августе 1941 года по штатам Управления особых отделов (вместе со следственной частью, секретариатом, оперативным отделением, административно-хозяйственно-финансовым отделением) числилось 387 человек.
Приказом НКВД № 00345 от 18 февраля 1942 года в связи с переходом железнодорожных войск в подчинение НКПС особые отделы в этих войсках были переданы из УОО в Транспортное управление НКВД.
В июне 1942 года штатная численность Управления особых отделов составляла 225 человек.
Главной целью военных контрразведчиков было противодействие немецким спецслужбам. Система мер борьбы с агентами немецкой разведки включала оперативные, заградительные и профилактические мероприятия. Основная роль в контрразведывательной работе особых отделов отводилась агентурно-осведомительному аппарату.
По мнению ветерана «Смерша» генерал-майора С. З. Острякова, «особисты» с первых месяцев войны эффективно боролись с агентурой противника. При этом они ограничивались защитной тактикой — ловили вражеских шпионов и диверсантов, проверяли одиночных выходцев из плена и окружения противника, выявляли трусов и паникеров в воинских частях, помогали командованию наводить строгий порядок в прифронтовой полосе.
Отдельные особые отделы пытались организовать оперативную работу за линией фронта, но носила она в основном военно-разведывательный характер. Поясним, что речь шла о переброске через линию фронта разведывательно-диверсионных групп, которые действовали в прифронтовой зоне. Они занимались сбором сведений о месторасположении различных объектов (штабов, хранилищ горючего, складов и т. п.) и дислокации воинских частей, а также проведением различных диверсионных акций.