Главное управление внутренних войск (ГУВВ) — (А.Н.Аполлонов);
Управление оперативных войск — (А.И.Ачкасов);
Управление военного снабжения (УВС) — (А.А.Вургафт);
Политуправление войск НКВД — (П.Н.Мироненко);
Военно-строительный отдел (ВСО) — Я.М.Бородинский).
Управления исправительно-трудовых лагерей (ИТЛ):
ГУЛАГ — (Б.Г.Наседкин);
ГУАС — (Л.Б.Сафразьян);
ГУЛЖДС — (Н.А.Френкель);
Главгидрострой — (Я.Д.Рапопорт);
Главпромстрой — (Г.М.Орлов);
Главное управление лагерей горно-металлургических предприятий (ГУЛГМП) — (ПАЗахаров);
Управление лагерей лесной промышленности (УЛЛП) — (М.М.Тимофеев);
Управление лагерей по строительству Куйбышевских заводов — (А.П.Лепилов);
Дальстрой — (И.Ф.Никишов);
ГУШОСДОР — (В.Т.Федоров);
Управление материально-технического снабжения (УМТС) — (В.А.Поддубко);
Хозяйственное управление (ХОЗУ) — (Ю.Д.Сумбатов);
Отдел кадров — (Б.П.Обручников);
ЦФПО — (Л.И.Берензон);
Моботдел — (И.С.Шередега);
Отдел ж.д. и водных перевозок — (С.И.Зикеев).
В июле 1941 г., еще до объединения НКВД СССР и НКГБ СССР в единый НКВД СССР, в ГКО СССР и в Совете по эвакуации при СНК СССР был решен вопрос о частичной эвакуации из Москвы центральных аппаратов НКВД — НКГБ СССР, которые должны были разместиться в городах: Куйбышеве, Чкалове, Уфе, Саратове, Кирове, Новосибирске, Свердловске, Казани, Пензе, Молотове и Ульяновске.
При штате центрального аппарата НКВД СССР в 10000 человек подлежали эвакуации 7000 человек, и при штате центрального аппарата НКГБ СССР в 11000 человек подлежали эвакуации 7500 человек. Всего намечалось эвакуировать 33000 человек сотрудников НКВД — НКГБ СССР и членов их семей. К октябрю 1941 г. в Москве остались лишь небольшие опергруппы от каждой структурной части НКВД СССР, а в марте 1942 г. в связи с изменением обстановки на фронте почти весь центральный аппарат НКВД СССР вернулся в Москву.
После объединения НКВД и НКГБ СССР и сокращения штатов в связи с начавшейся войной численность центрального аппарата НКВД СССР к концу 1941 г. составляла около 9000 человек.
С началом военный действий два заместителя наркома ВД СССР И.И.Масленников и С.Н.Круглов убыли на фронт, а обязанности по наблюдению за работой управлений и отделов НКВД СССР были распределены следующим образом:
Л.П.Берия — нарком внутренних дел СССР — наблюдал за работой: 1 управления, Следчасти по ОВД, 2, 4, и 5 с/о, Секретариата ОСО, Контрольно-инспекторской группы, ЦФПО и Секретариата НКВД СССР;
В.Н.Меркулов — 1 зам. НКВД СССР — 2 и 3 управления, УКМК, 3 с/о, 1 отдел и Моботдел;
Б.З.Кобулов — Транспортное и экономическое управления и 6 с/о;
В.С.Абакумов — Управление особых отделов (УОО);
И.А.Серов — ГУМ, ГУПО, ГУМПВО, 1 с/о, тюремное управление, УПВИ, Штаб истребительных батальонов и УГА;
А.Н.Аполлонов (и.о. начальника войск НКВД, а с 12 марта 1942 г. зам. НКВД СССР по войскам) — все войсковые управления;
В.В.Чернышов — ГУЛАГ, ГУЛЖДС, УЛЛП, УМТС, ХОЗУ, Отдел ж.д. и водных перевозок;
Л.Б.Сафразьян — ГУАС, ГУШОСДОР, Главгидрострой;
А.П.Завенягин — ГУЛГМП, Главпромстрой, Управление лагерей по строительству Куйбышевских заводов и Дальстрой;
Б.П.Обручников — отдел кадров.
В августе — декабре 1941 г. произошли следующие изменения в структуре Центрального аппарата НКВД СССР:
23 августа для руководства возложенным на НКВД строительством оборонительных сооружений было образовано Главное управление оборонительных работ (ГУОБР) НКВД СССР. Его начальником был назначен К.А.Павлов, но в составе НКВД СССР этот главк был недолго и уже 15 октября 1941 г. он был передан в состав НКО СССР;
26 августа Управление конвойных войск НКВД СССР и Управление войск НКВД СССР по охране ж.д. сооружений и особо важных предприятий промышленности были реорганизованы в Отдел конвойной службы ГУВВ НКВД СССР, в Отдел службы по охране ж.д. объектов ГУВВ НКВД СССР и в Отдел службы по охране промышленных объектов ГУВВ НКВД СССР;
28 августа в связи с массовым переселением немцев Поволжья был образован Отдел спецпереселений (ОСП) НКВД СССР. Его начальником был назначен И.В.Иванов ОСП НКВД СССР, как самостоятельный отдел центрального аппарата НКВД СССР, просуществовал недолго и 14 ноября 1942 г. он был упразднен, а его функции были переданы в Отдел трудовых и спецпоселений ГУЛАГа НКВД СССР;
5 сентября был образован 7 с/о НКВД СССР (по чекистскому обслуживанию производства минометного вооружения). Начальником 7 с/о НКВД СССР был назначен (по совместительству) начальник ЭКУ НКВД СССР П.Я.Мешик, а 10 ноября начальником 7 с/о НКВД СССР был назначен И.Н.Ткаченко. 14 ноября 1942 г. 7 с/о НКВД СССР был упразднен;