С 1935 года служил в разведывательно-диверсионном отделении ГРУ, участвовал в гражданской войне в Испании.
Василий Абрамович Троян также находился в Испании, потом был направлен на советско-финский фронт.
Под стать им и остальные офицеры отдела.
«Вся наша особая группа, — вспоминал Мамсуров, — в те дни работала по организации специальной сети агентуры в районе Рогачева, Могилева, Орши. Останавливали отходящие части, потерявшие связь с вышестоящим командованием. Именем Маршала Советского Союза Ворошилова направляли их в район Чаусы на сосредоточение и организационное укрепление в тылу.
Я каждый раз докладывал Ворошилову о том, что делала наша особая группа.
В первую же встречу с секретарем ЦК компартии Белоруссии Пономаренко мы обговорили вопросы организации партизанского движения и срочной подготовки специальных разведывательнодиверсионных кадров, набросали план мероприятий».
Известно, что 27 июня специальная группа Мамсурова приступила к подготовке и обучению нескольких сотен партийных и советских работников, предназначенных для деятельности в тылу.
Самому Хаджи-Умару Джиоровичу пришлось срочно выехать в Могилев. Там он провел совещание с руководством области и города. О чем говорил Мамсуров? О том, что необходимо организовать население на строительство противотанковых заграждений, а также о создании противодиверсионных отрядов и подразделений по борьбе с фашистскими десантами.
«Ночью 28 июня я уехал в район подготовки партизанских кадров, — напишет позже Мамсуров, — и до наступления утра проводил занятия по тактике диверсионных действий.
Обучение шло, по сути, днем и ночью. Эту группу утром 29 июня (а их было около 300 человек) мы направили на выполнение боевых задач в тылу противника.
По моей просьбе в район приехали Ворошилов и Пономаренко, чтобы сказать будущим партизанам напутственные слова.
Так зарождалось партизанское движение в Белоруссии».
До 5 июля 1941 года особая группа Мамсурова продолжала готовить в районе Могилева партизан-диверсантов, руководителей подпольных организаций.
За это время в жизни полковника Хаджи Мамсурова произошло много событий. По приказу Ворошилова ему пришлось арестовывать командующего Белорусским особым военным округом командарма 1-го ранга Дмитрия Павлова.
До сих пор по этому поводу много суждений. В одном из фильмов, например, показано, как Павлова берут под арест сотрудники НКВД.
Во многих публикациях, вышедших в последние годы, высказано огромное количество гипотез — кто же сыграл роковую роль в судьбе Павлова? Были намеки в том числе и на Ворошилова. Мол, маршал докладывал Сталину о состоянии дел на Западном фронте, он и виновен в табели Дмитрия Григорьевича. Все это не более, чем досужие вымыслы.
Мамсуров точно знал, что Ворошилов здесь ни при чем. Он стал свидетелем разговора между Шапошниковым и Ворошиловым о судьбе командующего Павлова.
Как же все обстояло на самом деле?
27 июня в разговоре с Шапошниковым Ворошилов сказал, что имеет указание отстранить Павлова от командования округом и отправить под охраной в Москву.
Шапошников согласился: Дмитрий Григорьевич — командующий никудышный. Однако высказал мысль о том, что арест Павлова был бы ошибкой, которая ничего, кроме вреда, не принесет.
«Не то теперь время, — повторял он. — Это вызовет тревогу и суматоху в рядах командиров».
Ворошилов надолго задумался, потом взял блокнот и стал писать шифрованную телеграмму на имя Сталина. Написав, прочитал ее Шапошникову. В ней он докладывал обстановку на сегодняшний день на Западном фронте и делал свои выводы и предложения.
Ворошилов просил Сталина не арестовывать Павлова, а просто отстранить от командования округом и назначить командующим танковой группой, сформированной из отходящих частей в районе Гомель — Рогачев.
По данным штаба округа, там находилось около двух танковых дивизий.
Однако Сталин принял другое решение.
29 июня Ворошилов отдал приказ Мамсурову арестовать генералов Павлова, Климовских, Клича. Уже были готовы машины с охраной.
Мамсуров так будет вспоминать об аресте генералов. «Первым подошел сам Павлов. Снял ремень с пистолетом и, подав их мне, крепко пожал руку, сказал: “Не поминай лихом, Ксанти. наверное, когда-нибудь в Могилеве встретимся”. В отличие от вчерашней ночи он был почти спокоен и мужественен в эту минуту. Павлов первым сел в легковую машину.