К 1941 г. в округе ЦДУМ осталось менее 100 мечетей из 14 825, действовавших в 1926 г.
Неудивительно, что подобные меры вызывали среди местного населения лишь антипатию к советской власти. Однако так как национальная интеллигенция была уничтожена, оказать реальное противодействие большевикам было практически некому. Только эмигрировавшие деятели могли каким-то образом пытаться вести борьбу с большевиками, но она ограничивалась лишь пропагандой. Мусульманская эмиграция принимала активное участие в деятельности различных эмигрантских организаций, в том числе в Харбине, Стамбуле и Варшаве.
Еще в 1925 г. в Хельсинки была зарегистрирована первая татарская община «Исламийа», созданная группой татарских эмигрантов в объединении с соотечественниками, переселившимися сюда еще во второй четверти XIX в. В 1935 г. здесь был организовано Татарское культурное общество. В 1930-е гг. во многом благодаря стараниям Г. Исхаки открылась первая мечеть в г. Кобе в Японии, имамом которой стал Модияр Шамгуни (Мадьяр Шамгулов) (1874—1939) — выпускник медресе Хусаинийа. В октябре 1937 г. открылось новое здание татарской мечети в Харбине. Благодаря стараниям Г. Исхаки в ноябре 1935 г. в Харбине было налажено издание татароязычной газеты «Милли Байрак», выходившей вплоть до марта 1945 г. и пользовавшейся популярностью у всех татарских общин зарубежья. Они не теряли надежды вернуться на родину и активно способствовали, насколько позволяли возможности, поддержке друг друга и своих сородичей, оставшихся в СССР. Представители мусульманских народов, преимущественно Южного и Северного Кавказа, принимали активное участие в работе эмигрантского общества «Прометей», созданного в 1926 г. в Париже, но базировавшегося преимущественно в Польше (отделения — в Харбине, Хельсинки, Берлине и Тегеране).
Следует обозначить и еще одну непростую тему в проблематике истории советских мусульман, восприятие которой целиком зависит от ракурса рассмотрения. Начиная с 1941 г. в составе германской армии фиксируется наличие антибольшевистских военных частей, набиравшихся из взятых плен представителей мусульманских народов, призванных в Красную Армию. Отдельные формирования составляли выходцы из различных мусульманских регионов, находившихся в составе Советского Союза: из народов Поволжья — легион «Идель-Урал», из народов Средней Азии — «Туркестанский легион», азербайджанцы сформировали отдельный «Азербайджанский легион», народы Северного Кавказа были объединены в «Северокавказскую дивизию». Однако немецкое командование само опасалось этих частей, поэтому не предпринимало больших усилий для их обучения и снабжения, отправляя их в основном на тыловые охранные работы, борьбу с партизанами и т.д. Кроме того, именно в подобном мусульманском формировании — одном из двух батальонов «Идель-Урал» — произошел переход всего личного состава на сторону партизан. Второй батальон немедленно был расформирован и отправлен обратно в концлагеря. В ходе следственных действий немецкими властями было установлено, что с самого начала в батальонах действовала подпольная организация. Имя одного из ее руководителей — Мусы Джалиля (1906—1944) известно почти всему миру, но при этом почти никто, кроме специалистов, не знает об обстоятельствах его ареста и судьбах десятков и сотен его соратников. Послевоенная советская пропаганда явно передергивала и переоценивала роль этих частей, потому что их участие в боевых действиях, да и сама численность несравнимы с такими, например, частями коллаборационистов, как Российская освободительная армия, украинские дивизии «Галичина» и «Нахтигаль», ОУН — УПА и многие другие воинские части, сформированные из немусульманских национальностей. Что же касается полицейских частей, то там служили представители всех народов, не исключая даже обычно не упоминаемых в этой связи евреев (в Варшавском и других гетто и т.д.)
Во время войны Советского Союза с Германией представители мусульманского населения, как и все, призывались в Красную Армию и участвовали в сражениях. В мае 1942 г. советским правительством было инициировано принятие на совещании улемов при ЦДУМ в Уфе «Обращения ко всем мусульманам Советского Союза», от имени муфтия Габдрахмана Расулева призывавшего к джихаду против немецко-фашистских захватчиков.