В 1925 г. была создана организация «Союз безбожников» (в июне 1929 г. на Втором съезде «Союза безбожников» она была переименована в «Союз воинствующих безбожников» (СВБ)). Бессменным ее руководителем был Е.М. Ярославский. Ее цель состояла в организации агитационной и пропагандистской работы против всех религиозных направлений и течений, существовавших в СССР.
До середины 1929 г. в СССР проводилась политика ограничения религии. После этого периода начался процесс, который называют искоренением религии. Несмотря на некоторые религиозные ограничения, в 20-е годы в целом религия в СССР продолжала существовать без элементов резкого давления на нее. До середины 20-х годов XX в. в мусульманских регионах открыто праздновали Ураза-байрам, Курбан-байрам, не скрывали поста в месяц Рамазан (Рамадан). Продолжалось преподавание мусульманского вероучения в мечетях. Советская власть в этот период стремилась через внимание к проблемам мусульман побудить их единоверцев в других странах, зачастую находившихся в колониальной зависимости от европейских стран, к освобождению и следованию по пути, который предложили для сторонников ислама советские руководители. Фактически в этот период советское руководство еще не оставило надежду использовать мусульман в СССР для мировой мусульманской социалистической революции, где на первое место выходила борьба с колониализмом империалистических государств.
Однако уже в середине 20-х годов XX в. появляются первые признаки антирелигиозных проявлений на бытовом уровне. На эти моменты обращает внимание муфтий ЦДУМ Р. Фахретдин в своих письмах на имя председателя ВЦИК СССР М.И. Калинина. В основном обращается внимание на ущемление прав мусульман на бытовом уровне, где большое место заняла антирелигиозная пропаганда, которая активно проводилась в стране и подталкивала население к противоправным действиям против верующих мусульман. Особенно это было заметно в сельской местности, где случаи оскорбления религиозного чувства мусульман со стороны деревенской партийной молодежи, которая никем не удерживались от этих поступков, и совершавшие их оставались всегда безнаказанными. Школы первой и второй ступени превратились в места, где непрерывно происходило поношение Бога, религии и лиц, почитаемых верующими. Дети верующих мусульман или страдали от этого, или начинали относиться отрицательно к убеждениям родителей. 4 декабря 1924 г. в поселке Никольском Орского уезда Оренбургской губернии учитель школы на глазах учеников сжег в печке Коран. Кроме того, несмотря на стремление охватить всех детей образованием, детей мусульманского духовенства зачастую не брали в школы или же выставляли их родителям невыполнимые материальные условия.
Происходила дискриминация молодых людей из семей мусульманских религиозных служителей при прохождении армейской службы. Призываемые в Красную Армию дети мусульманского духовенства демонстративно назначались на самые грязные и унизительные работы, как, например, чистка отхожих мест.
В июне 1926 г. в Мекке состоялся Всемусульманский конгресс, или Конгресс мусульман мира, на котором присутствовали 57 делегаций различных мусульманских стран и территорий и 157 приглашенных лиц и представителей прессы. Советские власти разрешили участие в конгрессе делегации мусульман СССР по главе с муфтием Р. Фахретдином. Такая благосклонность была проявлена для противодействия другому мусульманскому конгрессу, который проходил в Каире по избранию халифа. Делегация мусульман СССР была одной из самых многочисленных. Кроме муфтия Р. Фахретдина в нее входили его заместитель К. Тарджемани (1877—1943), имамы: от духовенства г. Астрахани — Г. Гомери (1887—1937), от духовенства Татарии — Т. Ильяси (1881—1930), муфтий Крыма — Х. Мусляхеддинов (?—?), от духовенства Петропавловска (Казахстан) — Махди Магкулов (1862 (1874?)—1937), от мусульман Туркестана — Абдулвахит Кариев (1859—1937), от мусульман г. Москвы — М. Бигиев, которому делегировали свои полномочия мусульмане Восточного Туркестана. Всего в конгрессе участвовали представители всего Ближнего и Среднего Востока, мусульманской Индии, Восточной Африки и острова Ява. Данный конгресс был еще важен для советских властей тем, что на нем одной из основных задач ставилась борьба мусульманских народов против колониализма западных стран. В итоге так и получилось. Основной идеей конгресса стала задача объединения мусульман для борьбы за независимость. Р. Фахретдин, от имени мусульман СССР выступил в поддержку власти, подчеркивая ее заслуги прежде всего в создании условий для развития мусульманского образования, рассуждая о дальнейших возможностях и широких перспективах, но в действительности его надежды не оправдались.