Вместе с тем исламские традиции продолжали свое бытование среди рядового, преимущественно сельского, населения, постигавшего их, однако, на уровне быта, в рамках семьи. Естественно, они получали определенный запас знаний, впитывали интерпретации Писания из уст сельских, в том числе и неофициальных, мулл. Свою специфику имели эти процессы в каждом регионе, ввиду особенностей местных культур, например, на Кавказе или в Средней Азии. Однако отсутствие цельной системы образования привело к появлению вакуума в области не только глубинного знания, но и понимания даже основ исламского вероучения. Значительное распространение в народном восприятии в условиях советского режима получают суфийские формы ислама, больше адаптированные по своему характеру к скрытости и локальности. Значительной была роль нелегальных придомовых школ (худжра), где люди так или иначе могли получать основы религиозного образования. Между тем в регионах, где традиционно имел силу культ могил суфийских святых, например, в Туркменистане и Киргизии, ритуальные практики сохраняли публичный характер. В Узбекистане и Таджикистане ислам развивался «за дувалом» — все знали, что он есть, но никто о нем открыто не говорил. При этом происходили парадоксальные вещи, когда, например, один из создателей сети подпольных худжр (домашних школ) Мухаммаджан Рустамов (Домулла Хиндустани, шейх Мавлави) (1892—1989) одно время работал в системе Академии наук Таджикистана. Вторым ученым, стоявшим у истоков создания сети худжр, считается Абдульхаким-кори Восиев (Абдулхаким Кори Домла) (1897—2011). В этой системе существовало определенное разделение худжр по предметам — например, считалось, что фикх лучше изучается в Таджикистане, а коранические науки — в Узбекистане. Существовал обмен учениками между худжрами, в том числе из разных регионов. Обучение происходило по старым учебникам дореволюционного издания, преимущественно казанского (использовались репринты и копии). При этом возник некий синтез — учебники использовались в основном джадидистские, но сама система напоминала больше кадимистскую. По окончании обучения ученик получал иджазу на преподавание. Узнав, какие книги человек изучил, можно было сразу определить уровень его знаний. Эти два уроженца Ферганы последовательно выступали за сохранение ханафитского мазхаба и сложившихся исламских традиций. К началу 90-х годов XX в. в СССР имелись десятки Коран-хафизов, при том что экземпляры Корана хранились в спецхранах. Были люди, знающие наизусть такие книги, как «Хидайа» и умеющие ее разъяснить. В то же время на соседних с ними улицах проживали люди, искренне верящие, что в путешествии можно сократить вечерний намаз (ахшам) до 2 ракаатов. Религиозное мусульманское сообщество в СССР существовало, но нередко оно замыкалось само в себе и все свои усилия прикладывало исключительно для самосохранения.
Интересны в этом плане воспоминания Аббаса Бибарсова о том, как к нему в бытность его заместителем муфтия ДУМЕС и имама Соборной мечети Уфы в 1975—1984 гг. приезжали по ночам водители секретарей Башкирского и Татарского обкомов партии и увозили его совершать обряды (исем кушу, никях, и др.) для членов семей высокопоставленных партийных и советских чиновников. Имеются воспоминания о соблюдении ряда элементов исламской религиозной практики также в других мусульманских регионах СССР.
Благодаря деятельности второго председателя Духовного управления мусульман Средней Азии и Казахстана (САДУМ) Зияуддинхана Бабахана, сына Эшона Бабахана, удалось добиться у властей разрешения на открытие в 1971 г. в Ташкенте первого в СССР мусульманского высшего учебного заведения (Высший исламский институт), созданного на базе действовавших с 1970 г. курсов повышения квалификации имамов-хатибов мечетей. В 1974 г. оно получило название Ташкентского исламского института имени Имама Бухари, став единственным в СССР учебным заведением подобного масштаба. Ташкентский институт стал кузницей кадров для мусульманской религиозной элиты страны. С 1968 г. в Ташкенте стал выходить журнал «Мусульмане Советского Востока». Он издавался Духовным управлением мусульман Средней Азии и Казахстана (САДУМ), выходил на узбекском, арабском, английском, французском и персидском языках. Это было единственное мусульманское печатное издание в СССР.
В 1980 г. после такого беспрецедентного акта, как добровольный уход со своего поста муфтия Абдельбари Исаева, главой ДУМЕС был назначен Т. Таджуддин, выпускник медресе Мир-и Араб и университета Аль-Азхар. Он начал активную деятельность по возрождению ислама и на территории РСФСР. Надо отметить, что в целом на начало 80-х годов XX в. в СССР было зарегистрировано 1330 мечетей, на территории РСФСР — лишь 94.