Если противостояние государства и религии в первые годы советской власти можно назвать периодом «равновесия сил» (когда со стороны государства в какой-то степени проявлялась веротерпимость, а верующие ожидали от власти прекращения административного прессинга), то с середины 1920 гг. положение изменилось. У партийных и советских органов вытеснение религии из жизни общества было возведено в ранг важнейшей задачи. В ход пошли репрессивно-принудительные методы по проведению антирелигиозной политики.

Проблемы усиления атеистической работы неоднократно рассматривались ЦК ВКП(б). Так, в августе 1927 г. на Политбюро обсуждался вопрос «О мерах борьбы с мусульманским религиозным движением», а в Постановлении 1928 г. ЦК партии наметил меры, направленные на борьбу с исламом. В частности, было признано необходимым:
- сократить количество мусульманских съездов (не чаще одного раза в три года);
- ограничить религиозное образование ознакомлением с основами религии;
- запретить денежное и натуральное обложение всего населения в пользу группы вероучения, «...не останавливаясь, в случае необходимости, перед применением репрессивных мер в отношении злостных лиц Политбюро предложило Президиуму ЦИК СССР «отменить закон ВЦИК о мусульманских религиозных школах».

В начале 1930 гг. в стране реализовывались меры по искоренению религиозного мировоззрения, под давлением партийных и советских органов на местах были ликвидированы мусульманские религиозные общества, служители религиозного культа вынуждены были по «собственному желанию» отказаться от несения службы в мечетях, о чем объявляли через газеты.

Жестко прошелся «каток НКВД» по судьбам верующих, в т.ч. мусульман, в 1930-х гг. В архивах УВД и УФСБ по Тюменской области хранится не мало уголовных дел на служителей мусульманского культа, которые были осуждены «за распространение контрреволюционных провокаций среди населения с использованием религиозных предрассудков масс, и систематически ведя, религиозной пропаганды» (деревни Есаулы, В. Ингал, Ипкуль, Тураево, Н. Тарманы, Н. Бехтери, Ингаир и т.д.) Среди арестован Н. Чалалетдин, только за то, что по просьбе людей отправлял некоторые религиозные обряды.

В октябре 1937 г. в Тюмени в составе 37 человек татар был расстрелян религиозный деятель З. Мировалев, получивший образование в мусульманской духовной академии, «за шпионско-диверсионную и повстанческую работу с целью свержения советской власти и создания национального мусульманского государства». Несмотря на то, что в поведении Мировалева в отношении к социалистическим преобразованиям были негативные моменты, многие знали его по просоветским взглядам.

В 1937–1938 гг. совершались беспрецедентные по масштабам репрессии, в результате которых сильно пострадали многие мусульманские деятели Сибири. В период активного гонения на религию, в т.ч. и на ислам, многие священнослужители и верующие эмигрировали из страны. А.Г. Ибрагимов в первые годы возлагал надежды на советскую власть в решении проблем мусульманских народов, но в 1922 г. был вынужден эмигрировать в Турцию, а с 1933 г. по 1944 г. (до смерти) жил в Японии. Там по его инициативе в 1939 г. была построена мечеть в Токио, где он исполнял обязанности имама-хатыба соборной мечети.

К концу 1930 гг. окончательно сформировалось советское законодательство, которое прошло путь от провозглашения свободы совести до преследования инакомыслия.

Однако ислам продолжал существовать и развиваться. В домах (все мечети были закрыты) тайно исполняли религиозные обряды, а родившимся детям давали традиционные мусульманские имена. В 1920–1930-х гг. были разрушены мусульманские институты образования (мектебе, медресе), религиозные организации, ликвидированы мусульманские кадры.