Предварительно операция была основательно подготовлена по линии ОГПУ. Первоначально планировалось охватить лишь нагорную часть республики, но в последующем боевые действия распространились и на равнинную часть Чечни.
Операция началась 23 августа 1925 г. В некоторых аулах горной Чечни местное население оказывало войскам вооруженное сопротивление. В ответ войска применяли артиллерийский огонь (аулы Кереты, Мереджой-Берем, Бечик, Дай и др.) и бомбометания с аэропланов (Зумсой, Дай, Тагир Хой, Акки Боуги, Ошни, Химой, Нижелой, Рагехой, Урус-Мартан и Ножай-Юрт). Наиболее активное сопротивление красноармейцам оказал 3-й условный район. В то же время некоторая часть местного населения добровольно сдавала имеющееся оружие и даже помогала войскам в проведении операции, что дало возможность сформировать в Шатойском округе чеченский конный отряд. По завершении операции и убытию войск в места постоянной дислокации его планировалось использовать в качестве вооруженной опоры для аппарата местной Советской власти в Чечне.
По оценке командования Северо-кавказского округа, военная операция дала определенные положительные результаты. Местное население стало более лояльно относиться к Советской власти.
Во время проведения операции командование в значительной мере учитывало уже имевшийся опыт борьбы с бандитизмом в других районах страны (Туркестанский фронт, Украина, Тамбовская губерния и т.д.). В то же время Реввоенсовет СССР полагал, что военный нажим в Чеченской Республике сможет дать прочный результат лишь в том случае, если будет сопровождаться мероприятиями политико-экономического характера: советизацией края, усилением советских и партийных аппаратов надежными работниками и, наконец, экономической помощью населению.
В ходе проведения операции на территории Чечни действовали 5 специальных групп из состава Красной Армии и сотрудников ОГПУ. Общее руководство операцией осуществлял командующий войсками Северо-кавказского военного округа Иероним Уборевич, по линии ОГПУ - Евдокимов. Полевой штаб объединенных сил, возглавляемый начальником штаба Зиновьевым, первоначально размещался в населенном пункте Шатой; с 5 сентября, с переносом боевых действий в равнинную часть Чеченской Республики, он был переведен в город Грозный.
В своем докладе в Политбюро ЦК РКП(б) от 7 сентября 1925 г. зампред Реввоенсовета СССР Уншлихт подробно раскрыл состав и действия специальных групп Красной Армии и ОГПУ в указанных территориальных участках Чечни.
В четвертом районе действовала 1-я группа войск под командованием командира 5-й кавалерийской дивизии Иосифа Апанасенко в составе 3-й бригады кавалерийской дивизии, 38-го стрелкового полка 13-й стрелковой дивизии, 82-го и 84-го стрелковых полков 28-й стрелковой дивизии. Всего в группе было: 480 кавалеристов и 1922 стрелка при 39 станковых пулеметах и 6 горных орудиях. Наибольшее сопротивление, которым руководил род Атаби Шамилева, одного из главарей чеченских бандитов, оказали жители аула Зумсой. Чтобы приобрести оружие и боеприпасы для обороны аула, местное население даже продавало свой скот. Зумсой войска брали с боем. Атаби Шамилеву удалось скрыться, и на его поимку был брошен вновь сформированный 1-й Чеченский Революционный отряд под командованием Джуакаева.
Добившись к началу сентября известного перелома в ходе боевых действий, командование военной группировки потребовало от населения Шароевского района сдать известного бандита Гоцинского. При этом 40 человек из числа почтенных стариков были взяты в заложники. Однако требование о сдаче Гоцинского в назначенный срок не было удовлетворено, поэтому войска прибегли к усиленным репрессиям.
За два дня на район сбросили 22 пуда бомб. Только после этого 5 сентября 1925 г. Гоцинский был выдан. Тяжело больной, морально подавленный, духовный лидер Северного Кавказа не предпринял никакого сопротивления в момент своей поимки.
7-8 сентября группа комдива Апанасенко разоружила местное население селений Шали и Шатой. 2-я группа под руководством командира 28-й дивизии Козицкого в составе бригады 5-й кавалерийской дивизии (без одного эскадрона), 83-го стрелкового полка 28 стрелковой дивизии (кавалеристов - 500, стрелков 816, тяжелых пулеметов - 34, горных орудий - 2) проводила операцию в пятом боевом участке. Эта группа встретила наибольшее сопротивление в ауле Дай. Первоначально из-за сильного тумана авиаудару ошибочно подверглось соседнее селение Чубахкимерой. От обстрела и бомбометаний аул Дай существенно пострадал: 20 домов оказались разрушенными, были немногочисленные человеческие жертвы. 2 сентября шейх Ансалтинский сдался блокирующим селение войскам. В дальнейшем группа комдива Козицкого проводила зачистку юго-западной горной части Чеченской Республики. В условном третьем районе действовал Владикавказский отряд под начальством Буриченко. В состав отряда входили: Национальная кавалерийская школа, Владикавказская пехотная школа, Владикавказский дивизион ОГПУ и эскадрон 28-й дивизии (бойцов кавалерии - 308, стрелков - 150, станковых пулеметов -12, горных орудий - 2).
Войска отряда действовали в чрезвычайно трудных условиях. Почти всюду красноармейские части встречали сопротивление жителей, в районе аула Кереты подразделение под командованием начальника штаба отряда Тасуй попало в окружение и было выручено подоспевшим взводом кавалерии. Из-за трудных местных условий часто приходилось отказываться от артиллерийских орудий и обращаться за помощью к военной авиации.
В первом районе действовала 4-я группа объединенных войск в составе 66-го стрелкового полка (стрелков - 807, тяжелых пулеметов - 2 и полевых орудий 2). Операция началась с окружения аулов Ачхой-Мартан, Шалажи и Мереджой Берем. 4 сентября, ввиду упорного сопротивления жителей аула Гехи, войска прибегли к обстрелу шрапнелью из артиллерийских орудий. Днем раньше огонь открывался при разоружении селения Катыр-Юрт возле Ачхой-Мартана.
8 сентября в селении Урус-Мартан были блокированы лидеры бандформирований равнинной части Чеченской Республики во главе с шейхом Бела Хаджи. Для их уничтожения пришлось прибегнуть к артиллерийскому огню и бомбовым ударам силами 3-го и 5-го авиационных отрядов. После этого руководство Урус-Мартана пошло на уступки и выдало бандитов 9 сентября.
Группа под руководством командира 13-й стрелковой дивизии Шуванова в составе двух полков, одного эскадрона 5-й кавалерийской дивизии и легкой батареи (пехоты - 1145, кавалерии - 65, тяжелых пулеметов - 17, горных орудий - 4, полевых - 6) должна была разоружить население в районе между рекой Аксай и границей Северного Дагестана. Позднее задача была расширена. Группе удалось разоружить район восточнее реки Аксай, далее - весь район между Аксай и Хулкулая, а также аул Ведено. По представленным оперативным данным, лишь в одном только селении Гурдалы было изъято 3050 винтовок. 9 сентября в районе аула Ножай-Юрт, на востоке Чечни, были окончательно разгромлены остатки банды бывшего наиба Гебертиева, имевшей в своем составе около 100 сабель. Сам Гебертиев сдался частям Красной Армии.
Во втором районе, согласно ранее разработанному плану, разоружение началось с окончанием действий в 4-м и 5-м районах. Тут операция проводилась совместными действиями группы комдива Козицкого и кавалерии из группы комдива Апанасенко.
После успешной операции в горной Чечне командование Северокавказского военного округа с 4 сентября принимало меры по переброске высвобождающихся частей для их действий в равнинной части на севере республики. Результаты проведения разоружения горной Чечни частично отражены в нижеприведенном документе:
"5 сентября (1925 года). Операция в Шароевском районе закончилась удачно. После 5 дней репрессий, агентурной работы сегодня в 14 часов через самолеты получено донесение, что Гоцинский взят. В этом же районе изъято до 400 винтовок. Продолжается энергичная поимка Атаби Шамилева, причем значительная часть населения содействует поимке.