Встав во главе милиции, чекисты тут же принялись наводить порядок в ее рядах. В начале марта 1931 года особым приказом ОГПУ всем чекистам в центре и на местах предписывалось проводить активные мероприятия по чистке личного состава милиции и уголовного розыска. Милиционерам отныне запрещалось входить в близкий контакт с уголовниками и заключать с ними какие-либо негласные соглашения. Подобные мероприятия отныне являлись прерогативой ОГПУ, в частности – отдела Уголовного розыска Главной инспекции ОГПУ.
Прошло еще немного времени, и в июле 1934 года был создан общесоюзный Наркомат внутренних дел (НКВД СССР), в состав которого вошло ОГПУ, преобразованное в Главное управление государственной безопасности. Наркомом внутренних дел СССР стал все тот же Генрих Ягода.
Надо отметить, что к началу 30-х годов преступность в стране пошла несколько на убыль. Перестали доминировать контрреволюционные преступления, бандитизм, значительно сократилось количество убийств и разбоев. Многие преступники-профессионалы еще с дореволюционным стажем окончательно порвали со своим прошлым, как говорится, «завязали». Такие центры преступного мира, как Хитров рынок в Москве, Дерибасовская улица в Одессе, заметно утратили свое былое значение и славу. И это неудивительно. К тому времени Советская власть уже твердо стояла на ногах и имела все возможности контролировать преступность. С вседозволенностью, вызванной к жизни нэпом, было покончено, и тяжелая поступь НКВД слышалась даже в самых отдаленных закоулках необъятной страны. Основными видами преступлений в 30-е годы были квартирные и карманные кражи, спекуляция, мошенничество. Значительную долю составляли хозяйственные преступления, порожденные нэпом. Вот лишь несколько примеров подобных преступлений.
В конце 20-х нэпманы создали два акционерных общества, не внеся в их основной капитал ни копейки. Капитал был ими фиктивно создан за счет так называемых «бронзовых векселей». Векселя эти не имели реального обеспечения, выдавались пайщиками друг другу, затем учитывались в различных отделениях банка по всей стране. Под них аферисты и получали ссуды. В свое время дело об этих аферах получило громкий резонанс и именовалось «Дело об аферах пайщиков частных акционерных обществ «Прометей» и «Стройлеспром».
В 1929 году сотрудники отдела угро НКВД РСФСР и сотрудники тбилисского угро разоблачили преступную группу во главе с некими Толбузиным и Алфутовым, которая, используя похищенные ими чистые бланки «Экспортхлеба» и Днепростроя, получала в городах Союза различные товары и тут же продавала их частным лицам по негосударственным ценам.
Пройдет всего немного времени, и в 1933 году на базе 9-го отделения МУРа (мошенничества) будет создан отдел по борьбе с хозяйственными преступлениями. В марте 1937 года этот отдел будет выделен из состава МУРа и превратится в службу ОБХСС.
В 30-е годы заметно спадет и волна бандитизма, характерная для 20-х годов. Вооруженные банды станут анахронизмом. Хотя иногда будут и исключения.
Осенью 1931 года в Ленинграде почти ежедневно четырьмя неизвестными мужчинами совершались вооруженные налеты на булочные. Врываясь в них и угрожая оружием, преступники забирали из кассы всю наличность и скрывались. Бандиты были таинственны и неуловимы. Сыщики ленинградского угро никак не могли их раскусить, так как налетчики не подходили ни под одну из известных схем. Во-первых, были явно не уголовниками. Главарь их, к примеру, был шикарно одет – короткое демисезонное пальто цвета маренго с маленьким бархатным черным воротником, темные широкие брюки «оксфорд» и коричневые остроносые туфли «джимми». На голове – мичманка. От него всегда пахло одеколоном. В руках он обычно держал спортивный чемоданчик, куда и складывал выручку. Причем при сборе денег всегда восклицал: «Прошу!»
Участвовавший в поисках грабителей известный нам уже по предыдущему повествованию Алексей Кошелев именно по этой фразе главаря пришел к мысли, что тот мог работать в парикмахерской. Именно парикмахеры подобным возгласом зазывали тогда в зал очередных клиентов. И, как оказалось, молодой сыщик не ошибся. Главарь действительно работал в одной из ленинградских парикмахерских. Именно там в осенний день 1931 года его и еще двух грабителей и взяли сыщики ленинградского угро.
В апреле – мае 1935 года серия налетов на продуктовые магазины прокатилась и по Москве. В них участвовали трое вооруженных пистолетами молодых людей. Особенно дерзким было ограбление в Мытищинском районе, где бандиты ранили кассиршу. До этого они уже совершили четыре ограбления (два – на окраине Ростокинского района Москвы, два – в Мытищинском). По словам свидетелей, один из налетчиков был красив и явно походил на цыгана. Это была существенная зацепка для следствия. В то время возле станции Лось стоял цыганский табор. Именно туда и отправились сыщики во главе с Алексеем Ефимовым. Узнав, что человек, похожий по приметам на «их» цыгана, появляется иногда в таборе, было решено устроить в лесу засаду. Сыщики прождали три дня. И когда надежд на благополучный исход операции почти не осталось, внезапно на тропинке появились трое мужчин. Во главе шел цыган. Задержать их уже было делом техники.