В 1922 году был принят уголовно-процессуальный кодекс и Основы уголовного судопроизводства Союза ССР и союзных республик, согласно которых расследование преступлений возлагалось на народных следователей, состоящих при губернских судах, следователей по важнейшим делам при наркомате юстиции и Верховном Суде РСФСР, а также следователей военных трибуналов.
Постановлением ВЦИК И СНК РСФСР от 3 сентября 1928 года следственный аппарат переподчинялся и переводился в ведение прокуратуры. С 20 октября 1929 года прокурорам предоставлялось право поручать милиции расследование любого вида преступлений. С этих пор на протяжении почти 30 лет, милиция фактически расследовала все виды преступлений. Уголовное дело расследовалось до момента предъявления обвинения, допроса обвиняемого, составления обвинительного заключения и передачи дела для рассмотрения в суде. Дознание, проведенное сотрудниками милиции, подменяло предварительное расследование. В связи с этим перед Великой Отечественной войной в милиции: в аппаратах уголовного розыска и БХСС ведомственным приказом были созданы следственные подразделения.
В этот период расследуются такие громкие преступления как появление первого серийного убийцы в лице Василия Комарова, который в период НЭПа знакомился в теми, кто готов был приобрести у него ворованный товар, поил их, а затем убивал молотком или душил. В ходе расследования было установлено, что Комаров убил 33 человека.
Двадцатые-тридцатые года прошлого столетия характеризуются нарастанием политических репрессий со стороны государства против противников советской власти. Репрессиям прежде всего подвергаются бывшие помещики, белогвардейцы, возвратившиеся в страну, интеллигенция. С нарастанием репрессии перешли и на старых большевиков, руководителей предприятий, государственных служащих и военных специалистов. При этом из людей выбивали признание своей вины и это являлось главным доказательством на судебном процессе. Перед самой войной уничтожили почти весь цвет армии, ее руководящий состав. Фабрикация уголовных дело приобрело массовый характер.
Таким стало «Шахтинское» дело. В 1928 году в Донбассе под суд отдали 53 инженера и руководителя, обвинив их в умышленном вредительстве, создании подпольной организации и связи с иностранной разведкой. 11 человек были приговорены к расстрелу. Позднее 6-м из них расстрел заменили 10 годами лишения свободы.
В 1930 году рассмотрено было дело «Промпартии». Обвиняемые были представителями так называемой буржуазной интеллигенции, которым вменялось саботаж индустриализации СССР и связи с иностранными разведками. Затем последовали уголовные дела группы Бухарина, Зиновьева, троцкистов, высшего руководства армии в лице Тухачевского, Блюхера, Егорова, Уборевича и других. Репрессии приобрели массовый характер, и никто в обществе не был застрахован от них.
Годы Великой Отечественной войны и после военный период характеризовались усилением криминальной обстановки в стране: борьба с диверсантами, дезертирами, мародерами, значительный рост бандитизма, особенно в западных районах Украины и Прибалтике. В 1953 году была объявлена всеобщая амнистия, по которой на свободу вышло значительное количество уголовного элемента. Все это вызвало резкий всплеск преступлений. И их ликвидировать пало на сотрудников милиции, где они расследовались.
25 декабря 1958 года были приняты Основы уголовного судопроизводства Союза ССР и союзных республик, согласно которых право производства предварительного расследования имели только следователи прокуратуры и государственной безопасности. Следственный комитет при МВД был ликвидирован.
Однако уголовных дел было столько, что следствие прокуратуры не справлялось с его объемом и сотрудники милиции вынуждены были участвовать в предварительном расследовании, как было ранее. В связи с этим руководством страны было принято решение о создании следственного аппарата в структуре МВД, с определенным перечнем категорий дел, относящихся к их компетенции.