Отделы ВЧК были организованы во всех губернских городах. Одновременно в Красной армии были организованы Особые отделы ВЧК, в обязанности которых входила борьба со шпионажем. Производство дел в Особых отделах ВЧК было еще больше упрощено, чем в самой ВЧК: иногда весь материал дознания состоял из одного протокола, служившего в то же время и постановлением о применении репрессии; наблюдались случаи, когда протокол-постановление оформлялся уже после состоявшегося расстрела. Техника производства дознания была проста. Следователь Особого отдела ВЧК производил дознание по делу, он же в составленном им постановлении указывал рекомендуемую им санкцию; это постановление без промедления утверждалось начальником Особого отдела. Содержание материалов расследования оставалось неизвестным для привлекаемого к ответственности, а о мере наказания, определенной Особым отделом, он узнавал лишь в момент приведения приговора в исполнение. (Точно такими же методами действовали Особые отделы Советской армии в войну 1941 -- 1945 гг.).
С установлением новой экономической политики, в соответствии с решениями IX съезда Советов от 6 февраля 1922 г., ВЧК была реорганизована в Особое Государственное Политическое Управление -- ОГПУ. В составе ОГПУ были созданы "Судебные коллегии ОГПУ", а в областных центрах "Особые тройки ОГПУ". Разница между ОГПУ и ВЧК заключалась только в том, что ВЧК уничтожала свои жертвы без всякого оформления, а ОГПУ должно было оформлять этот же акт путем передачи в Судебную коллегию ОГПУ, конечно, ничего общего с судом не имеющую. В этих судебных коллегиях ОГПУ дело слушалось без вызова обвиняемого и без вызова свидетелей на заседания, т. е. по правилам, применявшимся ранее в ВЧК. Основным отличительным признаком ОГПУ от ВЧК было то, что ОГПУ не рассматривало уголовных преступлений, дела о которых передавались в суды, но и это правило иногда нарушалось. Все контрреволюционные дела попрежнему входили в компетенцию ОГПУ. Размеры террора во время нэпа были несколько смягчены и сокращены, но это было временным явлением: начиная с 1928 года, деятельность ОГПУ вновь приобретает широкие размеры.
Законом от 10 июля 1934 года ОГПУ включено как Главное Политическое Управление Государственной Безопасности (ГУГБ) в созданный этим же постановлением ЦИКа и СНК СССР общесоюзный Народный Комиссариат Внутренних Дел (НКВД), причем часть функций ГУГБ -- НКВД, связанных с рассмотрением контрреволюционных дел, была возложена на военные трибуналы округа, а также на созданные при областных, краевых, железнодорожных и верховных судах специальные коллегии, состав которых был полностью укомплектован из работников НКВД. Результатом постановления ЦИК и СНК СССР от 10 июля 1934 года было то, что наиболее опасные контрреволюционные преступления подлежали передаче на рассмотрение в вышеуказанные судебные органы; за созданным этим же постановлением "Особым Совещанием при НКВД" было сохранено право только ограниченной внесудебной расправы, а именно лишь применение ссылок, высылки и заключение в лагерь на срок до 5 лет. Было ли это постановление об ограничении прав "Особого Совещания" проведено в жизнь, точных данных за период до 1936 года нет; с 1936 года становится известно, что "Особое Совещание" снова приговаривает к заключению в лагери на срок до 25 лет и к смертной казни.
Дела, следствие по которым велось в органах НКВД, распределялись между "Особым Совещанием", специальными коллегиями и военными трибуналами по следующему принципу: если в материалах дела имелись формальные основания для предания суду, то дело передавалось в специальные коллегии или военные трибуналы -- по подсудности; если же этих оснований не было, но в то же время, по мнению органов НКВД, арестованные все же подлежали (в предупредительных целях) осуждению, то дела на них передавались в "Особое Совещание".
К 1936 году "Особое Совещание" было переполнено такими делами и само уже не имело физической возможности их разобрать. Тогда во всех областных городах Советского Союза были созданы отделы "Особого Совещания", т. е. снова были восстановлены те же органы, какие были до реорганизации ОГПУ в НКВД, но тогда называвшиеся особыми тройками ОГПУ при управлениях ОГПУ в военных округах. Разница заключалась в следующем: тройки ОГПУ были только при военных округах, а теперь отделения "Особого Совещания" были созданы во всех областях, следовательно, их стало еще больше, чем было раньше. Кроме того, при областных управлениях милиции были созданы так называемые "милицейские тройки", которые осуждали к лишению свободы на срок до 5 лет, но только "социально-опасный", а не "контрреволюционный" элемент. Под рубрику "социально-опасный элемент" (кроме криминального элемента) входили все лица, в какой-либо мере нарушавшие правила только что введенной паспортной системы. Это относилось к правилам прописки вообще и особенно к режимным зонам столиц, областных городов и крупных индустриальных центров.
Количество осужденных этими "милицейскими тройками" в пределах всего СССР, по всей видимости, достигло одного-двух миллионов человек. Как пример, можно привести тот факт, что в концентрационном лагере, находившемся на восточном берегу Капорского залива (в 110 -- 120 км к западу от Ленинграда), в середине 1930 года из 18 тысяч находившихся там заключенных (15 тысяч мужчин и 3 тысячи женщин) около 40 процентов были лица, осужденные за нарушение паспортной системы, причем в большинстве осужденных во внесудебном порядке. Эти тройки были созданы, главным образом, по той причине, что "Особое Совещание" и его областные отделения были переполнены делами лиц, привлеченных к ответственности за контрреволюцию.