6 февраля 1919 года Всероссийский центральный исполнительный комитет (ВЦИК) утвердил «Положение об Особом отделе ВЧК и его местных органах», которым устанавливалось, что Отдел работает под контролем РВСР и выполняет его задания, заведующим назначается член Коллегии ВЧК по согласованию с РВС. Положением вводились следующие подразделения: Особый отдел ВЧК, Особые отделы фронта, армии, Особое отделение дивизии и особые отделы губернских ЧК, которые должны были выполнять задания губернских военкоматов. С марта 1919 года существовали отряды особого назначения при Особых отделах ЧК.
Значение особых отделов возросло летом 1919 года в период наступления белых армий и войск Антанты.
В отличие от других органов ЧК особые отделы значительно шире стали использовать осведомителей, внутреннюю агентуру и другие негласные средства контрразведывательной работы. Внутриведомственная инструкция рекомендовала особистам вербовать осведомителей в частях и штабах Красной армии, учреждениях, предприятиях, на железных дорогах, продовольственных и прочих имевших оборонное значение организациях. Служба внутренней агентуры состояла из секретных сотрудников, завербованных из среды противника, и агентов внутреннего наблюдения из числа кадровых особистов, которые тайно внедрялись в крупные штабы Красной армии, центральные государственные учреждения, иностранные представительства и т. п.
Особые отделы состояли из активной, организационно-инспекторской, хозяйственной частей и секретариата, а позднее из активно-следственной и информационной частей.
Полномочия особых отделов постоянно расширялись.
С лета 1919 года Особый отдел ВЧК координировал оперативную охрану границы; 24 ноября 1920 года Совет труда и обороны республики передал охрану границ РСФСР из Наркомата внешней торговли в ведение Особого отдела ВЧК. С августа 1920 года приказом РВСР в Особый отдел ВЧК была передана военная цензура. В середине 1920 года был образован Особый отдел Черного и Азовского морей, в 1921 году — Особый отдел Балтийского флота и морское отделение в Особом отделе ВЧК. Существовало в Особом отделе ВЧК и иностранное отделение, на основе которого 20 декабря 1920 года приказом Дзержинского № 169 был создан самостоятельный Иностранный отдел ВЧК. Полномочия особых отделов ВЧК были шире, чем у территориальных органов, в частности, в области вынесения и приведения в исполнение смертных приговоров. Даже после временной отмены смертной казни в феврале 1920 года это право было сохранено за военными трибуналами, в состав которых входили представители особых отделов. В марте того же года эти полномочия были отняты у трибуналов, но через два месяца, в мае, с началом войны с Польшей восстановлены. Тогда же особые отделы постановлением ВЦИК и СТО получили права трибуналов «в отношении всех преступлений, направленных против военной безопасности республики». Правда, в январе 1920 года решением Президиума ВЧК особым отделам губернских ЧК было запрещено пользоваться особыми печатями и ордерами на арест. Но эти права были сохранены за особыми отделениями дивизий.
Значение особых отделов в то время хорошо видно из следующего факта: 18 августа 1919 года по решению ЦК РКП(б) начальником (председателем) Особого отдела ВЧК был назначен по совместительству председатель ВЧК и нарком внутренних дел РСФСР Феликс Эдмундович Дзержинский, в июле 1920 года его сменил на посту начальника Особого отдела ВЧК Вячеслав Рудольфович Менжинский, будущий председатель ОГПУ. Ранее Менжинский был особоуполномоченным Особого отдела ВЧК, наряду с ним среди занимавших эту должность были ставшие впоследствии крупнейшими руководителями органов ОГПУ — НКВД Артур Артузов и Яков Агранов. Делопроизводством и другими организационными делами в Особом отделе ВЧК заведовал Управляющий делами Генрих Ягода, будущий первый нарком внутренних дел СССР, переведенный в 1919 году в ВЧК из Высшей военной инспекции Красной Армии.
Заслуги сотрудников особых отделов в Гражданской войне были отмечены 20 декабря 1922 года приказом РВСР о награждении Особого отдела ГПУ орденом Красного Знамени.
В то же время обособленное положение особых отделов ставило их в сложные отношения с другими подразделениями ВЧК, государственными и партийными органами. В феврале 1920 года Дзержинский отмечал, что «не удалось наладить взаимоотношений между губернскими ЧК и особыми отделами». В июне того же года в письме Менжинскому из Харькова Дзержинский писал о «черной кошке» между Особым отделом и Президиумом ВЧК и призывал своего заместителя «стать патриотом ВЧК как единого боевого органа и не проводить линии обособления». В августе того же года член Коллегии ВЧК, полпред ВЧК в Туркестане Яков Петерс писал: