Шестое управление (транспортное);
Седьмое управление (наружное наблюдение);
Восьмое Главное управление (шифровально-дешифровальное);
Девятое управление (охрана руководителей партии и правительства);
Десятое управление (управление коменданта Московского кремля);
Следственное управление.
В КГБ также имелись пять самостоятельных специальных отделов, Управление правительственной связи и Учетно-архивный отдел.
В связи с передачей 2 апреля 1957 года в КГБ из структуры МВД пограничных войск, для управления ими было образовано Главное управление пограничных войск (ГУПВ).
В целом эта структура раскрывала задачи и функции нового союзно-республиканского ведомства.
Задачи внешней разведки КГБ СССР были конкретизированы в решении ЦК КПСС от 30 июня 1954 года «О мерах по усилению разведывательной работы органов государственной безопасности за границей». Оно требовало сосредоточить усилия на организации работы в ведущих западных державах — США и Великобритании, являвшейся давним геополитическим соперником России, а также на «используемых ими для борьбы против Советского Союза странах, — в первую очередь Западной Германии, Франции, Австрии, Турции, Иране, Пакистане и Японии». В том же году Совет министров СССР утвердил «Положение о Первом главном управлении КГБ», которое определяло его функции, задачи, структуру и штаты.
В июне 1954 года для определения первоочередных задач было проведено Всесоюзное совещание руководящих работников КГБ СССР, на котором с программной речью выступил Первый секретарь ЦК КПСС Н. С. Хрущёв. В докладе председатель КГБ СССР И. А. Серов разъяснил установки Президиума ЦК КПСС, предназначенные для деятельности органов госбезопасности, их роль и место в системе советского государственного управления.
Отметим и тот факт, что в 1953 году в последний раз было вынесено решение «в особом порядке» об административной высылке членов семей Л. П. Берии и лиц, проходивших по его уголовному делу (всего в отношении пятидесяти четырех человек). После этого, 1 сентября 1953 года, Особое совещание (ОСО) при МВД СССР было упразднено.
Итак, образование 13 марта 1954 года Комитета государственной безопасности при Совете министров СССР представляло собой действительно серьезный шаг по утверждению законности в нашей стране, хотя сам принцип законности неотделим от существующей системы права, имеющегося законодательства. А нельзя забывать, что советское законодательство, прежде всего уголовное и уголовно-процессуальное, также претерпело существенные изменения в конце 1950-х годов.
С момента образования КГБ контроль за его деятельностью осуществлялся ЦК КПСС (в частности, Отделом административных органов, в который поступали все жалобы и заявления граждан в отношении действий сотрудников данной структуры, адресованные в партийные инстанции, и который организовывал их проверку и рассмотрение), Советом министров и Генеральной прокуратурой СССР, а также некоторыми другими государственными органами, например Министерством финансов. И поэтому, на наш взгляд, совершенно однозначно недопустимо отождествлять КГБ с его историческими предшественниками НКВД и МГБ, несмотря на недостатки, а подчас и серьезные упущения, имевшие место в работе данной структуры. В то же время деятельность органов КГБ в 1950-1960-е годы не была свободна от влияния субъективизма и волюнтаризма их руководства, хотя именно в этот период в полной мере утверждаются прокурорский и партийно-государственный контроль за их работой.
Под обеспечением государственной безопасности понималась широкая система мер и мероприятий, осуществляемых различными органами Советского государства, их должностными лицами и гражданами, включающая охрану государственных границ, государственной тайны и другие, в том числе чрезвычайные меры по охране государственной безопасности и общественного порядка.
Поскольку в соответствии с Конституцией СССР обеспечение государственной безопасности относилось к ведению Союза ССР, то его высший законодательный орган издавал законы в этой области, а Совет министров был уполномочен направлять и координировать работу министерств и ведомств союзных и автономных республик, призванных участвовать в данном процессе в соответствии со своей компетенцией.
Определенная компетенция в сфере обеспечения госбезопасности Советского Союза была установлена также для министерств иностранных дел, обороны, внутренних дел, здравоохранения, транспорта, связи и ряда других ведомств.