Хотя Горбачев пытался делать вид, что неудавшийся переворот никак не повлиял на расклад политических сил, было ясно, что в Москве произошли значительные изменения в расстановке сил. Формально Горбачев оставался президентом страны, но власть явно переходила к Борису Ельцину. Будучи президентом крупнейшей республики разваливающегося Советского Союза, он получал контроль над центральным телевидением и радио, а также всеми министерствами. В то же время, они с Горбачевым были единодушны в их стремлении нейтрализовать КГБ.
На следующий же день после провалившегося путча, Горбачев назначил на место председателя КГБ "своего человека", реформиста Вадима Бакатина. Тот, в свою очередь, сразу уволил оттуда всех "идейных" генералов, которые по-пар-тийному твердо и по-чекистски неумолимо высылали из страны писателей, отправляли в психбольницы диссидентов и другими способами ломали жизнь интеллигенции, противящейся коммунистическому режиму. Бакатин заявил во всеуслышание, что хочет начать новую эру сотрудничества между КГБ и США. В качестве доказательства добрых намерений, он передал американцам секретные схемы подслушивающих устройств, установленных в стенах нового здания посольства США в Москве. Более того, он даже ничего не попросил взамен.
На пресс-конференции Бакатин провозгласил, что время политических репрессий и тайной войны КГБ против Запада прошло. В течение следующих недель он разработал план, по которому КГБ следовало разделить на несколько организаций, составляющих систему с таким балансом сил, который бы не допускал огромную концентрацию власти, которой Комитет обладал на тот момент.
24 октября 1991 года Горбачев подписал Закон "О реорганизации органов государственной безопасности", на основании которого КГБ СССР был упразднен. Последовавшая за этим чехарда с названиями новой организации, длившаяся несколько месяцев, закончилась формированием следующих государственных служб, выполнявших различные задачи бывшего КГБ:
— Служба Внешней Разведки (СВР). Ей отвели функции Первого Главного Управления, то есть разведывательную деятельность за рубежом. Центр в Ясенево также переходил в распоряжение СВР.
— Федеральное Агентство Правительственной Связи и Информации (ФАПСИ). По сути дела, это был российский аналог американского Агентства Национальной Безопасности. ФАПСИ занималось обеспечением спецсвязи и космической разведкой.
— Федеральная Служба Охраны (ФСО). В ее состав вошли 10 тысяч солдат и офицеров бывшего КГБ, охранявших Кремль и высокопоставленных партийных чиновников. Кроме того, ФСО должна была обеспечивать безопасность президента, чем в США занимается Секретная Служба.
— Федеральная Служба Безопасности (ФСБ). В нее вошли 2-е, 3-є, 5-е и 7-е управления бывшего КГБ. В общей сложности, около 75 тысяч сотрудников ФСБ должны были обеспечивать безопасность внутри страны, включая борьбу с иностранными разведками.
Так как доблестные разведчики КГБ, действовавшие за рубежом, не занимались преследованием советских диссидентов, новоявленные реформисты боялись и ненавидели сотрудников Первого Главного Управления не так сильно, как их коллег из других подразделений. Кроме того, сам Центр находился за пределами Москвы, вдали от Лубянки, ассоциировавшейся у большинства граждан СССР с ночными арестами, пытками и другими гебешными прелестями. Вероятно, поэтому Горбачев с Ельциным не разогнали всех генералов, руководивших работой Центра, и даже не поставили во главе человека со стороны, чтобы тот произвел там основательную чистку. Вместо этого, Горбачев назначил на должность главы СВР бывшего генерал-лейтенанта КГБ Леонида Шебаршина. Он был одним из протеже Крючкова, но не поддержал идею военного переворота. Однако всего через месяц Шебаршин, повздорив с самим Бакатиным, был вынужден уйти. На смену ему пришел Евгений Примаков, близкий друг Горбачева, стремительно приобретавший влияние в российской политике.
Примаков начинал свою карьеру в 1950-х годах на посту замредактора газеты "Правда". Естественно, занимая такую должность, он был одновременно и внештатным сотрудником КГБ. В конце концов, он стал членом ЦК КПСС и Политбюро, которые до начала горбачевских реформ имели в стране неограниченную власть. В то же время, Примаков пытался предупредить Горбачева о готовящемся путче и не поддержал Крючкова, когда тот хотел захватить власть.
В октябре 1991 года Примаков официально стал руководителем ясеневского Центра и тут же проявил себя умелым администратором. Прежде чем что-либо менять, он решил посоветоваться с несколькими комитетскими "старейшинами" — бывшими офицерами разведки, пользовавшимися огромным уважением своих коллег. Одним из них был генерал в отставке Борис Александрович Соломатин, курировавший шпионскую группу Джонни Уокера во времена Холодной Войны. Другим же оказался бывший шеф Сергея, генерал Анатолий Якушкин, которого Крючков уволил после скандала с побегом Юрченко. Оба генерала заверили Примакова, что работа ясеневского центра поставлена как нельзя лучше и что менять там ничего не следует. Более того, они умоляли оградить их от инициатив Бакатина. И Соломатин, и Якушкин были вне себя от истории с безвозмездной выдачей США схемы прослушки их посольства в Москве.