Тем не менее в громадном здании КГБ на Лубянке царила атмосфера растерянности: все боялись, что организацию ликвидируют. 23 августа 1991 года чекисты с опаской смотрели из окон на толпы москвичей, «свергавших» памятник Феликсу Дзержинскому.
Опасаясь роспуска, спецслужба начала беспрецедентную кампанию за открытость. Офицеры госбезопасности пускали в свои архивы правозащитников, разыскивающих дела репрессированных, генералы выступали в телевизионных шоу, а руководство органов госбезопасности приглашало диссидентов посетить здание на Лубянке4.
КГБ открыл двери людям, которым и присниться не могло, что их допустят в наисекретнейшие архивы, хранящие информацию о десятилетиях репрессий. Никита Петров, историк и сотрудник правозащитного общества «Мемориал», вспоминает, как его первый раз пригласили в подмосковный поселок Кучино провести оценку материалов, хранящихся в архиве. Сотрудники архива буквально онемели, увидев его. «Они были шокированы появлением человека в джинсах там, куда до того пускали не каждого чекиста», — говорил Петров5. КГБ даже предлагал правозащитным организациям выделить нескольких активистов для участия в реформе органов госбезопасности. Известный советский диссидент Сергей Григорьянц, девять лет проведший в заключении, был приглашен в Наблюдательную комиссию КГБ, но отказался, опасаясь, что его имя будет использовано для улучшения имиджа спецслужбы, при этом у него не будет реальных полномочий для контроля6.
В конце 1991 года Советский Союз перестал существовать, а КГБ подвергся реструктуризации. Из него выделилась мощная спецслужба, которая должна была заниматься противодействием шпионажу и борьбой с терроризмом. Сначала ее назвали Министерством безопасности, затем Федеральной службой контрразведки (ФСК) и, наконец, Федеральной службой безопасности (ФСБ)7.
Бывшее Первое Главное управление было преобразовано в новое агентство под названием Служба внешней разведки — СВР8. Подразделение КГБ, отвечавшее за радиоэлектронную разведку и криптографию, стало Федеральным агентством правительственной связи и информации9. Загадочное управление КГБ, ведавшее секретными спецобъектами, продолжило независимую деятельность под новым названием: Главное управление специальных программ — ГУСП. На основе подразделения КГБ, отвечавшего за охрану советских руководителей, были созданы Федеральная служба охраны — ФСО и Служба безопасности Президента (СБП), а советские пограничники трансформировались в независимую Федеральную пограничную службу — ФПС.
Все эти перемены означали, что новая служба контрразведки, после 1995 года получившая название ФСБ, была освобождена от функций внешней разведки, прежде выполнявшихся КГБ. Охрана российских лидеров тоже больше не входила в круг ее обязанностей, секретные бункеры были исключены из ее ведения и переданы под непосредственный контроль президента. ФСБ сохранила номинальное представительство в армии. В новом виде службу можно было сравнить в определенной степени с британской контрразведкой МИ-5.
Между тем партийный контроль над ведомством остался в прошлом. Замысел Ельцина заключался в том, что конкуренция между новыми спецслужбами должна стать гарантией их подконтрольности. При Ельцине у Службы внешней разведки был прямой конкурент в лице военной разведки; ФСБ соперничала с ФАПСИ, которое занималось мониторингом социально-политической ситуации в России. Выслушав доклад директора ФСБ, Ельцин мог сравнить его с докладом директора ФАПСИ. ФАПСИ играло особенно важную роль, поскольку в его ведении находилась центральная электронная система подсчета голосов (ГАС «Выборы»), а следовательно, агентство имело возможность в режиме реального времени снабжать Кремль сводками с избирательных участков10.
В 1993 году был сформирован новый орган, призванный исправить ситуацию с катастрофически низкими налоговыми сборами, — налоговая полиция, и соперничество между службами обострилось. Налоговая полиция вступила в жесткую конкуренцию с Департаментом экономической безопасности — подразделением ФСК, а впоследствии ФСБ. В то же время Александр Коржаков, бывший телохранитель Ельцина, шеф Службы безопасности президента, нанимал парапсихологов и ясновидящих, которые готовили для Ельцина прогнозы и аналитические доклады — параллельно с ФАПСИ и ФСБ, но независимо от них11.