Не желавший иметь рядом с собой профессионального и авторитетного Питовранова, считавшегося некоторыми руководителями партии и госбезопасности "бериевцем", Шелепин при первой же возможности поспешил от него избавиться, отправив его представителем КГБ в Китай, где Питовранов пробыл до 1962 года.
Следуя директивам Хрущева "о необходимости дальнейшего сокращения органов госбезопасности", Шелепин отчитывался перед партийным активом в октябре 1961 года на ХХII съезде КПСС: "Органы государственной безопасности реорганизованы, значительно сокращены, освобождены от не свойственных им функций, очищены от карьеристских элементов. Вся деятельность органов КГБ проходит теперь под неослабным контролем партии и правительства... Органы государственной безопасности – это уже не пугало, каким их пытались сделать в недалеком прошлом враги – Берия и его подручные, а подлинно народные политические органы нашей партии в прямом смысле этого слова".
Хрущев по достоинству оценил старания Шелепина: 31 октября 1961 года на первом после съезда пленуме ЦК КПСС Шелепин был избран секретарем ЦК КПСС. В КГБ при СМ СССР его место занял Владимир Семичастный, освобожденный в связи с новым назначением от должности 2-го секретаря ЦК КП Азербайджана.
В 1962 году генерал Питовранов вернулся в Москву, однако в центральном аппарате КГБ места ему не нашлось. В управлении кадров КГБ ему предложили место начальника Высшей школы КГБ, и не имевший выбора генерал Питовранов дал на это предложение согласие.
В 1965 году судьба генерала Питовранова сделала крутой поворот. В одном из интервью он вспоминал: "Вдруг звонок из управления кадров: необходимо пройти полную медицинскую проверку... Я прошел всех врачей в Варсоновьевском переулке (место расположения центральной поликлиники КГБ-ФСБ. – Попов). Мне говорят: "К сожалению, полностью здоров". После этого меня пригласил к себе Семичастный: "Евгений Петрович, поздравляю вас с 50-летием. Спасибо вам, хорошо поработали, но дайте и другим поработать. Пора отдыхать".
Так, в 50 лет, полный сил и энергии, генерал Питовранов оказался за порогом организации, которой он отдал многие годы жизни. Но, как оказалось, отдыхать пришлось ему недолго. 18 мая 1967 года на пост председателя КГБ при СМ СССР был назначен секретарь ЦК КПСС Андропов.
Через несколько дней после назначения на новую должность он вызвал для разговора Питовранова, формально – пенсионера госбезопасности и заместителя председателя президиума Торгово-промышленной палаты СССР. Через полтора месяца, 3 июля 1967 года, после неоднократных консультаций с Питоврановым, Андропов обратился в ЦК КПСС с запиской за №1631 А (буква в конце номера всегда обозначала фамилию человека, подписавшего документ – в данном случае "Андропов"). В записке, в частности, говорилось:
"Имеющиеся в Комитете государственной безопасности материалы свидетельствуют о том, что реакционные силы империалистического лагеря, возглавляемые правящими кругами США, постоянно наращивают свои усилия в плане активизации подрывных действий против Советского Союза. При этом одним из важнейших элементов общей системы борьбы с коммунизмом они считают психологическую войну... Замышляемые операции на идеологическом фронте противник стремится переносить непосредственно на территорию СССР, ставя целью не только идейное разложение советского общества, но и создание условий для приобретения у нас в стране источников получения политической информации.
В 1965–1966 гг. органами госбезопасности в ряде республик было вскрыто около 50 националистических групп, в которые входило свыше 500 человек. В Москве, Ленинграде и некоторых других местах разоблачены антисоветские группы, участники которых в так называемых программных документах декларировали идеи политической реставрации...
Под влиянием чуждой нам идеологии у некоторой части политически незрелых советских граждан, особенно из числа интеллигенции и молодежи, формируются настроения аполитичности и нигилизма, чем могут воспользоваться не только заведомо антисоветские элементы, но также политические болтуны и демагоги, толкая таких людей на политически вредные действия..."
Андропов предлагал в связи с этим создать в системе советской госбезопасности самостоятельное управление, целью которого будет решение следующих оперативных задач: