Между тем, друзья и знакомые — Гесельберг, Фитин, Студников, Зарубин и Василевский — ушли из жизни. В 1976 году Судоплатов и Эйтингон обратились к Меркадеру и Долорес Ибаррури с просьбой поддержать их ходатайство о реабилитации перед Андроповым и Комитетом партийного контроля, указав на моральную ответственность партии за допущенную по отношению к ним обоим несправедливость.
Андропов и Пельше, который возглавлял тогда Комитет партийного контроля, дали в следующем году заключение по этим делам, отметив — доказательств причастности Судоплатова и Эйтингона к преступлениям Берии нет. К тому времени, через пятнадцать лет после смерти в тюрьме во время допроса, Серебрянского реабилитировали. Для этого достаточно было постановления военного прокурора.
Их дела с заключением Пельше и Андропова и справкой Климова, заместителя главного военного прокурора Батурина и начальника следственного отдела КГБ Волкова должны были докладывать на Политбюро. Однако Суслов решительно воспротивился этому, а в Комитете партийного контроля и КГБ никто не захотел конфликтовать с ним и Руденко. Вместо этого, не иначе для успокоения, по распоряжению Пельше, Судоплатов с Эйтингоном получили право пользоваться кремлевской поликлиникой и больницей, а также госпиталем КГБ. По его же, Пельше, поручению обоих принял его первый заместитель Густов. Он сказал, что рад приветствовать героических офицеров разведки, но, к сожалению, в настоящее время их дела не могут быть решены положительно. Следует подождать, когда это станет возможным.
В 1978 году на Кубе скончался Рамон Мерка-дер, работавший там по приглашению Фиделя Кастро советником в министерстве внутренних дел. Его тело было тайно переправлено в Москву. В тот момент Павел Анатольевич с женой находились в санатории. Эйтингона тоже не уведомили о похоронах, которые КГБ трусливо старался провести без их участия и лишней огласки. Однако вдова Меркадера — Рокелия Мендоса подняла шум, позвонила Эйтингону, и он проводил старого товарища в последний путь.
Спустя ещё три года, после очередного съезда партии, к которому оба тоже обращались с письмом, но не получили ответа, Эйтингон скончался в кремлевской клинике от язвы желудка. Всё последующее время, особенно перед смертью Брежнева, Судоплатов продолжал бомбардировать ЦК своими заявлениями. Последние свидетели, которые к тому времени ещё были живы, поддерживали его усилия добиться реабилитации, последовательно обращаясь к Черненко, а затем к Горбачеву и Александру Яковлеву, ссылаясь на заключения Андропова и Пельше о его невиновности.
Все эти прошения редактировал Скляров, все ещё остававшийся заведующим приёмной Верховного Совета СССР. Опытный функционер, он знал, как представить материал, чтобы получить одобрение наверху. Генсеки приходили и уходили, а Скляров по-прежнему оставался на своем месте.
В 1984 году, как сообщил Климов, положительное решение по делу Судоплатова было готово, но очередной Генсек Черненко внезапно умер, а ответа от Горбачева или Соломенцева, председателя Комитета партийного контроля, всё не было. Отец невестки Павла Анатольевича — заместитель министра угольной промышленности, был в дружеских отношениях с Соломенцевым, и тот попросил его добиться благоприятного решения. Соломенцев доложил о деле Судоплатова Горбачеву, но тот отказал.
Спустя ещё четыре года Павла Анатольевича пригласили в прокуратуруи сообщили, что его дело пересматриваться не будет и вручили официальный ответ, подписанный Генеральным прокурором Рекунковым. Там была допущена серьезная ошибка. В документе говорилось, что Судоплатов осужден как пособник и Берии, и Абакумова, хотя в его обвинительном заключении упоминания об Абакумове вообще не было.
Между тем жене исполнился восемьдесят один год, и её здоровье резко ухудшилось. Поначалу казалось, что Эмма Карловна просто ослабла по сравнению с тем, какой была всегда, но врачи констатировали болезнь Паркинсона. Она умерла в сентябре 1988 года, и её похоронили на кладбище Донского монастыря. Рядом покоились Григулевич, Эйтингон и Абель. Раиса Соболь тоже умерла, Зоя Рыбкина после смерти подруг прожила ещё три года.
Из узкого круга друзей остались только трое, переживших славные, но трагические времена, вошедшие в историю страны: Зоя Зарубина, Анна Цуканова и сам Павел Анатольевич. Как ветераны разведки Зоя и он получали 9 мая приглашения на торжества по случаю Дня Победы вместе со своими детьми и внуками в клубе КГБ и на стадионе «Динамо».