После XX съезда проводилась реабилитация не только политических заключенных, но и многих военнопленных и «перемещенных» лиц, или остарбайтеров, «не запятнавших себя активным сотрудничеством с врагом». Однако пересмотр судьбы по этим категориям заключенных и ссыльных происходил по другим документам, а не комиссиями ЦК КПСС. Система строительных лагерей Министерства среднего машиностроения, ведавшего атомной промышленностью и урановыми шахтами, продолжала существовать и после XX съезда, а архивы особого управления этих лагерей до сих пор не рассекречены.
Возвращение к своим семьям и в родные места сотен тысяч узников ГУЛАГа, а также реабилитация миллионов погибших в лагерях и тюрьмах — все это было с точки зрения внутренней жизни СССР не менее важным событием, чем XX съезд партии. Анна Ахматова писала тогда с беспокойством, пытаясь предугадать, как встретятся и как посмотрят друг другу в глаза две России: одна, которая сажала, и другая, которая сидела.
Хрущев обязал все органы власти проявлять максимальное внимание к реабилитированным. При необходимости им в первую очередь предоставлялась жилплощадь, работа, оформлялась пенсия. Я знаю случай, когда три женщины, не будучи родственницами, провели 17 лет заключения в одном лагере, они спали на одних нарах, работали рядом. Они хотели получить в Москве квартиру из трех изолированных комнат, чтобы не расставаться и после реабилитации. Но только одна из женщин, арестованная в Москве, Солнцева Мария Алексеевна, имела право на московскую прописку. Женщины обратились к Хрущеву, и тот лично распорядился удовлетворить их просьбу. Конечно, были и другие примеры. Известная в Крыму коммунистка Матильда Леонардовна Фишман, которая в годы Гражданской войны входила в партизанский отряд, созданный ее отцом из немецких колонистов, была арестована в 1941 году как «лицо немецкой национальности» по ордеру, выписанному еще в 1937 году по другому «основанию». Она была освобождена из лагеря раньше, чем прошла реабилитация российских немцев, отправленных в 1941 году в спецпоселения. Фишман отказали в предоставлении жилья в Москве, и она семь месяцев жила на немецком кладбище в Москве. Ей никто не хотел помогать, и только вмешательство Ивана Папанина, известного полярника и общественного деятеля, который знал Матильду еще по крымскому подполью, позволило ей вернуться к нормальной жизни. И таких коллизий было тогда очень много.
По многим причинам работа по реабилитации не была свободна не только от бюрократических недостатков, но и от принципиальной несправедливости. Реабилитация расстрелянных или умерших в лагерях заключенных проводилась только по заявлению родственников или друзей. Если по делу не было заявления, то его не рассматривали. Когда такая реабилитация все же проводилась, например, по групповым делам, то никто не разыскивал родственников или детей умершего, чтобы сообщить им о реабилитации и выдать положенную в таких случаях небольшую компенсацию. Не проводилась формальная реабилитация участников оппозиционных течений 1920-х годов, хотя их и освобождали из заключения или ссылки, если они еще были живы. Не был проведен пересмотр фальсифицированных судебных процессов 1930-х годов.
Вдова H. Н. Крестинского в течение семи лет после XX съезда добивалась реабилитации своего мужа, проходившего по делу «правотроцкистского блока» вместе с Н. И. Бухариным. Когда ей наконец сообщили, что ее муж реабилитирован и восстановлен в рядах партии, она умерла от инфаркта, упав на пол рядом с телефонным аппаратом. Вдова Бухарина не могла добиться реабилитации мужа и через 25 лет. Остались если уже не в списках «врагов народа», то в списках «антипартийных деятелей» Томский и Рыков, Каменев и Пятаков, Шляпников и Рязанов, а также многие другие крупные деятели партии и государства.
Никто не привлекал к ответственности следователей НКВД, проводивших «дознание» с применением пыток, начальников лагерей и тюрем, надзирателей. Тем более не обнародовались имена доносчиков, даже если это была очевидная клевета. Тем не менее, как только началось возвращение домой бывших заключенных, многих доносчиков и следователей охватила паника. Были случаи помешательства, даже самоубийства.