Видя взлет Берии, который распространял свое влияние и расставлял свои креатуры далеко за пределами всемогущего аппарата политической полиции, остальные руководители объединились, используя поддержку военных, стремившихся восстановить главенство армии над госбезопасностью. 10 июля пресса сообщила об аресте Берии, обвиненного в том, что он был английским шпионом и ярым врагом народа. По официальным введениям, суд, вынесший смертный приговор, и казнь Берии состоялись в декабре 1953 г.; по другим же версиям, исходившим, в частности, от Хрущева, он был расстрелян сразу после ареста. Общество имело все основания задуматься о смысле свержения Берии. Конечно, его предшественники Ягода и Ежов были так же внезапно арестованы и казнены по тем же обвинениям. Но 1953 год все же отличался от 1938–го. Не означало ли устранение Берии возврат к «незаконной практике»? Или же оно было, наоборот, еще одним шагом, сделанным по пути к законности и смягчению полицейского режима? Действительно, это событие оказалось таким же двусмысленным, как и роль, сыгранная Берией после смерти Сталина, и в равной мере объяснялось как борьбой за власть, так и начинавшейся «оттепелью».
Обстоятельства устранения Берии, последовавший за мнимым следствием расстрел без настоящего суда, фантастические обвинения в лучших сталинских традициях, выдвинутые против него, свидетельствовали о сложности политической обстановки летом 1953 г. и трудностях перехода к системе, где беззаконие уступило бы место законности. Могущество госбезопасности не оставляло противникам Берии иного выхода, кроме заговора и немедленной его казни, которая позволяла предотвратить возможную попытку его сторонников организовать контрзаговор. Но, учитывая расширение опоры власти Берии, его реальный авторитет и то, что система подчеркивала отныне свою приверженность законности, противники Берии не могли признаться, что они просто ликвидировали грозного шефа политической полиции, к тому же надевшего личину респектабельного и «либерального» политика. Скрывая обстоятельства смерти Берии и прикрываясь мнимым соблюдением законности, его противники заботились прежде всего о собственной безопасности и одновременно утверждали свою легитимность. Чтобы развенчать положительную репутацию, которая начала складываться у Берии, они прибегли к испытанному методу коллективных петиций и массовых митингов против «гнусного предателя».
Устранение Берии снова подняло роль армии и избавило ее от угнетающей слежки со стороны госбезопасности. Последняя подверглась серьезной реорганизации. Во главе МВД был поставлен Круглое, который держал себя достаточно скромно. Были упразднены «тройки» — особые трибуналы, через которые проходили дела, относившиеся к ведению политической полиции. У МВД отобрали также управление лагерями, передав ГУЛАГ в систему министерства юстиции. В марте 1954 г. политическая полиция была преобразована в самостоятельную организацию, получившую название Комитета государственной безопасности (КГБ), руководство которым было возложено на генерала Серова, числившегося среди сторонников Хрущева. Очень широкие права по контролю за ее деятельностью были предоставлены прокуратуре, где ключевую роль играл генеральный прокурор Руденко, тоже сторонник Первого секретаря ЦК КПСС. В политическом плане «восстановление социалистической законности» было прямо связано с внутриполитической борьбой. Так, расстрел бывшего шефа МГБ Абакумова и его заместителей в декабре 1954 г. напомнил, что инициатива «ленинградского дела», вменявшегося им в вину, принадлежала Маленкову. Впрочем, двумя месяцами позже последний потерял большую часть своих постов.