В Петроградской тюрьме епископ пробыл до 4 января 1922 года и в день памяти великомученицы Анастасии Узорешительницы был освобожден и уехал в Москву. Всенощную и литургию на Рождество Христово он служил в храме Марфо-Мариинской обители, а на второй день праздника — в храме Христа Спасителя. В Москве он получил от Патриарха назначение быть епископом Старицким, викарием Тверской епархии.
Уехав в Тверь, владыка снова поселился в Успенском Желтиковом монастыре, где в 1918 году был настоятелем.
Летом 1922 года начался обновленческий раскол; раскольники при поддержке советских властей принялись за разрушение Церкви. В июне 1922 года митрополит Сергий (Страгородский), архиепископ Серафим (Мещеряков) и архиепископ Евдоким (Мещерский) выпустили воззвание, в котором признали законность обновленческого ВЦУ как высшей церковной власти.
Некоторые священники — кто под воздействием соблазнительных аргументов, кто под угрозой физической расправы — присоединились к обновленчеству. Епископ Петр немедленно таковых запретил в священнослужении.19 сентября 1922 года епископ Петр обратился к тверской пастве с воззванием, в котором изъяснял сущность обновленческого движения и отношение к нему Православной Церкви.
24 ноября 1922 года епископ вновь был арестован, 30 ноября был отправлен в Москву и заключены в Бутырскую тюрьму. 26 февраля 1923 года Комиссия НКВД по административным высылкам приговорила епископа Петра к ссылке в Туркестан на два года. В середине марта епископа Петра по этапу отправили в Ташкент. Перед отправкой дали личное свидание с духовными детьми.
В апреле этап прибыл в Ташкентскую тюрьму. В пасхальный четверг все были вызваны из тюрьмы в комендатуру ГПУ. Здесь осужденным было объявлено, кому куда следовать дальше. Епископу Петру было назначено ехать в Перовск.
В 1923 году был освобожден из заключения святой Патриарх Тихон; он подал властям список архиереев, без которых не мог управлять Церковью. В их числе был и епископ Петр. В конце 1924 года владыка прибыл в Москву, а 16 июля 1925 года, уже после смерти Патриарха Тихона, Местоблюстителем патриаршего престола святым митрополитом Петром он был послан в Воронеж в помощь митрополиту Владимиру (Шимковичу), которому было тогда восемьдесят четыре года.
Епископ Петр служил в огромном пятипрестольном храме во имя Сошествия Святого Духа на Терновой поляне, но чаще он служил в Покровско-Преображенском храме бывшего Девичьего монастыря, при котором и жил. Во время его богослужений храм был всегда полон молящимися. Епископ пробыл в Воронеже до осени 1925 года, когда был вызван в Москву. 23 ноября, попрощавшись с воронежской паствой, он отбыл в Москву.
6 января 1926 года, в канун Рождества Христова, скончался митрополит Воронежский Владимир. Тело почившего внесли в церковь при горьком плаче народа. Воронежская паства почувствовала себя осиротевшей. Многие спрашивали: когда же приедет владыка Петр? Воронежская блаженная Феоктиста жившая тогда в Девичьем монастыре, говорила: "Мясоедом приедет". Епископ Петр приехал 10 января и вместе с прибывшим на погребение митрополитом Курским и Обоянским Нафанаилом (Троицким) отпевал почившего митрополита. Погребение митрополита Владимира, которое собрало множество верующих, переросло в народное собрание, единодушно пожелавшее, чтобы преосвященный Петр взошел на Воронежскую кафедру.
После народного избрания на Воронежскую кафедру епископ уехал в Москву, чтобы получить подтверждение народного выбора от священноначалия. Заместитель Местоблюстителя митрополит Сергий признал это избрание и назначил епископа Петра на Воронежскую кафедру с возведением его в сан архиепископа, сказав при этом, что посылает в Воронеж лучшего проповедника Московской патриархии.
При высокопреосвященном Петре началось возвращение храмов из обновленчества в православие. Признание православными главой епархии архиепископа Петра не облегчало бремени служения его на Воронежской кафедре, потому что юридически власти признавали Церковью только обновленцев, и Православная Церковь хотя и существовала, но была как бы нелегальной. Такое положение затрудняло поездки архиепископа по сельским приходам епархии; эти поездки рассматривались как контрреволюционная деятельность, на них требовалось каждый раз разрешение властей, а они его не давали.