Наступил Великий пост; враги Иоанна, опасаясь его влияния, втайне упросили императора удалить его прежде Пасхи. Святитель отвечал посланному Аркадия: «От Господа получил я Церковь эту для охранения паствы и не могу ее оставить; но город твой, — изгони меня силою, если хочешь, чтобы мне иметь законное оправдание». Явилась стража палат царских и выгнала из храма Иоанна; однако ему велено было оставаться в митрополии, и в Великую субботу опять сделано внушение оставить столицу. Император, смущаемый святостию дня и страхом волнения народного, призвал к себе еще раз Акакия и Антиоха и укорял их за дурные советы; они же воскликнули, как некогда Евреи о Христе: «На свою голову принимаем осуждение Иоанна!» Тщетно сорок епископов, сохранивших с ним общение, предстали в храме Аркадию и Евдокии, умоляя их со слезами пощадить Церковь Христову, ради великого празднества и стольких готовящихся ко св. крещению. Отринуты были их моления, и они удалились в домы свои уединенно встретить Пасху, потому что все храмы были в руках неприязненных; пресвитеры же, верные Иоанну, собрали народ в банях Константиновых, совершая там крещение над оглашенными.
Акакий, Антиох и Севериан смутились, видя опустевшие церкви, потому что император мог заметить любовь народную к Иоанну; они принудили главного сановника палат послать язычника Лукия с четырьмястами воинов из стражи царской, чтобы пригласить народ в храмы, или силою изгнать его из бань Константиновых, если не окажет послушания. Посреди безмолвия ночи и святости совершаемых таинств, суровые воины, с мечом в руках, устремились в толпу народа, проникли в самые воды обширной купели, опрокинули диакона со св. миром, ранили престарелых пресвитеров, так что кровь их смешалась с водами крещения. Раздетые жены и девы с ужасом бежали из купели, чтобы не подвергнуться поруганиям, и некоторые подверглись; воплями их и криком младенцев заглушались гимны; воины обступили алтарь и расхитили священные сосуды; Божественная Кровь Христова пролилась на их одежды; служителей алтаря заключили в темницы, мирян изгнали из города, и на другой день множество новокрещенных, еще в белых одеждах, скитались вне города без пристанища. Аркадий встретился с ними и велел разогнать, ибо его уверили, что это еретики; их повлекли с насилием в темницы, которые обратились в храмы; в церквах же раздавались вопли принуждаемых отречься от Иоанна.
Сам он находился в непрестанной опасности; в его доме схватили притворно беснуемого, с кинжалом в руках, и повлекли на судилище к префекту, но Иоанн послал епископов освободить убийцу; другой, более неистовый, вооруженный тремя кинжалами, ворвался в митрополию, ранил или умертвил семь человек, хотевших его удержать, доколе не схвачен был народом, который с тех пор начал стеречь своего пастыря; убийца же остался без наказания потворством префекта. Наконец, через пять дней после Пятидесятницы, Акакий, Антиох и Севериан приступили опять к императору, прося его, как некогда Каиафа, не погубить всех ради одного человека, и малодушный Аркадий решительно повелел Иоанну удалиться. Повиновался святитель, чтобы не возбудить смятения; он вышел из палат своих в церковь, с несколькими близкими ему епископами, говоря: «Помолимся здесь еще однажды и простимся с Ангелом сей церкви». Но там его предупредили, что военачальник Лукий стоял недалеко со стражею, намереваясь силою извлечь его в случае сопротивления. Тогда Златоуст со многими слезами дал целование мира плачущим епископам, не в силах будучи обнять всех, ради горького их плача; он оставил их в алтаре, успокоив будто идет отдохнуть, сам же, не теряя времени, вышел в притвор храма, куда призвал именитых жен столицы, отринувших все преходящие блага мира сего, чтобы в вольной нищете, посте и молитве, посвятить себя служению Церкви: Олимпиаду, вдову префекта столицы, и Сильвию, дочь царя Мавританскаго, Прокулу и Пентадию. «Подойдите, чада мои, — сказал им Златоуст, — приближается конец мой, я совершил поприще и уже не узрите более лица моего. Но умоляю вас, да не остынет ревность ваша к Церкви, и если кто правильно будет поставлен на мое место, с общего согласия, покоритесь ему, как некогда мне, потому что Церковь не может оставаться без епископа, и как вы сами желаете себе помилования от Бога, так и меня не забывайте в молитвах ваших!» Громко рыдающие бросились к его ногам, но святитель велел одному из пресвитеров увести их, чтобы не возмутили народ, и они утихли. Тогда вышел Иоанн из храма с восточной стороны, пока ожидающий народ толпился около его коня, у западного преддверия, и с двумя епископами, Кириаком и Евлисием, отплыл на малой ладье в Вифинию, где удержала его стража.