Теперь Иоанн не был уже простым пастырем-проповедником провинциальнаго города. Он был архиепископом столицы, патриархом царствующаго града, возседал на престоле второго Рима. Положение его было весьма высокое, но вместе с тем и трудное. Церковь константинопольская, основанная по преданию св. ап. Андреем, пережила много превратностей, и со времени возведения Византии на степень столицы восточной империи приобрела великое, первенствующее на востоке значение. Она в действительности была средоточием церковнорелигиозной и духовной жизни всего востока. Но вследствие такого именно положения она сильнее всего и обуревалась различными веяниями. В столице находили себе приют и опору всевозможныя лжеучения, которыя быстро прививались среди легкомысленнаго, преданнаго наслаждениям населения и приверженцы которых умели находить себе доступ даже к императорскому двору. Вследствие этого бывали времена, когда лжеучение, особенно арианство нагло торжествовало свою победу в столице, угрожая совершенно вытеснить православие. Так именно было еще недавно, при Григорие Богослове, который, прибыв в Константинополь, с прискорбием видел, что все важнейшия четырнадцать церквей столицы находились в руках ариан и православие ютилось только в одной домовой церкви, которая под его благотворным пастырством сделалась источником возстановления или воскресения православия. Но хотя православие было возстановлено, однако влияние лжеучения было так велико, что и этому великому архиепископу-богослову трудно было пасти столь распущенную и в духовном и нравственном отношении паству, и потому он вскоре по возведении его в сан архиепископа отрекся от этого высокаго сана. Преемником ему был избран Нектарий - из светских придворных сановников. Этот иерарх отличался благочестием, но он был слишком слаб для столичной кафедры, и хотя его правление было ровным и спокойным, однако все ясно чувствовали, что на престоле столицы требуется иной пастырь, который имел бы достаточно мужества для того, чтобы не только умолять, но и запрещать, и вообще показывать твердость церковной власти, когда потребуют того обстоятельства. У Нектария не было такого мужества, и потому после него столичная церковь осталась в довольно неустроенном состоянии. Народ, всецело преданный наслаждениям и страстям, не уважал своих пастырей, а последние, не исключая и епископов, вели также совершенно мирскую жизнь. Все это глубоко поразило и огорчило Иоанна. Если он в Антиохии видел так много недостатков и пороков, с которыми и вел непримиримую борьбу, то там это были недостатки неразумной паствы, которая нуждалась во вразумлении со стороны пастырей; а здесь и сами пастыри требовали неменьшаго вразумления и наказания. И св. Иоанн мог сразу понять, на какое трудное и ответственное место поставлен он Промыслом. Еще в юности он сознавал всю высоту и тяжесть епископскаго служения и потому-то и уклонился от него, скрывшись от своего друга Василия. Теперь, помимо своей воли оказавшись на кафедре первенствующей церкви, он еще более мог убедиться в этом. Но теперь он уже не избегал тяжести своего служения. Напротив, поставленный на столь высоком и трудном месте, он как истинный пастырь церкви порешил показать себя достойным своего звания и мужественно вступил в отправление своего многотруднаго служения.
Первым его делом было показать себя своей новой пастве в качестве пастыря-учителя. Этого от него ожидал более всего и народ, знавший о его блистательном красноречии и предвкушавший великое удовольствие - послушать знаменитаго проповедника. И действительно первыя беседы св. Иоанна в Константинополе собирали безчисленное множество народа, и архипастырь мог радоваться такому усердию его паствы к слушанию слова Божия. С боговдохновенною силою из уст его лились золотыя слова назидания и истолкования слова Божия, слушатели приходили в неописанный восторг, и своды храма оглашались шумными, часто неистовыми рукоплесканиями и всевозможными знаками одобрения. Подобныя знаки одобрения он порицал еще в Антиохии, видя в них проявление суетности человеческой; не мог сочувственно относиться к ним и теперь. Но его огорчение становилось тем сильнее, по мере того как он убеждался, что эти шумныя одобрения здесь были еще менее знаком проникновения слов назидания в душу слушателей, чем среди антиохийскаго народа, и напротив это было лишь доказательство крайней суетности его новой паствы, не различавшей церкви от театра. Слушателям очевидно нравился блеск красноречия проповедника, а не сила назидательности его слов. Поэтому он порешил выступить еще энергичнее, чем в Антиохии, на борьбу с подобною распущенностию и в своих беседах неоднократно умолял своих слушателей оставить эту привычку и слушать назидание в тихом безмолвии и сокрушении сердца. "Слушайте меня спокойно, - говорил он неоднократно, - я умоляю вас об этом, и если угодно, постановим с сегодня за правило, чтобы никто из слушателей не позволял себе прерывать проповедника... Делайте, как я прошу вас, и вы найдете здесь источник блага и школу мудрости. Когда даже языческие философы вели разсуждения пред своими учениками, то последние слушали их, не прерывая рукоплесканиями. Проповедывали и апостолы, и мы нигде не читаем, чтобы их прерывали шумными рукоплесканиями. Иисус Христос беседовал с народом на горе, и когда Он говорил, не раздавалось никаких кликов. Нет ничего пристойнее для церкви, как тишина и скромность. Шум и клики пристойны театру, баням, общественной площади, светским церемониям. Изложение наших догматов требует спокойствия, сосредоточенности, этой тихой пристани для защиты от бурь. Подумайте об этом, я вас прошу, я вас умоляю... Установите такое правило, и будете делать все лишь для славы Божией"