Брак о. Иоанна, который требовался обычаями нашей Церкви для иерея, проходящего свое служение в миру, был только фиктивный, нужный ему для прикрытия его самоотверженных пастырских подвигов: в действительности он жил с женой, как брат с сестрой. «Счастливых семей, Лиза, и без нас много. А мы с тобою давай посвятим себя на служение Богу», — так сказал он своей жене в первый же день своей брачной жизни, до конца дней своих оставаясь чистым девственником.
Хотя однажды о. Иоанн и говорил, что он не ведет аскетической жизни, но это, конечно, сказано было им лишь по глубокому смирению. В действительности, тщательно скрывая от людей свое подвижничество, о. Иоанн быль величайшим аскетом. В основе его аскетического подвига лежала непрестанная молитва и пост. Его замечательный дневник «Моя Жизнь во Христе» ярко свидетельствует об этой его аскетической борьбе с греховными помыслами, этой «невидимой брани», которую заповедуют всем истинным христианам древние великие отцы-подвижники. Строгого поста, как душевного, так и телесного, требовало естественно от него и ежедневное совершение Божественной литургии, которое он поставил себе за правило.
При первом же знакомстве со своей паствой о. Иоанн увидел, что здесь ему предстоит не меньшее поле для самоотверженной и плодотворной пастырской деятельности, нежели в далеких языческих странах. Безверие, иноверие и сектантство, не говоря уже о полном религиозном индифферентизме, процветали тут. Кронштадт был местом административной высылки из столицы разных порочных людей. Кроме того, там много было чернорабочих, работавших главным образом в порту. Все они ютились, по большей части, в жалких лачугах и землянках, попрошайничали и пьянствовали. Городские жители немало терпели от этих морально опустившихся людей, получивших название «посадских». Ночью не всегда безопасно было пройти по улицам, ибо был риск подвергнуться нападению грабителей.
Вот на этих-то, казалось, нравственно погибших людей, презираемых всеми, и обратил свое внимание исполненный духа подлинной Христовой любви наш великий пастырь. Среди них-то он и начал дивный подвиг своего самоотверженного пастырского делания. Ежедневно стал он бывать в их убогих жилищах, беседовал, утешал, ухаживал за больными и помогал им материально, раздавая все, что имел, нередко возвращаясь домой раздетым и даже без сапог. Эти кронштадтские «босяки», «подонки общества», которых о. Иоанн силой своей сострадательной пастырской любви опять делал людьми, возвращая им утраченный ими было человеческий образ, первыми «открыли» святость о. Иоанна. И это «открытие» очень быстро восприняла затем вся верующая народная Россия.
Необыкновенно трогательно рассказывает об одном из таких случаев духовного возрождения благодаря о. Иоанну один ремесленник: «Мне было тогда годов 22–23. Теперь я старик, а помню хорошо, как видел в первый раз батюшку. У меня была семья, двое детишек. Я работал и пьянствовал. Семья голодала. Жена потихоньку по миру сбирала. Жили в дрянной конурке. Прихожу раз не очень пьяный. Вижу, какой-то молодой батюшка сидит, на руках сынишку держит и что-то ему говорит ласково. Ребенок серьезно слушает. Мне все кажется, батюшка был, как Христос на картинке «Благословение детей». Я было ругаться хотел: вот, мол, шляются… да глаза батюшки ласковые и серьезные меня остановили: стыдно стало… Опустил я глаза, а он смотрит — прямо в душу смотрит. Начал говорить. Не смею передать все, что он говорил. Говорил про то, что у меня в каморке рай, потому что где дети, там всегда и тепло и хорошо, и о том, что не нужно этот рай менять на чад кабацкий. Не винил он меня, нет, все оправдывал, только мне было не до оправдания. Ушел он, я сижу и молчу… Не плачу, хотя на душе так, как перед слезами. Жена смотрит… И вот с тех пор я человеком стал…»
Такой необычный подвиг молодого пастыря стал вызывать нарекания и даже нападки на него со всех сторон. Многие долго не признавали искренности его настроения, глумились над ним, клеветали на него устно и печатно, называли его юродивым. Одно время епархиальное начальство воспретило даже выдавать ему на руки жалование, так как он, получив его в свои руки, все до последней копейки раздавал нищим, вызывало его для объяснений. Но все эти испытания и глумления о. Иоанн мужественно переносил, ни в чем не изменяя в угоду нападавшим на него принятого им образа жизни. И, с Божией помощью, он победил всех и вся, и за все то, над чем в первые годы пастырства над ним смеялись, поносили, клеветали и преследовали, впоследствии стали прославлять, поняв, что перед ними истинный последователь Христов, подлинный пастырь, полагающий душу свою за овцы своя.