Когда возник вопрос о том, где предать погребению тело скончавшегося старца Амвросия, то много было по этому поводу волнений. Большинство высказывалось за то, чтобы похоронить старца в Шамордино, так как обитель эта основана и устроена его трудами и заботами, и ради её блага старец и переехал в неё жить. С этим соглашался даже настоятель Оптиной Пустыни. Того же мнения держался и сам преосвященный Калужский Виталий. Батюшка о. Иосиф, как преданный сын Оптинской обители, конечно, не мог не желать, чтобы его великий учитель был положен в семье оптинских старцев, но по своей преданности и любви к почившему, тотчас же после его кончины, проникся особенной жалостью к осиротелой Шамординской обители, и потому также выразил своё согласие уступить тело старца. Но законные права имела, без сомнения, Оптина Пустынь, и владыка не решился взять на себя ответственность и послал телеграмму в святейший Синод.
В это время старец Иосиф велел всем сёстрам особенно молиться, чтобы Господь расположил сердца начальствующих положить тело старца в их обители. Но когда из Синода получена была ответная телеграмма с решением передать тело погребению в Оптиной Пустыни, то батюшка о. Иосиф не позволял больше никому восставать против распоряжения высшей власти; и немощных, ропщущих и негодующих строго останавливал, говоря: «Ведь молились и не вышло так; не без воли же Божией это сделалось, — значит так надо».
Отпевание усопшего было совершенно в храме Шамординской обители преосвященным Виталием 13 числа, а на другой день тело старца было торжественно перенесено в Оптину Пустынь. Несмотря на дождь и ветер, свечи не гасли всю дорогу. Уже темнело, когда шествие приближалось к Оптиной, и колокол загудел, созывая братию на встречу своему бездыханному отцу и наставнику. Далеко за паромом поспешно шел одинокий инок. Лицо его было печально, губы шептали молитву… То был любимый ученик усопшего старца и его преемник старец о. Иосиф. Его авва, который воспитал его духовно, возвращался после долгой разлуки, но, увы, возвращался не в скит, не в хибарку, не для жизни и новых наставлений, а возвращался, дабы лечь рядом с дорогими останками своих великих учителей — старцев Льва и Макария.
В день погребения, 15 октября, преосвященный Виталий нового старца наградил набедренником. После обеда владыка, проходя мимо свежей могилы и увидев около неё толпу монахинь, обратился к ним с вопросом.
— Шамординские сёстры, кого же вы теперь изберёте себе старцем, — наверное о. Иосифа?
— Благословите, владыко святый, — отвечали они.
— Бог благословит, — сказал владыка.
Ещё накануне преосвященный посетил в скиту хибарку старца, очень благосклонно обошелся с о. Иосифом и уходя сказал: «Мы ещё увидимся». И, действительно, после похорон его неожиданно потребовали к архиерею. Увидя его, владыка приветливо с ним поздоровался и пригласил участвовать в совете, прибавив, обращаясь ко всем: «Отец Иосиф не должностное лицо; но я желаю, чтобы и он принял участие в нашем совете». Оказывая эту высокую честь простому скитскому иеромонаху, владыка этим хотел лишь подчеркнуть его значение, как старца.
Как известно, преосвященный Виталий, по своему болезненному состоянию был иногда раздражителен и вспыльчив (представился через год в Киеве, в обители архимандрита Ионы, которого очень чтил). Так случилось и тут: о. архимандрит Исаакий одним словом, сказанным в пользу Шамординской обители, навлёк на себя неудовольствие преосвященного, который разгорячился и резко остановил настоятеля. Маститый старец, архимандрит Исаакий видимо смутился — произошло замешательство; все замолчали, не решаясь противоречить раздраженному архипастырю. Но вот, встает смиренный о. Иосиф и, со свойственной ему непринуждённой простотой, кротко, но твёрдо говорит своё справедливое слово, которым безбоязненно поддерживает архимандрита. Все замерли, ожидая бури… Но владыка сразу смягчился и заговорил совсем другим тоном; он признал справедливость его довода и согласился с мнением архимандрита и старца. Вот черта евангельского самоотвержения — там, где нужно, о. Иосиф готов был пострадать за правду, но без особенной крайности и нужды никогда из братии не выделялся.
Уезжая из Оптиной, архипастырь сказал братии следующие знаменательные слова: «Изберите себе старца по духу вашей обители…» Действительно, можно было найти старцев и по летам, и по жизни, но иного духа.
«Старчество» есть особый дар, коим наделяется не всякий желающий, хотя он был и хорошей, и духовной жизни. Старцы — это особые избранники Божии, предуготовляемые особыми промыслительными путями. Главными и существенными качествами их должны быть — опыт духовный (он приобретается деятельною жизнью в послушании и под руководством старца); рассуждение (оно даётся только чистым сердцам, просвещенным Духом Божиим); терпение, любовь и смирение. Последнее есть особо выразительный признак истинного старца. Смиренный старец, если он и не учён, и не начитан, если он и не может вести философского разговора и отвечать на все богословские вопросы, то он, с присущею ему за смирение благодатью, может быть мудрее мудрецов века и подать слово назидания в такой силе духа, перед которой окажутся ничтожными все теоретически приобретённые познания. Иной и жизни хорошей, и говорит убедительно, и в Писании сведущ; но нет в нём той силы благодатной, которая живёт нередко в простых, Богом отмеченных старцах. Возьмём для примера любую иноческую обитель, в которой имеются такие старцы. Сколько там есть иноков доброй и даже подвижнической жизни; есть иноки начитанные и, может быть, даже и с научным образованием, развитые умственно и духовно, с которыми приятно бывает поговорить, — но при этом, если у посетителя больная душа, если его мучает совесть, если его сердце томится и страдает от чего бы то ни было, — то он не найдёт у своих собеседников ответа на свои жгучие вопросы, да он и не откроет перед ними души своей, а пойдёт искать инока благодатного, который своей всепрощающей любовью обнимет его, как овцу заблудшую, своим смирением покорит его горделивый разум и своим простым, немудрым, но облагодатствованным словом разрешит все его недоумения и откроет ему слово жизни. Влияние такого человека безгранично; но нужно помнить, что обладают этим даром только приявшие помазание свыше. Потому в большую ошибку впадают те, которые обращаются за указаниями в своём жизненном пути ко всем без разбора, ибо «как может слепец слепца водити, не оба ли в яму впадут?» — говорит Писание.