Иван идет сначала в Тверской Саввин монастырь, куда его привлекает слава старца Варсонофия Неумоя. В самом начале новой жизни он дает обет ни в чем не преступать велений избранного им старца. Но что сразу испугало целомудренного юношу в монастыре, это сквернословие в трапезной, где обедали миряне. Иван побежал из трапезной не евши: «Ненавидел он сквернословие и кощунство и смех безчинный от младых ногтей». Варсонофий понял смущение юноши: «Неудобно тебе в здешних монастырех жити» — и направил его в Боровск, к игумену Пафнутию.
Мы упоминали живописную обстановку их первой встречи. Юноша застал трудолюбивого игумена в лесу рубящим дрова и носящим их на плечах. Прождав до вечера, пока старец не окончил свои труды, Иван пал к его ногам и просил принять в послушники. Начальный прием был довольно суровым. После строгого испытания Пафнутий постриг Ивана, согласно обычаю изменив его имя на Иосифа и потребовав от него пройти все положенные послушания, начиная с работы в пекарне и на кухне, что было нелегкой обязанностью в большом монастырском хозяйстве с множеством наемных рабочих и мирян–паломников. Чтобы подчеркнуть высокую степень Иосифовых добродетелей, его биографы рассказывают о его служении в больнице. Как само собой разумеющееся, сообщается, что «болящая братия служащими утесняеми… не все бо могут чисто послужити и кротце понести тяжко болящаа… Темже яко всем терпелива и послушанию любителя Иосифа тем служити представляет [игумен]. И тамо усерден и добре тем [больным] предстояще, и коиждо глаголаша ему, готов обреташеся, питая и напояя, подымая и постеля устрояа, прохлажаа и утешая… яко Христови самому служа…» За свое служение болящей братии он получил вознаграждение: игумен разрешил ему взять в свою келью старого и больного отца, постригшегося в том же монастыре. Иосиф ухаживал за отцом в течение 15 лет до его кончины. Умирая, Пафнутий избрал его своим преемником, и великий князь Иван Васильевич, которому Пафнутий вручил свой монастырь, утвердил этот выбор (1477).
Однако новый игумен вскоре разошелся с братией. При всей строгости Пафнутия в его монастыре не было полного общежития. В русской монашеской среде бороться с собственностью (или личной независимостью) было труднее, чем с грехами плоти. Иосиф открыл братии свое намерение устроить «единство и всем общее во всем», но его план не встретил сочувствия. Только семь старцев поддержали Иосифа, причем двое из них были его кровными братьями. На тайном совете было решено, чтобы Иосифу ходить по всем русским монастырям и «избирати от них яве на пользу». Это было уже второе странствование Иосифа по русским монастырям. Иосиф выбрал своим старцем–наставником Герасима Черного и ходил с ним, скрывая игуменский сан, «яко невеглас простой», работая в монастырях на «черных службах». Сильное впечатление на него произвел Кириллов монастырь, и только он один — «не словом общий, а делы». Помимо строгого общежития его поразила благоговейная чинность в церкви и трапезной: «Кийждо стояше на своем месте, и на ино место не сме преступити».
Иосиф провел в Кириллове 17 месяцев, молясь «втайне, без книг», выдавая себя за неграмотного. Он жил в клетушке, огороженной досками. Однажды один из братьев пришел в его келью, чтобы позвать его на работу, и через щель в стене имел возможность подсмотреть Иосифа, как тот молился: странный монах пел псалмы, читал наизусть Послания, Евангелие. Соглядатай поспешил распространить сообщение об этом чуде; отсюда, между прочим, можно заключить, что от рядового монаха не требовались ни грамотности, ни знания псалмов на память. Инкогнито Иосифа было раскрыто, его освободили от работы в пекарне и дали отдельную келию, но он не остался в Кириллове.
Другой случай, также показательный для культуры Руси во времена Иосифа, имел место в Твери в Саввином монастыре, уже нами упоминавшемся. За всенощной все клирошане разошлись, «якоже им обычно, прохладитися». Некому было читать, и игумен не мог сказать ни слова от стыда. Герасим принуждает Иосифа взять книгу и читать — и не по складам, как хотел сначала, а во всю меру своего искусства. «Бе же у Иосифа в языце чистота, и в очех быстрость, и в гласе сладость и в чтении умиление: никто бо в те времена нигде таков явися». Игумен, изумленный чтением Иосифа, послал сказать Тверскому князю, чтобы не велел выпускать из отчины своей такого «досужа» (свободного человека). Едва наши странники «скоротеком» успели бежать за рубеж княжества.