Найдя в Тихвинском монастыре ученика своего Аврамия, Мартирий поместился в одной с ним келье и со смирением и покорностью истинного подвижника начал проходить тяжкие в общежительстве послушания, неотступно памятуя Господа, пришедшего в мир, «да не послужат Ему, но да послужит другим». О своем приходе в Тихвинский монастырь и пребывании там преподобный Мартирий повествует так: «Когда я пришел из Лук Великих на Тихвину к Пречистой Богородице, был там ученик мой Аврамий пономарем, пришедший ранее меня. Я начал жить с ним в одной келье. Рассказал я Аврамию о пустынном жительстве и прибавил: “Брат Аврамий, я хотел только приучить себя к пустынножительству, чтобы идти в Поморье и быть вдали от людей, незнаемый ими”. Аврамий не одобрил этого: “Не ходи, отче, ни в Поморье, ни куда еще, но иди в ту пустыню и в то место, о которых я скажу тебе. Шел я раз из церкви с книгой по монастырю темной ночью, направляясь к трапезе, посмотрел на небо в ту сторону, где та пустыня, и увидел на небе крест сияющий, как луч, усажен весь звездами, над тем самым пустынным местом. Место это я знаю, оно непроходимо, стоит во мху. Иди на него и не ищи другого. Живи там, пока Бог повелит тебе. Будет с тобою Бог в том месте и Божие милосердие”. Вот что рассказал мне про святое место Аврамий, ученик мой. Потом я поселился в эту пустыню, называемую Зеленецкой».
Какие же побуждения были у преподобного Мартирия идти в уединение из людного Тихвинского монастыря?
Подвижническая жизнь двух братий во Христе не могла не привлечь к ним всеобщего уважения; известность о них распространялась более и более, в то время как многолюдство богомольцев в знаменитой чудотворною иконою обители постоянно усиливалось. Мог ли терпеть это искавший полнейшей безвестности Мартирий? Неотложно он вознамерился уклониться в какую-либо глухую пустыню. Рассказ Аврамия решил для преподобного, куда ему идти. С этой минуты сердце Мартирия только и жаждало посетить пустыню, указанную Богом Аврамию. С неустрашимым рвением стал он молиться Царице Небесной, да управит его путь, и решился просить благословения на свой подвиг от настоятеля. Оно было дано, и Мартирий, изготовив две малые одинаковой меры иконы: одну — Живоначальной Троицы, другую — Пресвятой Богородицы Тихвинской, списанную с иконы чудотворной, отравился по данному указанию. На пути к пустыне, около пяти верст не доходя до нее, находилось селение Бабурино. Здесь Мартирий сведал от одного из поселян по имени Иосиф о месте, к которому направлялся, и просил его провести туда. Едва заметной тропой миновав обширные, опасные и топкие мхи, Мартирий с проводником достиг пустыни, возвышавшейся красивым зеленым островом среди лесистой топи и за этой труднопроницаемой оградой как бы нарочно укрытой для иноческого безмолвия. Мартирий убедился, что воистину Сам Бог привел его сюда, и не напрасно со слезами благодарности повторял слова пророка: Се удалихся бегая и водворихся в пустыне, чаях Бога, спасающаго мя (Пс. 54, 8-9). Преподобный здесь и остался. Крестьянин Иосиф, указав место, где должны были начаться иноческие подвиги Мартирия, думал уже удалиться, но преподобный, отпуская его, объявил по внушению Духа, открывающего безвестная и тайная, что его ожидают испытания, что во время его отсутствия дочь его утонула в колодце при черпании воды и кроме того погиб вол, приподнятый, как вилами, сучьями высокого дерева. Таким образом, при самом вступлении в пустыню, которую Мартирий призывался освятить своею жизнью и нетлением в ней, ему дарована была благодать прозорливости, о которой, конечно, не мог уже не разглашать при всяком случае крестьянин Иосиф. Сам Иосиф время от времени приносил Мартирию пищу.
Раз Иосиф, будучи болен, решил дать на помин о себе ржи преподобному Мартирию. Но выздоровел и забыл о своем решении. Тогда во сне он увидел огненный столп над Зеленецкой пустыней, из него простертую руку, рассыпающую на землю огненные искры. Видение устрашило Иосифа, он пришел к преподобному с раскаянием и привез рожь. Но пустынник не имел жернова, не был в состоянии превратить ее в муку, а затем в хлеб и попросил Иосифа продолжить свою милость — смолоть рожь и печь из муки хлебы, что тот и исполнил. Жестоко, многоболезненно было житие Мартирия в этой дикой и угрюмой пустыне. Однако ни дикость места и суровость холодных здесь испарений, ни лишения в самонужнейшем, ни дикие звери этой местности, ни козни врага не могли поколебать доблестного воина Христова, в котором не было ни робости, ни уныния. Ископав себе сперва малую ямину, а вскоре поставив и часовенку в прославление и благодарение Господа и Пресвятой Богородицы, Мартирий беспрерывным славословием стал оглашать и освящать пустыню, которая безжизненностью своей доселе пугала народ. Здесь он удостоился снова видеть во сне образ Богоматери. Ему представилось море, а на нем плавает икона Богоматери, подобная явившейся ему. Посмотрел он на правую сторону и увидел близ иконы Архангела со скипетром, как пишется Гавриил на иконе Благовещения Пресвятой Богородицы. Архангел приглашает подвижника приложиться к образу, и он после колебаний вступил в воду. Образ стал тотчас погружаться в море, и на поверхности осталась только ножка Спасителя. Преподобный взял ножку обеими руками и начал плакать со слезами: «Милостивый Светодавче, если и придется потонуть, пусть это будет с Тобою». И тот же час как бы некоторая буря перенесла образ через море, поставила подвижника на берегу, и образ скрылся.