Греческая армия начала обратный поход. Отбиваясь от войск персидского царя, ежедневно преодолевая сопротивление местных племен, неся большие потери, греки упорно продвигались к южным берегам Черного моря. После восьмимесячного пути, потеряв около трети своего состава, они достигли греческого города Трапезунда. Позволив себе длительный отдых, наемники снова двинулись в путь – к Армене. Два месяца шли греки до Армены, и два месяца Ксенофонт стоял во главе войска. Затем, вплоть до прибытия в Византий, он постоянно находился на командной должности – либо над всем войском, либо над большим самостоятельным отрядом. Используя положение фактического главнокомандующего, Ксенофонт дважды за время похода пытался склонить своих соратников остаться в Понте и основать новое поселение. Вероятно, он рассчитывал на то, что сможет оказаться во главе администрации нового города и таким путем осуществить честолюбивые надежды, которые ранее связывал с участием в экспедиции Кира. Но наемники не желали оставаться в Понте и стремились скорее попасть домой, так что мечтам Ксенофонта сбыться было не суждено.
Достигнув Фракии, большая часть наемников поступили на военную службу к фракийскому царю Севфу. Царь уже неоднократно вел переговоры с Ксенофонтом, возглавлявшим греческое войско. В это время Спарта не желала обострять отношения с персами и по их просьбе согласилась выдать уцелевших греческих наемников Кира персидскому царю. Была даже сделана, правда, неудачная, попытка захватить Ксенофонта. В такой ситуации для греков было лучше поступить на службу к фракийцу, чем достаться персам. Севф обещал предоставить Ксенофонту убежище, если тот подвергнется преследованиям со стороны Спарты, и передать часть своих владений в благодарность за помощь в династической борьбе. Свои обещания Ксенофонт и его воины выполнили, Севф – нет.
Но политическая ситуация вновь изменилась. Спарта начала войну с Персией. Во Фракию прибыли посланцы спартанского командующего Фиброна, чтобы пригласить бывших наемников Кира на службу. Под командованием Ксенофонта в то время оставались всего 6 тысяч человек, а сам он собирался ехать в Афины. Он пишет, что близкие ему в лагере люди стали просить, чтобы он не уезжал до тех пор, пока не отведет и не передаст войско Фиброну. Ксенофонт согласился и довел войско из Фракии до Пергама, а затем остался на спартанской службе, так и не уехав в Афины.
В 396 году до н. э. для руководства военными действиями против Персии в Малую Азию прибыл спартанский царь Агесилай. Ксенофонт быстро с ним сблизился и на долгие годы стал ему верным другом. Вместе с ним он возвратился в Грецию, когда войско Агесилая было переброшено туда из Малой Азии в связи с начавшейся Коринфской войной. Ксенофонт участвовал на стороне спартанцев в битве при Коронее в 394 году до н. э., где спартанцы сражались не только против фиванцев, но и против афинян, бывших с фиванцами в союзе. Вернуться на родину Ксенофонту так и не пришлось (да, может быть, он и не стремился). Если раньше Ксенофонт был добровольным изгнанником, то после битвы при Коронее он был заочно приговорен афинянами к изгнанию из отечества. В спартанском войске Ксенофонт оставался до конца Коринфской войны, сопровождая Агесилая в походах.
Затем начинается третий, последний период жизни Ксенофонта. Спартанцы отблагодарили его за оказанные им услуги, стоившие ему лишения родины: они подарили ему дом и участок земли в местечке Скиллунте в Элиде, близ Олимпии. Здесь он жил с женой и двумя сыновьями, Гриллом и Диодором, и провел много лет вдали от общественной жизни – занимался сельским хозяйством, охотой, литературными трудами и принимал друзей. Эта спокойная, идиллическая жизнь в очаровательном уголке продолжалась до 371 года до н. э., когда во время войны между Спартой и Фивами спартанцы потерпели тяжелое поражение при Левктрах, и Ксенофонт вынужден был оставить Скиллунт и переселиться в Коринф. В 369 году до н. э. Афины и Спарта заключили союз между собою, и приговор об изгнании, тяготевший над Ксенофонтом, был отменен. Тем не менее на родину он не вернулся. Но в 362 году до н. э. он послал обоих сыновей в Афины, и они в числе афинских всадников участвовали в кавалерийском сражении, которым началась битва при Мантинее между спартанцами и афинянами – с одной стороны и фиванцами – с другой. В этом сражении Грилл был убит. Когда известие об этом пришло к Ксенофонту, он совершал жертвоприношение. Услышав о гибели сына, он снял с головы венок, но когда гонец добавил, что сын его умер смертью храбрых, он снова надел венок и сказал: «Я знал, что сын мой смертен».