Через несколько дней Халид покинул Медину, отправившись в Кинасарйн, чтобы никогда больше не возвращаться на Аравийский полуостров. Как только он уехал, жители Медины явились к 'Умару и попросили, чтобы он вернул Халиду его имущество. На это 'Умар ответил: «Я не торгую тем, что принадлежит Аллаху и мусульманам».[308 Там же.] Однако после этого, согласно Табари, сердце 'Умара «избавилось от болезни» Халидом.
Очень скоро 'Умару стало ясно, что мусульмане глубоко осуждают то, как он обошелся с Халидом. Открыто говорили, что Халид пострадал из- за того, что 'Умар испытывает личную неприязнь к нему. Это всеобщее осуждение поступка 'Умара распространилось настолько широко, что халиф был вынужден написать всем своим полководцам и наместникам:
«Я сместил Халида не из-за того, что сердился на него, и не из-за того, что он совершил какой-либо недостойный поступок, а из-за того, что люди прославляли его и становились на дурной путь. Я боялся, что люди начнут полагаться на него.[309 То есть не на Бога, чтобы победить.] Я хочу, чтобы они знали, что все в руках Аллаха и что в стране не должно быть беды».[310 Ат-Табари: т. 3, с. 167.]
В своем письме 'Умар невольно сделал Халиду комплимент, который желал бы услышать любой полководец: его воины относились к нему почти как к богу! Однако Халид вернулся в Кинасарйн исполненным горечи. Уничтожитель отступничества, Освободитель Ирака и Сирии вернулся домой никем— отстраненным от должности и униженным. Когда жена приветствовала его на пороге, он сказал: «'Умар ставил меня над Сирией, пока она не превратилась в пшеницу и мед, а затем сместил меня!»[311 Ат-Табари: т. 3, с. 99.]. Дни военных походов остались для Халида позади. Меч Аллаха — меч, который Господь направил против неверных, который Абу Бакр отказался вкладывать в ножны, — был в конце концов убран в ножны по воле халифа 'Умара.
Осталось рассказать совсем немного. После отстранения от должности Халид прожил менее 4 лет, и это были не слишком счастливые годы. Хотя он не стал бедным, ему пришлось соблюдать строгую экономию. В 15 г. хиджры 'Умар ввел институт денежных пособий всем мусульманам, причем размер пособия зависел от их статуса в Исламе и участия в войнах. Все, кто принял веру в период между Худайбийским мирным договором и отступничеством, получали ежегодное пособие 3000 дирхамов,[312 Там же: т. 3, с. 109. Балазури: с. 437.] и Халид относился именно к этой категории. Этой суммы было достаточно для того, чтобы человек и его семья могли вести скромный образ жизни, однако в случае Халида, прирожденного аристократа и человека, привыкшего просто так раздавать тысячи дирхамов, этого хватало ненадолго. Он перевез семью в Эмессу, где приобрел дом и стал доживать свои дни.
Отставка стала для Халида жестоким ударом. Но, словно и ее было недостаточно, Халид перенес еще более тяжкие утраты в период эпидемии чумы, разразившейся вскоре по его возвращении из Медины и унесшей жизни самых близких и дорогих ему людей.
Эпидемия началась в палестинском 'Амавасе в месяц мухаррам или месяц сафар 18 г. хиджры (в январе или феврале 639 г.) и стремительно распространилась по всей Сирии и Палестине, поражая как христиан, так и мусульман. Халиф был глубоко огорчен страданиями мусульман в Сирии, особо тревожась об Абу 'Убайде и намереваясь спасти Того, на Кого Может Положиться Народ, вызвав его в Медину. Однако Абу 'Убайда прочел намерение халифа между строк его письма и понял, что халиф задержит его в Медине до тех пор, пока эпидемия не минует. Человек, который не покидал своих солдат в гуще сражений, не собирался покидать их и во время чумы. Он отказался от поездки в Медину и поплатился жизнью за преданность своим воинам.
Во время амавасской чумы погибли тысячи мусульман, в том числе благороднейшие и наилучшие из них: Абу 'Убайда, Шурахбйл, Йазйд, Дирар — ближайшие друзья Халида. И это еще был не предел его страданиям, ибо во время эпидемии он лишился 40 сыновей! Таким образом, страшная болезнь лишила Халида всех тех, кто скрашивал ему годы жизни в отставке. Мы знаем только о трех сыновьях Халида, переживших отца: Сулаймане, который погиб в бою в период заключительной фазы Египетской кампании; Мухаджире, который сражался под командованием 'Али и погиб при Сиффйне, а также об 'Абд ар-Рахмане, который дожил до почтенного возраста и, по-видимому, унаследовал полководческие таланты отца. Однако и он умер не своей смертью в 46 г., убитый пленником в период халифата Му'авиййи. Хроники гласят, что убийство было спланировано Му'авийей, завидовавшим и боявшимся авторитета, которым пользовался сын Меча Аллаха. Позднее убийца пал от руки сына 'Абд ар-Рахмана, отомстившего за смерть отца. Мы не знаем, сколько у Халида было дочерей, но считается, что последним его потомком мужского пола был внук, Халид ибн 'Абд ар-Рахман ибн Халид.