Остаток жизни Анатолий Александрович провел в Баварии, в небольшом городке Оберстдорф в окружении родных – жены Ольги и дочери Марии. В 1925 г. она приехала к ним из Англии, где несколько лет проработала швеей, зарабатывая на скромную жизнь. 19 января 1940 г. полковник Мордвинов скончался на руках у близких и был похоронен на кладбище Вальдфредхоф (Waldfriedhof) в Оберстдорфе. Ольга Карловна, оставшись одна, жила в доме вместе с подругой Маргаритой Буш, также в свое время эмигрировавшей из Петербурга и находящейся в Германии по нансеновскому паспорту, и дочерью, которая работала воспитательницей в детском доме. В 1952 г. Ольга Карловна, стремясь обеспечить старость подруге, завещала одну треть дома ей и одну треть – дочери Марии. 17 декабря 1953 г., пережив мужа на 13 лет, она тихо скончалась в местной больнице и была похоронена рядом с А. А. Мордвиновым.
В 1955 г., после того как Маргарита Буш выехала из дома, Мария продала его, а вырученные средства потратила на строительство детского санатория. Мария Мордвинова так и не вышла замуж и не оставила потомства. Она умерла 18 июля 1971 г. и была похоронена рядом с родителями. Поскольку в течение многих лет могила Мордвиновых оставалась без ухода и оплаты, в 1986 г. на ее месте было сделано новое захоронение.
А. А. Мордвинов оставил после себя большие по объему мемуары. Писать их он начал в начале 1920-х годов. Вести дневник, по утверждению автора, он начал после его разговора с императрицей Александрой Федоровной. «Нет, вы должны писать непременно дневник, – говорила государыня, – всякий человек обязан это делать, и делать искренне, помня, что это полезно и необходимо не только для себя, но и для других, и помогает не только памяти, но и правде». Значительная часть этих дневников пропала в Гатчине осенью 1917 г., когда революционные солдаты проводили обыск в царском дворце. Поэтому при написании мемуаров автору приходилось опираться на собственную память. По всей видимости, именно этим объясняются некоторые неточности, допущенные автором в датировке и последовательности отдельных событий, фамилиях и т. д.
Впервые отрывки из той части мемуаров, которая посвящена отречению царя, были опубликованы в эмиграции в 1923 г. в журнале «Русская летопись». Отдельным изданием эта часть записок вышла в Париже в 1925 г., затем издана в СССР в 1927 г. и переиздана вновь в 1990 г.27
В конце 1930-х гг. автор передал полный экземпляр мемуаров, озаглавленный им «На военно-придворной службе», в Русский Заграничный Исторический архив в Праге. Этот архив в 1945 г. был передан в дар правительством Чехословакии Академии наук СССР, до конца 1980-х гг. находился на секретном хранении в бывшем ЦГАОР СССР (Центральном государственном архиве Октябрьской революции, высших органов государственной власти и управления СССР). После рассекречивания фондов журнал «Отечественный архив» в 1993 г. опубликовал небольшую часть мемуаров А. А. Мордвинова, посвященную Николаю II и его отречению28. Далее, в 1990-2000-х гг., фрагменты воспоминаний входили в различные издания, посвященные последнему императору России и его семье29.
К сожалению, мало кто из русской эмиграции 19201930-х гг. оставил письменные оценки воспоминаниям А. А. Мордвинова. Следует упомянуть о весьма критичном взгляде на мемуары флигель-адъютанта великой княгини Ксении Александровны. В письме от 1 декабря 1938 г. близкой подруге графине А. А. Апраксиной она написала: «Я вспомнила, что не ответила тебе насчет Мордвинова. Он живет в Швейцарии – нет, вру, в Баварии. Жена (дочь Mr. Heath) делает портреты пастелью – она замечательно талантлива – и тем зарабатывает на жизнь. Он хороший человек, но очень бесцветный, и его мемуары так же бесцветны, как он сам!»30 Отметим, что великая княгиня Ксения Александровна мало знала А. А. Мордвинова лично. Она лишь эпизодически встречала Анатолия Александровича у матери, вдовствующей императрицы Марии Федоровны, в Гатчинском дворце и вряд ли могла быть объективна в оценке его личности.
Сохранившиеся мемуары А. А. Мордвинова под общим названием «Из пережитого» состоят из трех основных частей: «На военно-придворной службе», «Отречение государя. Жизнь в царской Ставке без царя», «Мои тюрьмы», а также короткого фрагмента «Мои встречи с девушкой, именующей себя спасенной великой княжной Анастасией Николаевной». При этом необходимо заметить, что в сохранившейся версии записок, несмотря на логическую и хронологическую последовательность упомянутых выше трех основных частей, сам автор производит несколько другое деление. Так, хронологически и повествовательно следующая за первой частью мемуаров часть вторая – «Отречение государя. Жизнь в царской Ставке без царя» – обозначена им как часть третья, а «Мои тюрьмы» – как пятая. Конечно, нельзя исключить, что какие-то фрагменты воспоминаний были утрачены. Однако в начале пятой части «Мои тюрьмы» автор приводит следующее деление мемуаров: 1. Моя придворная служба; 2. Отречение государя; 3. Жизнь без царя; 4. Воспоминание об императоре Николае II; 5. Мои тюрьмы; 6. На чужой стороне. Такое деление на разделы, сделанное самим автором, практически исключает это допущение, поскольку и с точки зрения логики, и с точки зрения хронологии, и с точки зрения цельности повествование полностью укладывается в содержание и наименования трех более крупных частей воспоминаний. Скорее всего это кажущееся несоответствие свидетельствует лишь о том, что автор с течением времени неоднократно возвращался к своим мемуарам, дополнял, перерабатывал и систематизировал их. Возможно лишь допустить, что до нас не дошли какие-то фрагменты из раздела «На чужой стороне», поскольку жизнь в эмиграции описана автором весьма скудно. С другой стороны, вполне вероятен и тот вариант, что автор прекратил работу над мемуарами в конце 1920-х годов после встречи с Лже-Анастасией, а дальнейшая жизнь в эмиграции не отличалась обилием событий, которые заслуживали бы, по его мнению, особого внимания.