Долго присматривался к Ивану и Филипп Иванович Каргин и вот однажды огорошил: «Говоришь, «Тихий Дон» прочитал. Григорий Мелихов, говоришь, понравился. Да знал я его. Его в жизни-то Харлампием Ермаковым звали. Друг мой с самого измальства». Филипп Каргин и рассказал молодому Ивану всю историю жизни Харлампия Ермакова. Рассказал о том, что был Харлампий тёмноволосым, горбоносым, красивым и взбалмошным казаком. Быстро входил в гнев, но и отходил быстро. На службу был призван в январе 1913 года. В 1914 году, находясь на службе, прошёл курсы учебной команды и общеобразовательные в Новочеркасске. За первые два года Первой мировой войны был ранен 14 раз и награждён четырьмя Георгиевскими крестами (полным Георгиевским банном) и четырьмя Георгиевскими медалями «За храбрость»! Из-за тяжёлого ранения и контузии в 1916 году был отправлен на излечение в Ростовский госпиталь.
Выйдя из госпиталя, в 1917 году прошёл краткосрочное обучение в Новочеркасском казачьем военном училище. Октябрь 1917 года и начало Гражданской войны он встретил в станице Каменской. Кто власть, а кто нет, в ту пору разобрать было не просто. Лозунги у всех были хорошими, с делами было хуже. Гражданскую войну Харлампий начал на стороне Советов народных и солдатских депутатов. Он хоть и имел уже офицерский чин, но Георгиевские кресты добывал бок о бок с солдатами и понимал, насколько им опостылела эта война и бездарное командование. В боях с белыми частями он получает ранение и отправляется в родную станицу. В станице Вешенской в феврале 1918 года его избирают атаманом, а затем председателем исполкома. Идущие от Советов директивы к исполнению Харлампию были более чем не по душе, и он уходит к белым. Служа в рядах белой Донской армии, в чине сотенного вахмистра он воюет на Царицынском и Балашовском направлениях. Но и там он не видит власти, которая была бы озабочена судьбой России, а не самолюбованием.
В декабре 1918 года он вместе с казаками своего полка бросает фронт и возвращается домой, в станицу Вешенская. Там он волей судьбы принимает деятельное участие в Верхнедонском восстании казаков 1919 года, вспыхнувшем 12 марта. Сперва хорунжий Харлампий Ермаков избирается командиром повстанческой сотни, затем командиром казачьего полка, а затем и дивизии. Это было восстание казаков, которые устали и от белых, и от красных. После смерти атамана Каледина новый атаман Богаевский производит его в есаулы. Богоевский поддерживает белых. В марте 1920 года Ермаков попадает в плен к красно-зелёным и принимает сторону красных. Богоевский был не самой популярной среди казаков фигурой. В 1921 году Ермаков Х.В. продолжает обучение и проходит красные курсы в Таганроге. В составе 1-й конной армии он сначала командует эскадроном, а затем полком. Командарм Будёный награждает его за храбрость и личное мужество именным серебряным оружием – шашкой и именными часами.
Для всех людей, особенно военных, это было труднейшее время. Все прежние заслуги перед Отечеством, чины, звания, награды – всё в один момент стало ненужным и даже опасным. В званиях повышали и красные, и белые. И там и там пройдохи и проходимцы росли как на дрожжах. Присваивая чины и звания, и те и те убеждали, что именно они настоящая власть. Белые власть пытались удержать, красные – отобрать. Этот период кратко и чётко выразил генерал Шкуро. Однажды его спросили, почему он в таких годах, а всё генерал-майор, тогда как более молодые имеют более высокие звания. Генерал отвечал: «Мне генеральское звание давал Царь-батюшка, а не приятели». В этом коротком ответе вся суть того времени. Таких как генерал Шкуро, веривших, что, его звание освящено с неба и уж этим выше, было немного. Генерал Шкуро высказал главную мысль, – «приятели». Приятели были с двух сторон. С одной стороны были приятели по царским ссылкам, каторгам и тюрьмам. С другой, в приятелях были те, кто их туда определял.
Харлампий Васильевич Ермаков не вписывался ни в те, ни в другие приятели. Он был казак, профессиональный военный, с огромным боевым опытом. Он был очень далёк и от политики, и от понимания приятельских отношений. Поэтому, сначала полевой суд «белых приятелей» приговорил его к расстрелу. От расстрела его спасло ходатайство брата – сотника Емельяна Ермакова, и, конечно, его сотня. Потом, в 1923 году, его арестовывают «красные приятели», но станичники его вновь спасают от расстрела. Но приятельские отношения выводили «неприятеля», а в то время это были все профессионалы своего дела, под корень. В 1927 году его вновь арестовывают «красные приятели» и быстро по приговору коллегии ОГПУ – расстреливают. Видимо, где-то с 1923 по 1927 год состоялась встреча Шолохова и Ермакова. Рассказ Харлампия о службе в четырёх армиях: Российской императорской, казачьей, белой и красной поразил своим трагизмом Шолохова и дал идею написания романа «Тихий Дон».