Вскоре отцу удалось примкнуть к одной из красноармейских групп, пробиравшихся также в направлении Никополя. Здесь их влили во 2-й ударный полк. Здесь же в Никополе отец встретил брата Николая. Вскоре к городу подошли белые — и полк эвакуировали в Кременчуг. По дороге отец заболел.
К этому времени Украинский фронт окончательно развалился, часть красноармейцев сумела прорваться на север на соединение с бойцами Красной Армии, другая часть вступила в отряды батьки Махно, а большинство осталось в тылу. 2-й ударный полк был переброшен в Николаев, а оттуда в Одессу. Здесь отец вновь потерял брата, после того как тот в составе одного из отрядов был брошен командованием одесского гарнизона на ликвидацию высадившегося на 16-й станции под Одессой белого десанта.
25 августа деникинские войска заняли Одессу. Отец все же оставался в ней до освобождения города Красной Армией в январе — феврале 1920 года. Находясь в Одессе, отец беспризорничал, некоторое время он плавал на паруснике по линии Одесса — Херсон, подрабатывал в порту и на базаре. В феврале 1920 года, после освобождения Одессы частями Красной Армии, отец вновь вступил в Красную Армию, на этот раз — в роту связи 123-й стрелковой бригады 41-й дивизии 14-й армии. Вместе с бригадой отец был направлен на фронт и оставался там вплоть до окончания советско-польской войны.
В этот период 41-я дивизия участвовала в разгроме войск Деникина в нижнем течении реки Днестр, затем в обороне Черноморского побережья и Днестра. Затем дивизия была переброшена на Польский фронт, в апреле-июне 1920 года участвовала в боях с белополяками в районе среднего течения реки Днестр, а также в боях против отрядов украинских националистов во главе с Тютюнником; в июне — июле — в наступлении в районе Во-лоческ — Кременец — Каменец-Подольский; в июлеавгусте — в форсировании рек Збруч, Серет, Золотая и Гнилая Липа, освобождении городов Теребовль, Чертков, Галич, Рогатин. Однако после поражения советских войск под Варшавой дивизия отошла в район Каме-нец-Подольского.
В ноябре 1920 года 41-я дивизия участвовала в ликвидации петлюровских партизанских отрядов и освобождении городов Могилев-Подольский и Каменец-Подоль-ский. 21 декабря того же года дивизия была сведена в бригаду и влита в 44-ю дивизию 12-й армии, а с января 1921 года вошла в состав Киевского военного округа. В это время бойцам дивизии приходилось вести ожесточенную борьбу с отрядами украинских националистов, а также с махновскими бандами, совершающими рейды по Правобережной Украине.
В дивизии, где он служил, вместе сражались поляки, австрийцы, немцы, сербы и даже китайцы. Последние, как вспоминал отец, были очень дисциплинированны и дрались до последней капли крови. Борьба шла жестокая, и случалось, что целые деревни оказывались уничтоженными украинскими националистами и бандформированиями: всего в ходе Гражданской войны на Украине погибло свыше миллиона человек. Отец как-то сказал, что его поколение привыкло к жестокостям той войны, потерям и лишениям. В состоянии войны страна находилась с 1914 года, и трагедия России заключалась в том, что до самого конца Гражданской войны, то есть до 1922 года, создать стабильное общество, опирающееся на нормальные, гуманные ценности, не представлялось возможным.
Сотрудники политотдела дивизии попытались отправить отца на учебу в Киев, однако непредвиденные обстоятельства спутали эти планы. Дело в том, что бойцы Особого отдела дивизии попали в засаду, устроенную украинскими националистами. Большинство из них погибло. В Особом отделе, в связи с понесенными потерями, срочно требовались телефонист и шифровальщик. Поскольку к тому времени отец уже окончил начальную школу, умел читать и писать, его определили в Особый отдел. Таким образом, отец в четырнадцать лет был послан на работу в органы безопасности. Это, очевидно, и было началом его службы в органах госбезопасности.
В мае 1921 года отец стал сотрудником Особого отдела 44-й дивизии, дислоцировавшейся в это время в городе Житомире, главном центре Волынской области. В органах ВЧК отец занимался разной технической работой. В ту пору у него были должности письмоводителя, регистратора, машиниста-систематизатора сначала в Особом отделе, а затем в губотделе ГПУ на Волыни.
Опыт, приобретенный отцом при выполнении обязанностей телефониста, а затем шифровальщика, оказался в дальнейшем ему очень полезен. Он печатал документы с грифом «секретно», посылавшиеся командованию, и расшифровывал телеграммы, которые Особый отдел получал непосредственно от главы ВЧК Феликса Дзержинского из Москвы.
Отец вспоминал, как 1921 год стал переломным в его жизни. Дивизия, в которой он служил, была переведена в Житомир. Главной задачей ее Особого отдела была помощь местной ЧК в проникновении в подполье украинских националистов, руководимых Петлюрой и Коновальцем. Их вооруженные банды устраивали диверсии против органов советской власти на местах. Возглавлявшим ЧК Потажевичу и Савину удалось установить диалог с руководителями банд и провести с ними неофициальные переговоры. Руководство Особого отдела тогда встретилось с ними в Житомире на явочной квартире. Мой отец, как младший сотрудник на подхвате, должен был проживать в доме, где находилась явочная квартира, и обслуживать переговоры. Опыт общения с главарями формирований украинских националистов, являвшимися, по существу, настоящими хозяевами в своей округе, помог отцу в дальнейшем, когда он стал оперативным работником госбезопасности. Он потом говорил, что на своей собственной шкуре испытал, каково иметь дело с заговорами в подполье.