По приказу Антонова-Овсеенко в подчинение Киквидзе были переданы отряды Чудновского и Ауссема. Эта группировка войск послужила основой 4-й армии.
Приказ Антонова-Овсеенко, полученный Киквидзе 9 марта, гласил: удерживать Гребенку как можно дольше, чтобы не дать немцам выровнять фронт по железной дороге Гомель — Черкассы, и вывести из-под удара красные отряды в Золотоноше и Бах-маче. Главком рекомендовал: «Действуйте налетами, обходами, партизанскими группами, мужицкой войной».
Киквидзе так и действовал…
Посланные Антоновым-Овсеенко подкрепления опоздали, но все же почти неделю киквидзевцы и экипаж бронепоезда под командованием легендарной Людмилы Макиевской сдерживали натиск превосходящих сил немцев, обеспечивая эвакуацию Гребенки. В последней контратаке Киквидзе и его помощник Медведовский были легко ранены одной и той же пулей.
После двух недель непрерывных боев Киквидзе отвел свой сильно поредевший отряд к Полтаве.
Короткую передышку Василий Исидорович (Васо его теперь называли только несколько старых друзей, да и то не на людях) использовал, чтобы дать небольшой отдых бойцам, поднять их настроение перед новыми боями. Как-то, проезжая во главе эскадрона орденцев мимо старой шведской могилы, Киквидзе, взмахнув плетью, громко сказал:
— Тут, на этом месте, предки наши остановили уже однажды незваных чужеземных гостей. Наша задача, товарищи, подготовить для немцев не одну такую могилу! И мы это сделаем! Пусть знают враги, как ходить на нашу землю!
Однажды на окраине города приземлились два советских самолета. Все отправились туда. Самолеты оказались старыми, латаными-перелатаными английского происхождения истребителями «ньюпор». Возле них прохаживались летчики — молодые статные ребята, с ног до головы одетые в кожу, с большими очками-консервами на круглых шлемах. Под ногами мельтешили, визжа от восторга, должно быть, все мальчишки Полтавы.
Завидев подходивших командиров, летчики побросали цигарки и представились. Это были прославленные впоследствии герои гражданской войны, удостоенные соответственно трех и двух орденов Красного Знамени, — И. У. Павлов и А. К. Петренко.
Киквидзе расцеловал обоих пилотов, с любопытством осмотрел, покачивая головой, самолеты, спросил, чем может быть полезен. Петренко передал Киквидзе пакет и от имени своего командира изложил просьбу — помочь бензином, спиртом и… касторкой.
Василий Исидорович оторопел:
— Бензин — без него самолет не летает, спирт — тоже понимаю, без него летчику летать скучно, скажи — для чего касторка нужна? Животом болеете?
Летчики долго смеялись. Объяснили, что спирт и касторка нужны им не для личного пользования. Просто по тем временам эти продукты представляли из себя ценные ГСМ — горюче-смазочные материалы.
Теперь настала очередь смеяться Киквидзе. Отсмеявшись, приказал: выделить авиаотряду из взятых трофеев 300 пудов бензина и 50 пудов спирта. Надо сказать, что Киквидзе, чьим любимым литературным героем был Рахметов, придерживался почти аскетических правил: мало ел, не курил, в рот не брал спиртного. Пьянства не терпел, весь попадающий в отряд спирт шел только в медсанчасть, поэтому с излишком этой жидкости Киквидзе расставался без малейшего сожаления.
Сложнее оказалось с касторкой. Таковой среди трофеев не было. Тогда Киквидзе самолично отправился с летчиками в город, обошел аптеки и больницы и реквизировал именем революции всю имевшуюся в наличности касторку, заметив при этом, что, поскольку ожидаются сильные бои, можно обойтись и без слабительного.
Летчик Петренко впоследствии еще не раз прилетал к Киквидзе (уже в дивизию), выполнял по его заданиям разведывательные полеты над территорией противника.
…Под Полтавой сильные бои не состоялись. 29 марта обескровленные советские войска перед угрозой полного уничтожения превосходящими силами интервентов, взорвав мосты, переправы и водокачки, оставили город и перешли на левый берег Воркслы.
Цель продолжающегося немецкого наступления была очевидна — Харьков с его крупнейшими заводами и главным железнодорожным узлом всего юга России.
Утратив связь с соединениями своих соседей — Р. Ф. Сиверса и Г. К. Петрова, Киквидзе принял решение оборонять Харьков со стороны Богодухова. В предыдущих боях 4-я армия потеряла почти половину бойцов, последние дни сражались чуть ли не в полном окружении. Киквидзе поставил в строй всех ездовых и поваров, легкораненые вернулись сами.
Тяжелые потери понесли и другие советские части. Получил контузию и едва не погиб опытный командир Григорий Петров, в прошлом прапорщик, в будущем один из двадцати шести бакинских комиссаров. Пал в бою Григорий Чудновский, герой штурма Зимнего, делегат Второго Всероссийского съезда Советов. С группой бойцов Григорий оказался в окружении. Они отстреливались пять часов. Расстреляв все патроны, Чудновский последнюю пулю пустил себе в сердце…