1 октября 1918 года он добровольно вступает в ряды Красной Армии и становится рядовым 4-го Московского кавалерийского полка. Весной 1919 года его принимают в ряды РКП(б). В январе 1920 года он направляется на курсы красных командиров, которые, с перерывом для выполнения боевой задачи, закончил в августе 1920 года. Был командиром сабельного взвода. Затем командовал кавалерийским эскадроном. Участвовал в подавлении крестьянского восстания под руководством А.С. Антонова в Тамбовской губернии. За боевые заслуги в 1921 году был награжден орденом Красного Знамени.
В августе 1922 года Г.К. Жуков был назначен помощником командира 40-го кавалерийского полка, с июля 1923 года – командиром 39-го кавалерийского полка 7-й кавалерийской дивизии, которой командовал Н.Д. Каширин. В 1925 году он оканчивает одногодичные Ленинградские кавалерийские курсы усовершенствования командного состава (ККУКС), где учился вместе с К.К. Рокоссовским и И.Х. Баграмяном.
После окончания курсов был назначен командиром кавалерийского полка в 3-м кавалерийском корпусе, которым командовал С.К. Тимошенко. В 1930 году он проходит обучение на Курсах усовершенствования высшего начальствующего состава в Москве (КУВНАС). Именно к этому времени относится выход в свет труда заместителя начальника штаба РККА В.К. Триандафиллова «Характер операций современных армий», в котором были рассмотрены основные принципы качественно новой теории глубокой наступательной операции. Г. К. Жуков стал одним из рьяных сторонников теории наступления.
С мая 1930 года Г.К. Жуков командовал кавалерийской бригадой в 7-й Самарской кавалерийской дивизии, командиром которой был К.К. Рокоссовский. Именно К.К. Рокоссовский, давая служебную характеристику Г.К. Жукову, писал, что тот органически ненавидит штабную службу и совершенно не приспособлен к ней.
В феврале 1931 года Георгий Константинович назначается помощником инспектора кавалерии РККА, которую в то время возглавлял С.М. Буденный. С марта 1933 года он командует кавалерийской дивизией имени К.Е. Ворошилова, которая считалась лучшей в легендарной Первой Конной армии. В августе 1936 года «за выдающиеся заслуги в боевой и политической подготовке дивизии» он награждается орденом Ленина.
Репрессии 1937 и 1938 годов, обескровившие высший эшелон РККА, Г.К. Жукова не коснулись. В своих мемуарах он аккуратно обходит эту тему стороной. Но нужно понимать, что командиру образцового кавалерийского соединения в стороне от этого процесса остаться не удалось. Тем более что были осуждены и расстреляны его начальники и командиры М.Н. Тухачевский, И.П. Уборевич, А.И. Егоров, В.К. Блюхер, Н.Д. Каширин, В.М. Примаков, Г.Д. Гай и многие другие. В своей автобиографии Георгий Константинович писал: «Связи с врагами народа я никогда не имел и не имею. Никогда у них не бывал и у себя никогда их не принимал… Связь с Уборевичем, Мезисом и другими врагами народа из командования округа была только чисто служебная…» В то же время из политдонесения следует, что Г.К. Жуков «был приближенным Уборевича, во всем ему подражал, особенно по части издевательства над людьми».
С июля 1937 года Г.К. Жуков – командир 3-го кавалерийского корпуса, а с февраля следующего года – 6-го казачьего корпуса. В июне 1938 года он назначается заместителем командующего войсками Белорусского военного округа по кавалерии.
Первым испытанием полководческого таланта Г.К. Жукова стал Халхин-Гол в 1939 году. К тому времени японское командование подтянуло к границам Монголии 38 тыс. солдат и офицеров, 310 орудий, 135 танков, 10 бронемашин, 225 самолетов. Эта группировка имела задачу внезапным ударом окружить и уничтожить советско-монгольские части и захватить на западном берегу реки Халхин-Гол оперативный плацдарм для последующих действий. Создав значительный перевес сил (по пехоте и артиллерии – в 3 раза, кавалерии – в 4,5 раза), японцы были уверены в скорой и решительной победе. Их командование даже пригласило в район боев корреспондентов и военных атташе иностранных государств, в том числе Германии и Италии. 2 июля японские войска перешли в наступление и ночью форсировали реку Халхин-Гол.
Советско-монгольское командование вынуждено было привлечь к отражению агрессии все наличные силы. В районе горы Баин-Цаган развернулось трехсуточное встречное сражение, в котором с обеих сторон участвовало около 400 танков и бронемашин, более 300 орудий и несколько сот самолетов. Ударная группировка японских захватчиков, прижатая к реке, была разгромлена. Враг потерял почти все танки, значительную часть артиллерии, 45 самолетов и около 10 тыс. человек. Однако 4 июля противник повторил атаку. После четырехдневного кровопролитного боя японские войска, потеряв еще 5,5 тыс. человек убитыми и ранеными, вынуждены были отойти. Однако, несмотря на крупные неудачи и потери, японское командование упорно придерживалось своих агрессивных замыслов в Монголии и к началу августа нарастило свою группировку до 65 тыс. человек, которую поддерживали до 500 артиллерийских орудий, 182 танка и более 300 самолетов.