В 1923 году Жуков становится командиром кавалерийского полка, а затем и кавалерийской бригады.
В 1924 году он был послан на учебу в Ленинград в недавно созданную Высшую кавалерийскую школу. Впоследствии Маршал Советского Союза И.Х.Баграмян вспоминал: «Георгий Константинович Жуков среди слушателей нашей группы считался одним из наиболее способных. Он уже тогда отличался не только ярко выраженными волевыми качествами, но и особой оригинальностью мышления. На занятиях по тактике конницы Жуков не раз удивлял нас какой-нибудь неожиданностью. Его решения всегда вызывали наибольшие споры, и он обычно с большой логичностью умел отстаивать свои взгляды».
Военное образование Жуков завершил на курсах высшего начсостава при Академии им. М.В.Фрунзе, которые он окончил в 1930 году.
В первой половине 1930-х годов Жуков командовал дивизией и корпусом. В эти же годы он заслужил доверие наркома обороны К.Е.Ворошилова и был награжден орденом Ленина.
1 июня 1939 года заместитель командующего Белорусским военным округом комдив Жуков был вызван в Москву к наркому обороны. Ворошилов сообщил Жукову, что он назначается командующим 1-й армейской группой советских войск в Монголии. Войска находились там по просьбе правительства Чойбалсана для защиты Монголии от посягательства Японии. Еще 1 июня со стороны Советского Союза было официально объявлено о том, что «границу Монгольской народной республики мы будем защищать как свою собственную». Суть советской дальневосточной политики заключалась в сдерживании старого противника на дальних рубежах в районе реки Халхин-Гол.
Впервые Жукову были предоставлены неограниченные полномочия при ведении боевых действий. Вместе с Жуковым в Монголию прибыла и группа слушателей военных академий. Их он намеревался использовать в качестве своеобразного резерва для замещения командиров, не справлявшихся со своими задачами. На Халхин-Голе Жуков испробовал и другую форму воздействия на подчиненных, впоследствии ставшую традиционной, – расстрелы за невыполнение приказов. Такими методами он в кратчайший срок не только навел дисциплину в армейской группе, но и воспитал офицеров, которым потом мог доверять любое дело. По-жуковски они были решительны, тверды и могли действовать даже в самых чрезвычайных обстоятельствах.
За такой же короткий срок Жуков сумел разработать и план своей первой самостоятельной операции.
Незадолго до ее начала он обратился к Сталину с предложением первым перейти в наступление и получил на это согласие.
Наступление готовилось в строжайшей тайне, и никто из подчиненных Жукова не имел представления об общем замысле командующего. Красноармейцы и большая часть офицеров готовились к обороне, не представляя, что их ждет переход на территорию противника.
Жуков задумал окружение 6-й японской армии. Войскам центра предстояло сдерживать японские войска, а ударным фланговым группировкам, не ввязываясь в затяжные бои, обойти очаги сопротивления и сомкнуться в тылу противника.
При подготовке операции Жуков учитывал малейшие детали. Полевые аэродромы были вынесены далеко вперед, что позволяло не только экономить топливо, но и в кратчайший срок нагружаться боеприпасами. Ближе к передовой были вынесены базы снабжения и полевые госпитали, что также позволяло экономить время при ведении боевых действий.
В ходе подготовки наступления Жуков запретил пользоваться радиосвязью. Связь осуществлялась по проводам специальными позывными.
Наступление началось 15 августа 1939 года.
В 5 часов 45 минут началась авиационная и артиллерийская подготовка, а затем – наступление танковых группировок. В ходе наступления оборона противника была прорвана, и уже через трое суток японские войска были окружены и разгромлены.
Победу на Халхин-Голе можно назвать и предтечей «блицкрига», и предтечей Сталинграда. Эта победа принесла Жукову славу, но она же в определенной степени явилась причиной его будущих неудач в предстоявшей войне с Германией. Но, во всяком случае, это была первая победа Красной Армии после конфликта на КВЖД в 1929 году. Жуков получил за нее звание Героя Советского Союза, производство в генералы армии и назначение на пост командующего Киевским особым военным округом – самым мощным округом Советского Союза. Ко времени возвращения Жукова из Монголии относится и его личное знакомство со Сталиным.
В 1940 году новый командующий получил первое поручение вождя – подготовить для Политбюро доклад на тему «Характер современной наступательной операции». Становилось очевидным, что, несмотря на заключенный пакт Молотова – Риббентропа и договор о дружбе и границе, именно Германия станет будущим противником СССР в новой войне.