Захватив Шанхай, японская армия двинулась на Нанкин — резиденцию правительства Гоминьдана. Для обороны города правительство Китая стянуло в данный район наиболее боеспособные части. Бои за Нанкин носили крайне ожесточенный характер. Только после мощной, разрушившей город бомбардировки 7 декабря 1937 года японские войска сумели через пять дней ворваться в Нанкин. Они устроили там кровавую резню, в которой погибло 50 тыс. жителей.
В боях за свою столицу китайские войска потеряли все танки, самолеты и артиллерию. Тем не менее гоминьдановская армия не прекратила сопротивления. Более того, в апреле 1938 года китайские войска сумели временно остановить натиск с севера и нанести японцам поражение при Тайэрчжуане. 200-тысячная китайская армия окружила в данном районе 60-тысячную японскую группировку. Лишь после тяжелых боев японцам, потерявшим убитыми треть личного состава и значительную часть техники, удалось пробиться из окружения и отступить на север. Однако эта первая крупная победа китайской армии не остановила японского наступления. В конце июня 1938 года северная и южная японские группировки соединились, добившись полного контроля над железной дорогой Пекин — Нанкин.
Теперь японцы двинулись на запад, вдоль реки Хуанхэ. Для отражения этого натиска китайцы затопили на сотни километров долину реки Хуанхэ, сорвав тем самым наступление японских войск, которые потеряли в воде множество танков и другой техники. Тогда японское командование изменило направление главного удара, направив его в сторону города Ханькоу, бывшего в то время резиденцией Чан Кайши. Битва за Ханькоу стала одной из самых кровопролитных за время японо-китайской войны. Решающую роль в ней сыграла имевшая безусловное превосходство в воздухе японская авиация. Благодаря ее ударам японские войска 25 октября 1938 года сумели захватить город. Правительство Чан Кайши перебралось в Чунцин.
В это же время японский морской десант захватил порт Гуанджоу — южные ворота Китая. Кроме того, на китайском побережье были захвачены основные порты, что исключало снабжение этой страны со стороны моря. В результате Китай был блокирован с моря. Однако продолжали существовать три канала снабжения войск Чан Кайши: через Бирму, Индокитай и советскую Среднюю Азию. С помощью этих каналов китайская армия снабжалась вооружениями и боеприпасами, что не позволило японцам одержать над ней верх.
Под контролем японцев к концу 1941 года находилась территория с населением в 215 млн чел. Для ослабления Китая японское руководство стремилось к его расчленению. На оккупированных территориях действовали марионеточные власти: в Северо-Восточном Китае — правительство бывшего китайского императора Пу И, в Нанкине — правительство Ван Цзинвея, во Внешней Монголии — правительство князя Дэвана, в Пекине — политический совет во главе с Ван Итаном. Впрочем, и противостоящие Японии силы не отличались единством. Часть неоккупированной территории подчинялась правительству Гоминьдана, часть — коммунистам, а ряд районов вообще никому не подчинялись.
Хотя китайцы потеряли крупнейшие порты, важнейшие промышленные и сельскохозяйственные районы, их армия не была разгромлена. Основная стратегическая цель японского командования — уничтожение китайской армии — не была достигнута. Китайские войска отошли на новые рубежи обороны, сохранив материальную часть. В то же время положение японской армии в Китае ухудшилось. Фронт растянулся, войска оторвались от баз снабжения, возросла угроза тылам со стороны партизан.
Дальнейшие наступательные операции японцев в 1939–1941 годах не принесли существенных результатов. Китайское командование весьма успешно применяло тактику, рассчитанную на действия в условиях больших расстояний и бездорожья против небольшой, но хорошо вооруженной армии. Пользуясь своим численным превосходством, китайские войска концентрировались на основных путях продвижения японских сил, создавая своего рода «пробки» из живой силы. Японский натиск наталкивался на сопротивление огромной человеческой массы. Поскольку японская армия имела военно-техническое превосходство, китайские войска в конце концов, отступали. Однако за это время они разрушали мосты и дороги, что приводило к невозможности дальнейшего использования противником своей техники. Силы японцев изматывались, а темпы их наступления замедлялись. В этот момент китайские войска наносили контрудар и, как правило, вынуждали японцев, коммуникации которых плохо работали или вовсе перерезались, к отходу. Например, с помощью такой тактики китайская армия одержала победу при Чанше (1939).