Однако после смерти Сунь Ятсена противоречия между КПК и Гоминьданом стали обостряться. 30 мая 1925 г. расправа над участниками демонстрации в Шанхае привела к тому, что КПК хотела выйти из Гоминьдана, однако это предложение Генерального секретаря Чэнь Дусю тогда не было поддержано ВКП (б) и Коминтерном.
Дальнейшие действия КПК определялись на основе резолюции Исполнительного Комитета Коминтерна (ИККИ) "По вопросу о положении в Китае" от 1926 года. В ней практически не учитывалась китайская специфика: наличием в стране огромных масс крестьянства и почти полное отсутствие рабочего класса. В этих условиях установки на завоевание гегемонии пролетариата, аграрную революцию и некапиталистическую перспективу развития Китая выглядели утопией.
В апреле 1927 г., после успеха Северного похода, новый глава Гоминьдана Чан Кайши совершил контрреволюционный переворот, организовав расправу над революционерами, в том числе — коммунистами. КПК ушла в подполье, где в апреле-мае 1927 г. состоялся её V съезд. В августе 1927 г. под руководством Чжоу Эньлая, Чжу Дэ, Хэ Луна, Е Тина и Лю Бочэна в Наньчане было организовано вооруженное восстание. КПК взяла курс на аграрную революцию и организацию новых вооруженных восстаний. В сентябре 1927 г. на границе провинций Хунань и Цзянси под руководством Мао Цзэдуна было организовано восстание “осеннего урожая” и сформирована Красная армия, которая создала там революционную базу Цзинганшань. Против этой базы Гоминьдан предпринял три военных похода.
В то время как Гоминьдан боролся против КПК, в 1931 г. Япония захватила Северо-Восточный Китай, создав на оккупированной её войсками территории марионеточное государство Маньчжоу-го, не признанное Лигой Наций. В это время Чан Кайши уже при поддержке советников из Германии предпринял новую кампанию по окружению и подавлению Центральной революционной базы в Цзянси. В октябре 1934 г. Красная армия была вынуждена оставить Цзянси и совершить Великий поход длиной 12500 км по суровым в климатическом отношении районам страны, преследуемая противником по пятам. В результате численность Красной армии сократилась с 300 до 30 тыс., а КПК — с 300 до 40 тыс. человек. В январе 1935 г. КПК провела в Цзуньи (провинция Гуйчжоу) расширенное совещание Политбюро ЦК КПК, на котором Мао Цзэдун впервые возглавил КПК и Красную армию Китая. В октябре 1935 г. Красная армия вышла в Северо-Западный Китай и создала там опорную революционную базу Шэньси-Ганьсу-Нинся со столицей в Яньане.
Поворотным пунктом в войне против Японии стали “сианьские события”. В декабре 1936 г. Северо-Восточная армия под командованием Чжан Сюэляна и 17-я армия под командованием Ян Хучэна были направлены в Северо-Западный Китай, но под влиянием антияпонских настроений масс Чжан Сюэлян и Ян Хучэн приняли предложение КПК о едином антияпонском фронте и арестовали отказавшегося пойти на это Чан Кайши. В это время в Сиань прибыла делегация КПК во главе с Чжоу Эньлаем для проведения переговоров для урегулирования инцидента, в результате чего Чан Кайши был освобожден и вернулся в Нанкин. Так начался второй период сотрудничества между Гоминьданом и КПК, где примиряющим обе стороны фактором стала необходимость противостоять японской агрессии.
Летом 1937 г. японские войска предприняли военное вторжение во внутренние районы Китая. КПК выступила за единый антияпонский фронт, при этом Гоминьдан обеспечивал военные операции на основных фронтах, а КПК организовывала партизанские действия. Национально-освободительная война китайского народа против японского империализм закончилась только в августе 1945 г., когда Советский Союз разгромил вооруженные силы Японии на территории Китая.
Несмотря на подписанное в Чунцине в октябре 1945 г. соглашение между КПК и Гоминьданом о предотвращении гражданской войны, в июле 1946 г. Гоминьдан при поддержке США их союзников начал военные действия против коммунистов, закрепившихся на севере страны и получавших всестороннюю помощь от Советского Союза. КПК удалось привлечь на свою сторону крестьян благодаря лозунгу “каждому пахарю — свое поле”, который неуклонно реализовывался на всех подконтрольных коммунистам территориях. Кроме того, на стороне КПК наряду с рабочими и крестьянами выступили средняя и мелкая буржуазия. Всё это, несмотря на поддержку со стороны США, Великобритании и Франции, ускорило политический и экономический крах Гоминьдана на территории континентального Китая. К концу 1949 г. под контроль правительства провозглашенной 1 октября 1949 г. в Пекине Китайской народной республики и его Народно-освободительной армии (НОАК) перешел весь континентальный Китай за исключением Тибета, а Чан Кайши и его приспешники бежали на Тайвань, куда были перенесены все структуры власти Китайской Республики.