Однако через два года из большого зернохранилища Лияна (современный уезд Сюнь провинции Хэнань), пришло известие о том, что министр Министерства церемоний Ян Сюанган, поднял восстание. Император Суй Ян-ди был настолько удивлен, что воскликнул: «Как и он смог бунтовать?» Ян Сюанган, был старшим сыном старого министра Ян Су, который был доверенным человеком императора, кто же мог подумать! После того, как Ян Су умер, Ян Сюаньган унаследовал титул гогуна царства Чу третий из 9-ти почетных феодальных титулов. VI–XVII вв. н. э.) и стал министром Министерства церемоний. Он же высокопоставленный и властный, как он мог восстать против императора? Оказалось, что многие чиновники давно стали недовольны императором Суй Ян-ди, Ян Сюаньган чувствовал, что император Суй Ян-ди потерял доверие людей, и хотел воспользоваться возможностью народного сопротивления, чтобы заставить его отречься от престола. Поэтому под предлогом спешного снабжения армии зерном он отправился в Лоян, чтобы связаться с местными моряками и перевозчиками зерна и приготовится к восстанию.
Как только инициатива была выдвинута, то действительно получила отклик. Для участия пришли несколько младших братьев, родственников и друзей Ян Сюаньгана, а также многие высокопоставленные чиновники и их дети. Эти люди были богатыми и влиятельными, им не составляло труда собрать 100 тысяч солдат и лошадей. Был один человек по имени Ли Ми, сын знаменитого генерала Ли Куана, который был очень близок к Ян Сюаньгану, он пришел ему на помощь, сказав: «Воевать непосредственно против Цзянду — это лучшая тактика, наступать на Чанъань — средняя тактика, а воевать против Лояна тоже возможно, но это нужно делать быстро, неумная тактика». Ян Сюаньган сказал: «Лоян рядом, как я могу это упустить? Ваша „неумная тактика“ является на самом деле лучшей тактикой». Он решил сначала сразиться с Лояном, вывел своих солдат и генералов за город, поклявшись: «Как придворный чиновник, я обладаю большим состоянием, чего еще мне надо, сегодня я рискую своей жизнью и честью предков, собираю армию, это только для того, чтобы спасти народ». Жители окрестностей были тронуты услышанным, послали мясо и вино, чтобы утешить солдат. Тысячи их сыновей присоединились к армии. Лоб Ян Сюаньгана озарился радостью, и он приказал начать осаду города.
Внутри страны царил хаос, император Суй Ян-ди был вынужден вывести свои войска и мобилизовать несколько армий для осады Ян Сюаньгана. Ян Сюаньган не умел управлять сражениями и не мог захватить Лоян более месяца, поэтому он сдал Лоян и отправился в Гуаньчжун, чтобы сражаться за Чанъань. Войска императора Суй Ян-ди со всех сторон преследовали и перехватывали Ян Сюаньгана, вскоре окружили его, рассеяв его людей так, что в конце концов он и десяток его последователей остались одни. Со слезами на глазах Ян Сюаньгана сказал своему младшему брату Ян Цзисаню: «Если восстание не увенчалось успехом, я должен умереть. Но я не могу позволить, чтобы меня поймали и унизили, поэтому убей меня!» Ян Цзисань убил брата мечом и нанес удар себе, но не умер, а был пойман и убит.
Хотя восстание Ян Сюаньгана было неудачным, он дал возможность повсеместно восставшим армиям ответить на восстание, многие восстали, захватив территории и переставая подчиняться приказам династии Суй. В армии повстанцев были три крупнейшие силы. Часть находилось в Хэбэе, и ее лидером является Доу Цзяньдэ. Доу Цзяньдэ руководил своими людьми в течение нескольких лет и постепенно организовал армию численностью более 100 тысяч человек, называя себя князем царства Чанлэ и совершая походы во всех направлениях, чтобы захватить большую часть территории Хэбэя. Еще одна сила находилась в Цзяннани под руководством Ду Фувэя. Ду Фувэй был родом из Чжанцю в Цичжоу (современныйЧжанцю, провинция Шаньдун), но после восстания он повел своих людей на юг и захватил несколько городов, включая древнюю столицу Даньян (современный Нанкин, провинция Цзянсу), что привело к покорности многих местных жителей. Он прямо установил режим и мир.
Самой сильной силой была армия Вагана на срединной равнине (гора Ваган находится в уезде Хуа, провинция Хэнань). Предводителя ваганской армии звали Чжай Жан, семья которого жила неподалеку. Вначале он был мелким чиновником, но позже был осужден за преступление и, благодаря помощи друга, отправился на гору Ваган и организовал повстанческую армию. Ваган находился недалеко от Хуанхэ, многие из повстанцев были рыбаками и охотниками, которые хорошо умели сражаться. Имея достаточно припасов, он выиграл несколько сражений и вскоре прославился. К армии Вагана присоединились многие способные люди, такие как Сюй Маогун (Сюй Шибо, позже переименованный в Ли Цзи), Шань Сюнсинь, Ван Бодан, Вэй Чжэн, Пэй Жэньцзи, Цинь Шубао, Ло Шисинь, Чэн Бяоцзинь и многие другие. Эти люди были либо хороши в планировании и разработке стратегии, либо умели сражаться в бою и оказали большую услугу армии Вагана. Однако более поздний роман «Троецарствие» добавил много сфабрикованных героических поступков и преувеличил действия этих людей.