Между тем нараставшая конфронтация между фарисеями и Александром Яннаем в конечном счете привела к гражданской войне в Иудее, которая продолжалась не менее шести лет (94–88 гг. до н. э.). Поводом к восстанию против царя послужил его неудачный поход против набатейцев (потомков мидьянитян – западносемитских кочевых племен). Вероятно, к сторонникам фарисеев присоединилась часть как иудейской аристократии, так и храмовых священников, не признававших прав Хасмонеев на царский престол и первосвященство. В ходе братоубийственной войны погибло не менее 50 тысяч иудеев. Ненависть фарисеев к Яннаю была столь велика, что, «когда тот спросил, как умилостивить народ, ему ответили: “Умереть, хотя и смерть после таких злодейств едва ли сможет примирить!” Столкнувшись с невозможностью одолеть Янная своими силами, фарисеи и их сторонники пошли на опрометчивый шаг: они призвали на помощь селевкидского царя Деметрия III Эвкера. Тот, «в надежде на более отдаленные последствия, охотно откликнулся на зов и явился со своим войском» (Флавий, Иуд. война, I, 4, 4). Решающее сражение между армией Янная, с одной стороны, и объединенными силами греко-сирийцев и иудеев – с другой произошло в районе города Шхем (Сихем) в Самарии. Войско Янная, в численном отношении в два раза уступавшее своим противникам, проиграло битву и вместе с царем укрылось в горах Эфраима. Однако и победителям не пришлось торжествовать победу. Среди иудеев, сражавшихся вместе с Деметрием, произошел раскол, и часть из них покинула греко-сирийский лагерь. Да и сам Деметрий был вынужден поспешить обратно в Сирию, потому что там появились претенденты на его трон. Лишившись союзника, фарисеи и их сторонники потерпели поражение. Мстительный Яннай, вернувшись в Иерусалим, приказал писидийским и киликийским наемникам (из Малой Азии), известных своей свирепостью, казнить 800 пленных фарисеев, но перед этим изрубить их жен и детей на их же глазах. Как сообщает Флавий, «сам Александр созерцал эту кровавую резню, пиршествуя в сообществе своих наложниц. Народ охватил такой панический страх, что в следующую же ночь 8000 противников царя поспешили покинуть Иудею, и только смерть Александра положила конец их вынужденному изгнанию» (Флавий, Иуд. война, I, 4, 6). Так закончилась гражданская война, но мира и покоя в стране не было вплоть до конца царствования Янная.
Александр Яннай умер в 76 г. до н. э. во время одного из своих военных походов в Заиорданье, и, хотя он имел двух взрослых сыновей, Гиркана и Аристобула, предпочел завещать царство не им, а их матери и своей жене, Саломее Александре. Флавий повествует о решении Янная и царствовании Саломеи Александры следующим образом: «Правление он оставил своей жене Александре в том убеждении, что ей народ будет повиноваться охотнее, так как она не принимала никакого участия в зверских расправах мужа, а, напротив, постоянно противодействовала его беззакониям, чем и приобрела себе доверие иудеев. Надежда его не обманула. Слава благочестия, которой эта женщина пользовалась, доставила ей господство. Она строго соблюдала старинные народные обычаи и устранила от дел нарушителей священных законов. Из двух сыновей, прижитых ею с Александром, она произвела в первосвященники Гиркана, так как он был старший и притом слишком вял для того, чтобы участие его в делах правления могло сделаться для нее опасным. Младшего же, Аристобула, отличавшегося пылким характером, она заставила удалиться в частную жизнь. Ближайшее участие в правлении при ней приняли фарисеи… Богобоязненная Александра была им очень преданна; они же, пользуясь ее простотой и вкрадываясь мало-помалу в ее доверие, вскоре сделались фактическими правителями, изгоняя и милуя, освобождая и заточая всех, кого им заблагорассудилось. Одним словом, они наслаждались всеми выгодами правления, а Александра несла его тяжести и расходы. Впрочем, она сама была занята более важными делами. Набирая все больше и больше войска внутри страны и вербуя немало наемников извне, она вдвое увеличила вооруженные силы своего государства и сделалась даже страшной для соседних царей. Так она господствовала над другими, а над нею самой фарисеи (Флавий, Иуд. война, I, 5, 1–2).