Через неделю Ирод отправился домой. Ему предстояло вырвать свое царство из рук соперника, человека, который в глазах большинства иудеев был законным царем, — хасмонея Антигона. Римские войска, посланные в помощь Ироду, были подкуплены Антигоном и выполняли свои обязанности спустя рукава. Ирод мог надеяться лишь на войско из наемников и добровольцев, с которым появился у ворот Иерусалима. Антигон согласился отречься только в пользу кого-нибудь из своих хасмонейских родственников. А если трон перейдет к Ироду, то разговора не будет. На осаду Ирод не решился. Он дождался, пока Антоний оказал ему поддержку армией, возглавляемой достойным главнокомандующим Соссией.
К тому времени он сам уже располагал большим войском. Люди присоединялись к нему потому, что Ироду не раз уже сопутствовала удача, успех притягивает как магнит. Иосиф Флавий пишет: «Добрая память о его отце, его личная слава, признательность за оказанные ими обоими благодеяния — все это привлекало к нему местных жителей, но большая часть людей присоединялась к нему вследствие сложившегося у них убеждения в том, что престол достанется Ироду; таким образом, вокруг него образовалось отборное, войско. Антигон, хотя и преследовал его, устраивая засады в удобных местах, но вреда не причинял ему никакого или самый незначительный».
И вот наступила весна 37 года до н. э. Ирод выдвинул войско к вратам Иерусалима и стал готовиться к осаде.
Пока он ждал римского подкрепления, сыграли свадьбу с Мариамной. Иосиф Флавий написал, что так Ирод свою женитьбу превратил в эпизод иерусалимской осады, ибо давно уже он презирал своих врагов. Белыми одеждами жениха и невесты, свадебными свечами и факелами, однако, не удалось отпугнуть силы тьмы, которые кружились над головами новобрачных… Бракосочетание с представительницей хасмонейского рода имело политический смысл. Ирод рассчитывал посеять сомнение среди сторонников Хасмонеев: пусть даже некоторые по-прежнему поддерживают Антигона, зато другие отнесутся более терпимо к Ироду, если он соединится брачными узами с внучкой Гиркана.
Римская армия, пришедшая на помощь Ироду, состояла из множества всадников и больших отрядов сирийских наемников, да и собственные силы Ирода были немалыми. Но город представлял собой лабиринт стен с многочисленными опорными пунктами. Осада длилась почти пять месяцев. В день решающего штурма осажденные окружили Храм и впали в религиозный экстаз. Более практичные рыли подкопы. Идейные сторонники Антигона держались до последнего, они прекрасно понимали, что их ждет, попади они в руки беспощадного Ирода.
Иерусалим пал осенью 37 года до н. э. Храм и верхний город взяли штурмом, и началась резня. Не щадили ни женщин, ни детей, победители убивали, насиловали и грабили, выплескивая свою ярость за долгую осаду на всякого, кто попадался им на глаза. При штурме несколько фрагментов Храма были сожжены, а дворы залиты кровью. Самое страшное могло случиться, если бы опьяненные победой и кровью чужеземцы вошли в Храм и осквернили его. Этого Ирод не мог допустить — не только потому, что сам относился к Храму как к святыне, но и потому, что этого евреи ему бы никогда не простили. Ирод попытался остановить грабеж, ему удалось ввести собственные войска на территорию Храма. Он бросился к командующему римскими войсками Соссию и крикнул, что если разгул римских воинов сейчас же не прекратится, то ему, Ироду, придется царствовать в пустыне. Соссий возразил, что воины нуждаются в компенсации за свою работу, и тогда Ирод раздал им деньги из своих средств. Это спасло Храм от разорения. Антигона казнили по велению Антония. Затем все, кто оказали поддержку Ироду, были щедро вознаграждены. Ирод сделал Антонию богатый подарок, на который переплавили столовое царское золото.
В бою под Иерихоном погиб и еще один брат Ирода, Иосиф. Он пренебрег указанием Ирода и, как пишет Иосиф Флавий, «вышел собирать урожай в середине лета»: римский союзник Ирода, Махера, был ненадежен, а набранные римлянами в Сирии новые воины — неопытны. Иосиф двинулся к Иерихону. В горах и непроходимых местах его настиг неприятель. После ожесточенного сопротивления Иосиф пал в этой битве, и вместе с ним погиб весь римский корпус, который состоял из новичков, недавно набранных в Сирии, к ним не было приставлено никого из римлян, из так называемых ветеранов, которые могли бы поддержать неопытных воинов. Антигон изуродовал труп Иосифа. Благодаря усилиям Ирода, армию Антигона оттеснили в сторону Иерусалима, вскоре там произошла битва в том месте, где теперь проходит дорога Иерусалим — Наблус. Ирод одержал победу, но, если верить историческим хроникам, чудом избежал смерти. Ирод после боя в сопровождении одного слуги отправился в баню, где прятались неприятельские воины. Они в замешательстве разбежались, не тронув безоружного царя. Хотя возможно, что это только один из тех мифов, которыми уже начинала обрастать неординарная фигура Ирода.