Жители Самарии (бывшие граждане северного царства и депортированные туда ассирийцами народы), услышав о начале строительства второго Храма, пришли к Зоровавелю и предложили присоединиться к работе. Но жрец Иисус и Зоровавель отправили северян прочь, резко сказав, что «не строить вам вместе с нами дом нашему Богу» (Ездра 4:3). Фракция, которая сохранилась в изгнании, теперь была уверена, что она получила божественное право на определение характера иудейской традиции.
Обидевшись, «народ земли той» стал препятствовать работам, и даже написал письмо персидскому царю, обвиняя иудеев том, что те «строят мятежный и негодный город», и предупредив, что «если этот город будет построен и стены восстановлены, то ни подати, ни налога, ни пошлины не будут давать, и царской казне сделан будет ущерб. … не будет у тебя владения за рекою» (Ездра 4:12–16). Получив это письмо, персидский царь остановил строительные работы в Иерусалиме.
Но Зоровавель и Иисус всё равно продолжили работу. И когда персидский наместник провинции проведал о ней и пришёл осмотреть место, то он спросил, кто дал распоряжение начать строительство. Его отослали к первоначальному указу Кира. Согласно книге Ездры, после этого наместник написал новому царю Дарию для царского решения. Дарий поручил ему не только продолжить работу, а также покрыть все расходы из царской казны, снабдить Храм животными для жертвоприношений и наказать всех, кто будет пытаться помешать исполнению царского указа. Строительство Храма завершилось в 516 году до н.э. Так началась эпоха иудаизма периода Второго Храма.
Прошёл другой тёмный период более половины столетия, когда книжник Ездра из рода первосвященника Аарона пришёл в Иерусалим из Вавилона (вероятно, в 458 году до н.э.). «Он был книжник, сведущий в законе Моисеевом, который дал Господь Бог Израилев… Потому что Ездра расположил сердце своё к тому, чтобы изучать закон Господень» (Ездра, 7:6, 10). Ездра был послан, чтобы навести справки «об Иудее и Иерусалиме» для персидского царя Артаксеркса, который поручил ему взять с собой из Вавилона дополнительную группу еврейских изгнанников, которые хотели вернуться туда. Персидский царь снабдил Ездру денежными средствами и судебной властью. Прибыв в Иерусалим с последней волной репатриантов, Ездра был потрясён, узнав, что народ Израиля, в том числе жрецы и левиты, не отделили себя от мерзостей своих соседей. Они свободно вступали в брак и смешивались с народом той земли.
Ездра немедленно приказал всем репатриантам собраться в Иерусалиме:
Затем весь народ Иуды и Вениамина собрался в Иерусалиме… И сидел весь народ на площади у дома Божия… И жрец Ездра встал и сказал им: «Вы сделали преступление, взяв себе жён иноплеменных, и тем увеличили вину Израиля. Итак, покайтесь пред Господом Богом отцов ваших, и исполните волю Его, и отлучите себя от народов земли и от жён иноплеменных». И отвечало всё собрание, и сказало громким голосом: «Как ты сказал, так и сделаем». … И сделали так вышедшие из плена.
Затем Ездра, одна из наиболее влиятельных фигур библейских времён, исчезает со сцены.
Другим героем того времени был Неемия, виночерпий или высокопоставленный чиновник персидского царя. Неемия услышал о плачевном состоянии дел в Иудее и об ужасном состоянии Иерусалима. Глубоко потрясённый этими новостями, он попросил у персидского царя Артаксеркса разрешения отправиться в Иерусалим и восстановить город своих предков. Царь выдал Неемии разрешение и назначил его на должность наместника. Вскоре после прибытия в Иерусалим (около 445 года до н.э.) в ночное время Неемия отправился осмотреть город, а потом призвал народ принять участие в больших общественных работах, чтобы восстановить стены Иерусалима, чтобы «не страдать больше от позора». Но когда соседи Иудеи — лидеры Самарии и Амона, и арабы юга — узнали о планах Неемии по укреплению Иерусалима, они обвинили иудеев в подготовке восстания против персидской власти и планировали напасть на город. Тем не менее, работы на стенах продолжились до их завершения. Неемия также активно участвовал в исполнении социального законодательства, осуждая тех, кто извлекал выгоду, и выступая за возвращение земли беднякам. В то же время он выступал против женитьбы на иностранках.