Когда вслед за завоеваниями Александра Македонского примерно в 332 году до н. э. Иудея попала под власть греков, эллинские цари относились к Храму с уважением и посылали туда богатые дары. Отношение селевкидских правителей к Храму резко изменилось в правление Антиоха IV Эпифана в 175–163 годах до н. э. В 169 году до н. э. на обратном пути из Египта он вторгся на территорию Храма и конфисковал драгоценные храмовые сосуды. Два года спустя он осквернил его, поставив на жертвенник всесожжения небольшой алтарь Зевса Олимпийского. Храмовая служба была прервана на три года и возобновлена после захвата Иерусалима Иудой Маккавеем в 164 году до н. э. С этого времени храмовая служба велась без перерывов.
На территории Храма действовали особые законы. Здесь, например, разрешалось играть на музыкальных инструментах даже в субботу. Музыку исполняли также и левиты. Духовые инструменты извещали о переходе к очередному ритуалу.
В народном сознании Иерусалимский Храм являлся местом пребывания Божественного присутствия и единственным местом жертвоприношения Богу. Путем храмового жертвоприношения и сопровождающего его очищения искупались грехи как отдельного человека, так и всего народа, что способствовало духовному очищению и моральному совершенствованию Израиля. Храмовый культ рассматривался как источник благословения не только для евреев, но и для всех народов мира.
Во время правления Ирода Храм посещали огромные толпы молящихся, их число возрастало во время праздников. Возникла необходимость увеличения площади на вершине Храмовой горы, облегчения доступа к ней, приведения их в соответствие с великолепием других общественных и частных сооружений, уже возведенных в городе к тому времени. К началу царствования Ирода Второй Храм простоял 500 лет, и хотя за ним тщательно ухаживали, он нуждался в капитальном ремонте. Ирод задумал перестройку Храма, который простоит века, прославит его, обеспечит бессмертие, а также даст возможность занять почетное место рядом с Храмом. Ироду была совершенно чужда религиозная духовность, но он испытывал вину за то, что при взятии города нанес святому месту повреждения, и хотел их исправить. Этим жестом он также надеялся улучшить отношения с духовными лидерами иудеев, он хотел, чтобы как можно большее количество его подданных могли участвовать в жертвоприношениях, молитвах и публичных лекциях, а также приятно проводить время вблизи Храма. Были у Ирода комплексы в отношениях с Богом — мазохистское ощущение своего ничтожества и бессилия перед ним. В сознании Ирода Бог — властный, строгий, ему надо рабски поклоняться, чувствуя в то же время себя хозяином над своими рабами. В вертикали власти, с точки зрения Ирода, Бог был из того же ряда, что и римляне, только намного выше. Перестройкой Храма Ирод хотел убедить Всевышнего в своем к нему особом уважении.
Ирод к тому времени приобрел большой строительный опыт. Неплохое экономическое положение страны и мирный период благоприятствовали грандиозной стройке, которую он задумал. Ирод начал строительство, не получив согласия Рима. По совету мудрецов он послал гонца в Рим с просьбой разрешить строительство Храма. Гонец не спеша поехал через Кипр и Родос, не застал императора в Риме, последовал к вилле императора, попросил аудиенцию, прождал год. Через год с лишним император принял гонца, прочел послание и ответил: «Если не начал строительство — не начинай. Если только начал — сломай. Если достроил — ладно, пусть стоит». Снова не торопясь поехал гонец в Палестину и вернулся, когда Храм уже был достроен.
В 1968 году правительство Израиля совместно с министерством религии постановило производить исследования вдоль Стены Плача, оставшейся от Храма, возведенного царем Иродом. Большая часть Стены находилась под землей. Современный город продолжал жить своей жизнью, и это препятствовало раскопкам. К тому же, существовали разногласия с мусульманами. Поэтому до 60-х годов XX века исследовали памятники истории различных столетий, находящиеся в отдельных частях Иерусалима, и практически не производили послойные раскопки Старого города. После произведенных исследований, законченных в 1985 году, представилась возможность получить общую картину строений Стены Плача и понять их назначение.