Этот план был ударом по самым сокровенным чаяниям евреев. Им казалось немыслимым — как воскрешение тела без души — возрождение в Палестине еврейского государства без Иерусалима. Два тысячелетия живя в рассеянии, евреи повторяли: «Если я забуду тебя, Иерусалим, забудь меня десница моя» и «В будущем году — в Иерусалиме». Главная стена любой синагоги в диаспоре была всегда обращена к востоку — в сторону Иерусалима. Жених-еврей на свадьбе раздавливал каблуком стакан, выражая этим своё горе по поводу разрушения Храма. В традиционных словах, которыми евреи утешали друг друга в беде — «Да утешит Господь тебя и всех страждущих Сиона и Иерусалима», — содержалось упоминание о Святом городе. Само слово «сионизм», обозначающее движение за возвращение евреев на свою древнюю родину, было образовано от названия горы Сион, находящейся в Иерусалиме.
Помимо всех этих эмоциональных причин, были у евреев чисто практические и сугубо стратегические соображения, не позволявшие им расстаться со Святым городом. Две трети жителей Иерусалима были евреями; они составляли шестую часть всего ишува — т.е. еврейского населения Палестины. Получив Иерусалим и коридор, ведущий от него к морю, еврейское государство могло бы контролировать всю Иудею — сердце Палестины. А без Иерусалима еврейское государство рисковало стать всего лишь крошечным анклавом, прилепившимся к Средиземному морю.
Под нажимом Ватикана католические государства Латинской Америки намекнули палестинским евреям, что они проголосуют за раздел Палестины только при условии интернационализации Иерусалима. А евреи понимали, что без поддержки латиноамериканских стран им никогда не собрать в ООН достаточного количества голосов в пользу плана раздела Палестины. С тяжёлым сердцем евреи вынуждены были согласиться. Ради того, чтобы создать наконец еврейское государство, ишув готов был пожертвовать даже Иерусалимом.
Несмотря на то, что евреи лишались Иерусалима, план раздела Палестины позволял еврейскому народу — и прежде всего шестистам тысячам евреев Палестины — воплотить в жизнь заветную мечту десятков поколений: создать своё государство на Святой Земле.
В конце XIX века, после того как евреи два тысячелетия провели в странах рассеяния, венский журналист Теодор Герцль написал небольшую брошюру под названием «Еврейское государство». «Те евреи, которые этого захотят, — писал Герцль, — будут иметь своё государство». Так зародился сионизм. В 1897 году в швейцарском городе Базеле собрался первый Сионистский конгресс, на котором Герцль официально провозгласил начало сионистского движения. Делегаты Конгресса выбрали руководящие органы сионистского движения, учредили Еврейский национальный фонд для покупки земли в Палестине и национальный банк, утвердили флаг и гимн сионистского движения. Флаг был бело-голубой (цвета талита — ритуального покрывала, которое надевается во время молитвы). В качестве гимна Конгресс выбрал еврейскую песню, которая называлась «Ҳа-Тиква», что на иврите означает «надежда». Была торжественно объявлена цель сионистского движения — создание в Палестине национального очага, существование которого будет признано международными органами.
Однако евреи никогда полностью и не оставляли палестинской земли. Небольшие колонии евреев всегда сохранялись в Цфате, Тверии и Галилее. Как и в других странах, больше всего они терпели от христиан. Ранние христиане изгоняли евреев из Иерусалима, а крестоносцы сжигали иерусалимских евреев в синагогах живьём.
Мусульманские правители Палестины были терпимее. Халиф Омар не преследовал евреев. Султан Саладин позволил им вновь селиться в Иерусалиме. Оттоманская Турция разрешила некоторому количеству евреев из других стран переселяться в Палестину. Английский филантроп сэр Мозес Монтефиоре в 1880 году построил первый в Иерусалиме еврейский квартал за пределами Старого города. К концу XIX века из пятидесяти тысяч жителей Иерусалима тридцать тысяч были евреи. Волна погромов, прокатившаяся по России в начале XX века, побудила многих русских евреев переехать в Палестину. Эти иммигранты были первыми пионерами сионизма, и позднее именно из их рядов выдвинулись выдающиеся руководители сионистского движения и еврейского государства. Среди них был девятнадцатилетний Давид Грин из польского города Плонска, позднее взявший фамилию Бен-Гурион, что значит «Сын львёнка».
Во время Первой мировой войны, в 1917 году, британский министр иностранных дел Артур Джеймс Бальфур написал знаменитое письмо лорду Уолтеру Ротшильду, в котором заявил, что «правительство Его Величества благожелательно относится к проекту создания в Палестине национального очага еврейского народа». Это письмо, названное «Декларацией Бальфура», содержало, впрочем, одно условие: создание еврейского национального очага не должно ущемлять гражданских и религиозных прав других народов, живущих на территории Палестины. После окончания войны обязательства, содержащиеся в «Декларации Бальфура», вошли как составная часть в условия мандата на управление Палестиной, вручённого Великобритании Лигой Наций.