Мирные паломничества европейских христиан к Святым местам начались задолго до крестовых походов. Иерусалим стал местом паломничества с тех пор, как святая Елена нашла вблизи него Святой Крест, на котором был распят Христос, и Камень Помазания, куда возложили снятого с Креста Иисуса, а ее сын, император Константин, воздвиг комплекс церковных зданий Гроба Господня на месте Его казни. В начальный период существования ислам отличался терпимостью, и мусульмане сохранили часть церквей на землях, отнятых у христиан, разрешали богослужение и не препятствовали паломникам. Карл Великий, обменявшийся несколькими посольствами с халифом Аббасидом Харун ар-Ратидом, посылал в начале IX в. деньги на восстановление и строительство новых церквей и монастырей в Палестине. С тех пор всех западных европейцев латинского обряда, вне зависимости от происхождения, на Ближнем Востоке стали звать франками. В Западной Европе твердо знали, что мусульмане овладели Святой Землей насильственно и христиане имеют неотъемлемое право на Иерусалим, а также серьезно верили легенде, что Карл Великий совершил туда паломничество.
При Фатимидах, овладевших Палестиной во второй половине X в., терпимое отношение к христианам не изменилось. Однако при халифе аль-Хакиме, «жестоком фанатике и яростном безумце», в начале XI в. начались гонения на христиан. Он приказал разрушить церковь Гроба Господня в Иерусалиме, объясняя это тем, что чудо схождения Благодатного Огня в Страстную субботу перед Пасхой является безбожным обманом.
Полоса терпимости, наступившая после его смерти, увеличила число паломников, а византийские императоры начали восстанавливать разрушенную церковь Гроба Господня. Восстановление было завершено императором Константином Мономахом в 1046 г., христианский квартал Иерусалима, так же как церковные здания при Гробе Господнем, был огражден каменной стеной. Однако после раскола христианской церкви византийские чиновники стали облагать налогом паломников с Запада, возможно, по требованию императора, им было запрещено входить в церковь Гроба Господня, и более трехсот католиков в 1056 г. были выселены из Иерусалима. Однако вскоре ограничения были сняты, и до последнего десятилетия XI в. количество паломников с Запада непрерывно росло.
Увеличению числа паломников способствовали ожидание конца света и Страшного суда, осознание обществом греховности, стремление к благочестию, аскетизму, к духовным подвигам, усилившиеся в связи с Клюнийской церковной реформой. Теперь паломничество к Святым местам стало назначаться во искупление великих грехов. Обычно тысячи паломников ежегодно отправлялись в Испанию, в Сантьяго-де-Компостела, к гробнице апостола Иакова, Истребителя мавров, стекались в Рим к гробницам апостолов Петра и Павла, к местопребыванию папы, многие из них затем отправлялись в Константинополь, чтобы поклониться тамошним богатейшим реликвиям, но главные святыни — Гроб Господень и Святой Крест — находились в Святой Земле, «где ступала нога Господня», и путь в Иерусалим лежал через Константинополь. Помимо тяжелых лишений, вызванных бездорожьем и жарким климатом, паломники подвергались по дороге разбойничьим нападениям турок, арабов и бедуинов, так что немудрено, что большая их часть обратно не возвращалась. Военное господство турок в Анатолии сделало опасным сухопутные путешествия, и паломники вынуждены были теперь добираться из Константинополя до Иерусалима морем.
Среди знатных паломников в Палестину в XI в. можно выделить следующих. Граф Фульк III Черный Анжуйский, обвиненный в убийстве жены и других убийствах, трижды в первой половине XI в. отправлялся на богомолье в Святую Землю; однажды во время молитвы у Гроба Господня приказал подвергнуть себя бичеванию, в религиозном экстазе откусил кусок камня от святой гробницы, привез его на родину и поместил в аббатстве Бойе близ Лоша. Герцог Робер Дьявол Нормандский, отец Вильгельма Завоевателя, обвиненный в отравлении брата и отлученный от церкви за пренебрежение женой, отправился в сопровождении большой свиты в Иерусалим и умер в 1035 г. в Никее на обратном пути. В 1054 г. трехтысячный отряд из Фландрии епископа Камбре Литбера, названный «войском Божьим», почти весь погиб, истребленный болгарами и голодом. Епископ, не добравшись до Иерусалима, должен был из Сирии возвратиться домой. В 1064 г. в Святую Землю отправился семитысячный отряд немцев под руководством Гюнтера, епископа Бамбергского. Потеряв в лишениях и в боях с разбойниками-бедуинами в Палестине на пути к Иерусалиму большую часть отряда, в том числе и предводителя, немцы добрались до Иерусалима, где были торжественно встречены патриархом. «Из семи тысяч отправившихся вернулось меньше двух тысяч», — говорит источник. Из других знатных паломников в конце XI в. следует отметить графа Робера I Фриза Фландрского и графа Беренгария Барселонского.