Осенью 1096 года на Восток наконец двинулись вооружённые отряды европейских рыцарей. Они более основательно подготовились к походу, запасшись деньгами, вооружением, продовольствием. Рыцарское ополчение состояло из нескольких частей. Во главе рыцарей из Лотарингии стоял герцог Готфрид Бульонский и его брат Балдуин. Рыцарей северной Франции возглавил нормандский герцог Роберт. Ополчение южной Франции шло под предводительством графа Раймонда Тулузского. Рыцарями из южной Италии руководил Боэмунд Тарентский. Все эти абсолютно самостоятельные ополчения, руководители которых преследовали свои корыстные цели, сопровождали новые толпы крестьян. За войсками тянулись огромные обозы.
В Византию эти отряды двигались разными путями — одни пошли по той же рейнско-дунайской дороге, другие отправились берегом Адриатического моря, а норманны южной Италии отплыли к Константинополю на кораблях. Весной 1096 года все они наконец соединились у стен столицы империи. Сразу же между командирами крестоносных воинств начались конфликты и склоки за право первыми переправиться на азиатский берег, за право верховного командования. С первого же момента не сложились отношения и с греческими властями. Крестоносцы вели себя вызывающе, грабили жителей окрестностей Константинополя, отбирая у местного населения продукты для своих армий. После длительных переговоров с императором последнему удалось добиться от европейцев вассальной присяги, хотя бы формально подчинявшей всё войско интересам империи. Алексей II, как и год назад, поспешил переправить неукротимое воинство на ту сторону Босфора, обязав крестоносцев вернуть все те владения Византии, которые они отвоюют у турок. Однако с самого начала было ясно, что обе стороны вряд ли сдержат свои обещания и не нарушат условия договора.
Переход через гористые районы Малой Азии оказался непредвиденно тяжёлым. Рыцари не были готовы ни к климатическим условиям, ни к характеру ведения боевых действий на Востоке. Турки, отступая, опустошали всё вокруг, поэтому крестоносцам приходилось терпеть не только жару, но и ужасный голод и жажду. По пути многие из них избавлялись от ненужного груза, бросая на дороге страшно раскалявшиеся под знойными лучами южного солнца доспехи и оружие.
Передышка наступила, лишь когда войско достигло армянского христианского княжества в Киликии. После этого часть войска отделилась от общей массы и, несмотря на все демарши византийских представителей, захватила армянский же город Эдессу, лежавший на пути из Месопотамии в Сирию. Там было основано первое крестоносное государство на Ближнем Востоке — графство Эдесское, во главе которого стал Балдуин (Бодуэн) Фландрский. После чего большая часть крестоносных сил двинулась на юго-запад к большому и богатому городу Антиохия. На осаду этой хорошо укреплённой крепости было затрачено больше года, и лишь измена начальника гарнизона позволила европейцам в 1098 году захватить его. Взятие Антиохии сопровождалось страшной резнёй, во время которой погибли не только мусульмане, но даже и часть христиан, проживавших в нём. Здесь было основано второе государство — княжество Антиохийское, во главе которого стал Боэмунд Тарентский.
Своей заветной цели — Иерусалима — крестоносцы достигли лишь весной 1099 года. После непродолжительной осады и яростного штурма Священный город пал. Резня, которую они устроили после взятия города, превзошла по своей жестокости антиохийскую. Даже участники похода и латинские авторы, писавшие об истории этого времени несколько десятилетий спустя и, безусловно, оправдывавшие действия своих соотечественников, не умолчали о десятках тысяч мусульмане том числе женщинах и детях, которые были убиты после завершения штурма, не найдя спасения даже в мечетях. В городе была захвачена огромная добыча. “После великого кровопролития, — писал один из участников похода, — крестоносцы разбрелись по домам горожан, захватывая всё, что в них находили. Всякий, кто входил в дом первым... присваивал и самый дом или дворец, и всё, что в нём находилось, и владел всем этим как собственным”. Жестокость, которую крестоносцы проявили в Иерусалиме, потрясла и ожесточила весь мусульманский мир.