Конфликт между малочисленными последователями Мухаммеда и язычниками обострился тогда, когда «пророк» выступил против почитаемых мекканских божеств. Со временем конфликт начал выливаться в потасовки и преследования.
Известен эпизод, когда во время диспута на религиозные темы одного из последователей Мухаммеда и язычника, мусульманин, не имея аргументов, схватил лежащую рядом верблюжью кость и ударил ее острым концом своего оппонента, и серьезно ранил. Эта выходка и многое другое заставила элиту Мекки принять решение об уничтожении Мухаммеда, а также его сторонников. Некоторые мусульмане, которые находились в рабстве у язычников, были убиты или замучены, но самому Мухаммеду ничего не угрожало, так как он находился под покровительством своего рода. К главе рода Абу Талибу неоднократно приходили главы других родов и просили его снять защиту рода с Мухаммеда, предлагали ему разные варианты, однако, он не соглашался. Тогда мекканцы провозгласили бойкот роду хашим, но Абу Талиб остался непреклонен.
По мере обострения отношений в течение двух лет открытой проповеди Мухаммед счел необходимым отослать в христианскую Абиссинию тех верующих, которые вызывали наибольшее раздражение. Состоялась эта первая хиджра в 615 г. При этом некоторые сподвижники Мухаммеда, переселившиеся в Абиссинию, узнав христианство, крестились (например, Убайдаллах ибн Джахиз).
Самому Мухаммеду по-прежнему не угрожали гонения. Когда остальные курайшиты объявили бойкот роду хашим, и это не заставило Абу Талиба изменить свою позицию. За это время умерла Хадиджа. Положение ухудшилось в 619 г, когда умерли Абу Талиб, несмотря на уговоры племянника так и оставшийся язычником, а также глава рода Ха-диджи. Преемником Абу Талиба становится другой дядя Мухаммеда Абу-Суфиан, который впоследствии стал его самым заклятым врагом, он снимает покровительство рода с Мухаммеда. Отчасти это было вызвано тем, что Мухаммед сказал, что поскольку его дядя Абу Талиб не принял ислам, то после смерти он отправится в ад.
Мухаммед пытается выйти на проповедь за пределы Мекки — в соседнем городе Таифе, но первая попытка не увенчалась успехом, и возвеститель новой религии был забросан камнями.
Вообще, в целом можно признать, что Мухаммед как проповедник был совершенно несостоятелен. Кроме поражения в Таифе, в самой Мекке он за десять лет не смог приобрести достаточно заметное число сторонников, а из горстки обратившихся многие были обращены не им, а его сторонником, уважаемым в Мекке торговцем Абу Бакром. Для сравнения: старший современник Мухаммеда и пророк-конкурент Маслама без труда смог обратить всех жителей своего родного города Иемамы.
Тогда Мухаммед принимает решение о переселении в город Ясриб или Медину в качестве третейского судьи, куда его приглашали представители племен, населявших город. Ясриб погрязал в междоусобных войнах и распрях между родами племени бану кайла, а также тремя иудейскими племенами. Их представители пригласили Мухаммеда и его общину поселиться в Медине в надежде, что присутствие мусульман окажет стабилизирующее воздействие. Вероятно, это было связано с тем, что мать Мухаммеда, Амина, происходила из Ясриба. После двух лет переговоров с мединцами, часть из которых также приняла ислам, Мухаммед решается на вторую хиджру. Летом 622 г. около 70 членов его общины устремились в Ясриб. Так что, когда 4 сентября Мухаммед вместе со своим другом Абу Бакром также прибыл в Ясриб, он нашел там личную охрану из мухаджиров (переселенцев). Мединские мусульмане назывались ансарами (помощниками). По прибытии Мухаммеда была построена первая мечеть.
Жители Медины вняли просьбам Мухаммеда и приняли на свое иждивение мусульман из Мекки. Однако так долго не могло продолжаться, ансары сами были небогаты, и община не могла существовать в нищенских условиях. Необходимо было в сжатые сроки обеспечить экономическую независимость иммигрантов, которые лишись всего имущества.