Выступающие в поддержку 'Али и ши'итов группировки существовали уже при его жизни, обретя особенно много сторонников в Куфе на Евфрате, среди кочевых арабов-воинов, преимущественно из южноарабских племен. Куфа — место, где в ранней истории ши'изма происходило множество событий, — служила также временной столицей 'Али во время его короткого и бурного халифата. В этот период гражданской войны и внутриобщинного противостояния авторитету 'Али как халифа был брошен вызов Му'авийей б. Аби Суфйаном, полновластным правителем Сирии, который преуспел и привел свой аристократический мекканский клан бану умаййа к руководству мусульманской общиной. Продолжительная вражда между 'Али и Му'авийей породила движение: хаваридж, которое позднее выступило как оппозиция и суннитам и ши'итам.
Вскоре после убийства 'Али в 40/661 году большинство мусульман, за исключением ши'итов и хариджитов, признало Му'авийю новым халифом. Он стал родоначальником первой мусульманской династии Омейадов, правивших около века (41—132/661—750). Ко времени Му'а-вийи объединенная мусульманская умма первых десятилетий исламской истории раскололась на несколько партий, каждая из которых по-своему толковала, кого следует считать правомочным руководителем (халифата или имамата) общины и в чем должна состоять его моральная ответственность. Эволюция взглядов на указанные проблемы привела к тому, что эти группировки выделились в отдельные общины. В число сторонников Му'авийи, которые отвергли халифат 'Али, входили также приверженцы принципов раннего халифата, особенно прав не-хашимитов, первых сподвижников Пророка по халифату. Сторонники 'Али, ши'ат 'Али, воспринимавшие себя как ши'ат ахл ал-байт, отвергали претензии Му'авийи на лидерство; их целью было восстановление законного имамата в общине через хашимитов, членов клана Пророка, и, в частности, через сыновей 'Али. Хариджиты же, занимавшие весьма жесткие позиции, противостоя другим общинам, придерживались строгих исламских эгалитарных принципов, утверждая, что каждый достойный мусульманин, принадлежащий к любой этнической группе или племени, может быть выбран законным главой, или имамом, общины путем широкого всенародного голосования. Их целью было установление такой «исламской демократии», которая бы исключала возможность передачи административной власти и духовного руководства на основе родоплеменного или наследственного права.
Первые ши'иты, сосредоточенные в Куфе, пережили убийство 'Али и череду трагических событий, последовавших при Омейадах. После 'Али ши'иты признали своим имамом его старшего сына ал-Хасана. Однако он вовсе не стремился к какой бы то ни было политической деятельности, как во времена своего недолгого правления халифатом, так и после отречения от него и подписания мирного договора с Му'авийей. После смерти ал-Хасана в 49/669 году надежды ши'итов на восстановление халифата Алидов, возглавлявшегося теперь их следующим имамом, ал-Хусайном, вторым сыном 'Али и Фатимы, ожили. Они настойчиво приглашали ал-Хусайна в Куфу, чтобы поднять восстание против Омейадов, и в конце концов внук Пророка поддался на эти уговоры. Трагическое мученичество ал-Хусайна и его соратников у Кербелы, неподалеку от Куфы, где в 61/680 году армия Омейадов устроила резню, сыграло важную роль в формировании ши'итского эпоса, а также привело к появлению радикальных течений среди самих ши'итов. Самым первым течением подобного типа стало движение ал-Мухтара, который в 66/685 году, открыто восстав, завоевал Куфу. Мстя за убийство ал-Хусайна, ал-Мухтар предпринял свое выступление от имени третьего сына 'Али и сводного брата ал-Хусайна Мухам-мада, известного как Ибн ал-Ханафийа (его мать была родом из племени ханифа). Ал-Мухтар объявил Ибн ал-Ханафийю Махди, «божественно руководимым» имамом, спасителем-мессией и реставратором истинного ислама, который призван восстановить справедливость на земле и избавить угнетенных от тирании.
Новая эсхатологическая концепция имама Махди оказалась особенно притягательной для мавали — неарабов, обращенных в ислам, которые режимом Омейадов рассматривались как мусульмане второго сорта, то есть как переходная категория между арабами мусульманами и гражданами немусульманами исламского государства. Именно в Куфе и других городках окрест нее был сосредоточен большой и не имеющий привилегий социальный класс, который нуждался в течении, основанном на эгалитарных законах ислама. Мавали здесь служили основой для пополнения любого движения, находящегося в оппозиции к исключительно арабской гегемонии Омейадов и их социальной структуре. Примкнув к движению, организованному ал-Мухтаром и опирающемуся на концепцию Махди, мавали оказались вовлечены в ши'итское движение. Многочисленными группами они переходили на сторону ал-Мухтара, называя себя «ши'ат ал-Махдп», или «Партией Махди». Успех ал-Мухтара был недолгим из-за появления сильной коалиции, направленной против его сторонников и представляющей интересы Омейадов и других групп арабской племенной аристократии. И тем не менее движение ал-Мухтара пережило в 67/687 году его смерть и кончину в 81/700 году Ибн ал-Ханафийи, который лично не играл в нем активной роли. Вплоть до переворота Абба-сидов оно продолжало играть центральную роль в раннем ши'изме под общим названием «кайсанийа».