Экстремизм Бакунина не пошел ему на пользу: Герцен отказался принять его в соредакторы «Колокола». К тому же разгоревшееся польское восстание 63-го года окончательно сделало невозможным совместную работу этих столь непохожих друг на друга людей. Бакунин ринулся в восстание, видя в нем пролог к русской, а затем и всеславянской революции. Сначала он пытался организовать в Польше русский легион; потом отплыл из Англии на пароходе «Ward Jackson», отправлявшемся с добровольцами и оружием к литовскому берегу. Экспедиция закончилась провалом и гибелью значительного числа ее участников. Эти неудачи расстроили планы Бакунина и практически уничтожили его надежды на организацию всеславянской федерации. Революционер начинает новый этап свой жизни: вместе с прибывшей к нему из России женой он отправляется в Италию, где живет до 1867 года.
Именно в эти годы происходит отказ от панславистских убеждений и коренной пересмотр всей идейной базы, а также тактики Бакунина. Именно в эти годы он закладывает основы своего анархического учения, сближается с революционной итальянской молодежью, выступает в итальянской прессе, составляет устав задуманного им всемирного тайного революционного общества, которое должно было покрыть все страны сетью своих отделений для подготовки всемирной революции. В качестве ядра Бакунин создает в Италии тайное братство.
Еще в 1864 году, встретившись в Лондоне с К. Марксом, Бакунин был принят в Интернационал, получил от Маркса устав и учредительный адрес и уехал в Италию, обещав способствовать деятельности Международного товарищества рабочих. Однако он продолжал преследовать свои собственные цели, прилагая усилия в основном для борьбы со сторонниками Дж. Мадзини и работая над созданием тайной организации, целью которой стали бы «радикальное упразднение всех существующих религиозных, политических, экономических и социальных организаций и учреждений и новообразование сначала европейского, а затем и всемирного общества на основах свободы, разума, справедливости и труда». В 1867 году Бакунин появляется в Женеве на съезде буржуазной Лиги мира и свободы, где проходит в Центральный комитет Лиги. Принимая участие в ее работе, Бакунин переносит в Швейцарию свое тайное международное братство, для которого вербует сторонников различных революционных партий и течений, особенно тех, кто не согласен с мнением руководителей. Однако параллельно в июне 1868 года он вступает в Женевскую секцию Интернационала. На II Конгрессе Лиги он внес ряд радикальных предложений, которые были отвергнуты; тогда Бакунин с 18 своими сторонниками вышел из Лиги и образовал «Международный альянс социалистической демократии» с анархической программой. По мысли своих создателей, Альянс должен был вступить в Интернационал, сохранив свою программу, структуру и даже отдельные конгрессы. Конечно, Генеральный совет Интернационала отверг этот вариант, выступив против Бакунина и его детища. Официально Альянс был распущен, однако ядро наиболее верных приверженцев тактики Бакунина осталось вокруг своего создателя. Критикуя Интернационал за однобокость в подходе к вопросу борьбы за права трудящихся, Бакунин считал свою организацию более мобильной, жизнеспособной и как следствие ответственной за руководство рабочими. Поэтому можно без преувеличения сказать, что последующая история Интернационала была заполнена борьбой между течениями, которые возглавлялись, с одной стороны, К. Марксом и М.А. Бакуниным – с другой. Лишившись журнала «Народное дело» (1868), который со второго номера перешел в руки весьма грязной в моральном плане личности – Николая Исааковича Утина, выставлявшего себя последователем Маркса, Бакунин развил лихорадочную деятельность, редактируя периодическое издание «Egalite», он рассылает своим друзьям в разные страны много писем, пишет целый ряд статей, привлекает к себе сторонников в Швейцарии (самый выдающийся из них – Джемс Гильом, написавший историю Интернационала с точки зрения анархистов), Италии, Испании, Франции. Увлекая людей обаянием своей действительно выдающейся личности, славной историей своего прошлого, Бакунин сплотил вокруг себя те политические силы, которые не примкнули ни к марксистскому течению, ни к более умеренным демократам. Максимализм Бакунина, требовавшего немедленного уничтожения государства, немедленной организации революции, отрицавший период длительной и систематической организации рабочего движения, нашел отклик среди тех рабочих и представителей мелкой буржуазии, которые в более сильной степени страдали от слоновьей поступи того «дикого» капитализма, который действительно калечил судьбы десятков тысяч людей, не оставляя им ни выбора, ни надежд на лучшее будущее. Не случайно его идеи поддержали в Испании, Италии – наиболее отсталых странах Европы того времени. Бакунин полагал, что чернорабочие и крестьяне этих государств, как и России, готовы вступить в революцию. Нужен только сигнал… «Мы призываем анархию, – писал он, – убежденные, что из этой анархии, то есть полного выражения разнузданной народной жизни, должна выйти свобода, равенство, справедливость, новый порядок». Увы, это было заблуждение открещивавшегося от своего класса бунтаря, желавшего порой быть «народнее» народа. Вместе с тем, признавая мудрость стихийной революционности масс, Бакунин по-прежнему хотел внести сюда элемент организованности, но не сверху, а как бы снизу, через создание тайных обществ. Когда же, по его плану, революция начнет побеждать во всемирных масштабах, то все страны организуются на новых принципах свободы снизу вверх и объединятся путем революционной федерации, не считаясь с национальными границами и различиями. При этом неизбежно должно было образоваться новое всемирное «отечество – Союз Всемирных Революций против союза всех реакций». Несмотря на все антигосударственные настроения Бакунина, он никогда не отказывался от организующего начала. Именно поэтому он прочил на роль руководителя свою тайную организацию, которая противопоставлялась Международному союзу рабочих.