Еще в Женеве вместе с Лениным, М.Н. Лядовым, М.М. Литвиновым и некоторыми другими Богданов был избран в Бюро комитетов большинства – новый орган, который должен был функционировать наряду с Центральным Комитетом РСДРП в качестве своего рода верховного органа большевистской фракции и некоторое время спустя стал известен как Большевистский центр. В России Богданов вопреки оппозиции меньшевиков ведет подготовку III съезда партии, состоявшегося в Лондоне 25 апреля – 10 мая 1905 года. Богданов был избран в Центральный Комитет наряду с Лениным и Л.Б. Красиным; одновременно его назначили главным ответственным за литературную работу Центрального Комитета в России. В Петербурге он представлял Центральный Комитет в первом Совете рабочих депутатов и вместе с Красиным занимался организацией боевых партийных групп (боевая техническая группа), которые позднее примут участие в пресловутых экспроприациях, организованных большевиками на Урале и на Кавказе для пополнения партийной кассы. В октябре 1905 года Богданов вместе с Красиным, Румянцевым, Горьким, Базаровым, Луначарским и Лядовым основал в Петербурге первую легальную ежедневную газету большевиков – «Новая жизнь».
Уже благодаря тому, что Богданов находился в России с самого начала революции, он был более осведомлен о ее ходе, чем Ленин, вернувшийся на родину лишь в ноябре 1905 года. Более того, в этот период Богданов был известен в рабочей среде настолько шире, чем Ленин, что в 1905 году его считали вождем большевиков. Арестованный вследствие роспуска в декабре 1905 года Петербургского совета, он на IV съезде партии, проходившем в Стокгольме в апреле 1906 года, был избран, находясь еще в тюрьме, членом Центрального Комитета. После освобождения в мае следующего года он поселяется вместе с женой, Лениным и Крупской в деревенском доме в Куоккала в Финляндии неподалеку от русской границы. Здесь Богданов выполняет функции связного между Центральным Комитетом и большевиками – депутатами Второй думы. На V съезде РСДРП, проходившем в Лондоне в мае 1907 года, он выступает с блестящими докладами по проблемам организации и практики руководства, а также, и главным образом, по проблемам литературной пропаганды. В отличие от Ленина его вновь избирают в Центральный Комитет. Кроме того, он – член Большевистского центра, который создал руководство «Пролетария» и определял впоследствии тактику большевиков.
Этот последний момент и стал яблоком раздора. Разрыв Ленина с Богдановым коренится в оценке политической ситуации, сложившейся после роспуска Второй думы в сентябре 1907 года. Разногласия развернулись по вопросу об участии в выборах в Третью думу: использование ее трибуны для социал-демократической пропаганды – ленинское положение – или же концентрация усилий на новом революционном восстании и бойкот выборов в Думу, олицетворявшую псевдо-конституционный режим, неспособный предоставить революционному большевизму какую-либо возможность действовать, – богдановское положение. В результате дискуссии, после того как на Всероссийской конференции в августе 1907 года четырнадцать из пятнадцати большевистских делегатов высказались в пользу Богданова, он возглавил партийную фракцию в Советах, а Ленин вступил в соглашение с меньшевиками, которые с самого начала предлагали тактику использования минимальных легальных возможностей, существовавших в России.
Тактика бойкота, поддерживаемая, помимо Богданова, Луначарским и Г.А. Алексинским (большевик – депутат Второй думы), пользовалась широким успехом среди рабочих, которые в своей массе воздержались от участия в выборах и последовали призыву Богданова готовиться к вооруженному восстанию. Но когда надежды на немедленный революционный взрыв рухнули, бойкот выборов в Думу, казалось, потерял всякое значение, несмотря на то что на одной из районных конференций большевиков, проходившей в Москве в мае 1908 года, было выражено крайне критическое мнение относительно деятельности социал-демократов в рамках Думы. Часть делегатов, в том числе Станислав Вольский, поддерживали мнение о бесполезности иметь своих депутатов (собственно, потому, что думские депутаты от РСДРП были в основном меньшевиками) и потребовали их отзыва (отсюда – «отзовисты»). Другая часть, возглавляемая Богдановым, Алексинским и В.Л. Шанцером (Марат), требовала, чтобы Центральный Комитет в ультимативной форме дал указание социал-демократам – депутатам Думы признать партийную дисциплину и безоговорочно соблюдать решения Центрального Комитета (отсюда – «ультиматисты»).