С окончанием летних работ Михаил Иванович покидает Верхнюю Троицу. Дорога в Петербург была для него закрыта: полиция постаралась бы не упустить его на этот раз. Ведь едва он успел уехать в деревню весной 1908 года, как к Ивановым нагрянули полицейские. Михаил Иванович решает перебраться в Москву, где охранка его не знала.
Среди московских большевиков
В августе 1908 года Калинин приезжает в Москву. Первое время он работает помощником сменного монтера на Лубянской электростанции, позднее — дежурным монтером на Миусской трамвайной подстанции. Устанавливает связи с большевиками.
Московская партийная организация сильно поредела с осени 1907 года, когда были арестованы члены Бутырского и Железнодорожного райкомов партии, весь состав Московского комитета РСДРП во главе с секретарем А. Любимовым, а также участники партийных районных собраний в Лефортове, Сокольниках, на Рогожской заставе, в Замоскворечье. В феврале 1908 года была разгромлена типография, где печаталась газета «Борьба». Но московские большевики продолжали бороться, используя любые возможности. Они поддерживали связь с Заграничным большевистским центром, с Лениным.
Появление Калинина в Москве в такой момент, когда в городской партийной организации каждый человек на счету, было очень кстати. Около двух лет он вел нелегальную революционную работу среди московских пролетариев. Активно участвовал в деятельности большевистской фракции профсоюза рабочих и служащих городских предприятий. На Миусской подстанции усилиями местной большевистской ячейки был устроен склад нелегальной литературы и спрятаны некоторые части подпольной типографии. Здесь Михаил Иванович работал вместе с П. Г. Смидовичем, числившимся техником. Будучи дежурным по станции и осматривая ее территорию, Калинин не раз разбрасывал в глухие ночи прокламации в Миусском парке и на близлежащих улицах. По заданию партийной организации он распространял нелегальную литературу. Подрядившись разносить по адресам подписные издания, Калинин получил таким образом возможность с наименьшей опасностью посещать явочные квартиры, выполнять поручения Заграничного большевистского центра.
Жил Калинин на Б. Полянке, снимал комнатку в мезонине. Когда устроился работать, к нему в Москву перебрались из Верхней Троицы жена с сынишкой. Михаил Иванович сам смастерил «мебель» из купленных на рынке ящиков — кроватку для сына, стол, шкаф для посуды. В августе 1909 года в этой комнатке родился второй ребенок — девочка, которую назвали Юлей. Семья жила в Москве до весны 1910 года. Беспокойство о детях и жене, об их судьбе в случае его ареста (в 1910 году последовала новая полоса полицейских погромов) заставило Калинина настоять на их отъезде в Верхнюю Троицу. Беспокойство оказалось не напрасным. Царская охранка выследила Калинина.
О том, что охранка напала на след, который вел к Калинину, свидетельствует, в частности, предписание московского охранного отделения полицейскому надзирателю 1-го участка Якиманской части от 21 сентября 1910 года. В нем содержалось требование «указать, с кем более ведет знакомство или товарищество Михаил Иванов Калинин, и указать его род занятий».[74] В охранку было сообщено, что Калинин проживает на Б. Полянке, в доме № 39, в квартире № 13; женат, прибыл в Москву из деревни Верхней Троицы.[75] Хотя о М. И. Калинине не было сообщено ничего компрометирующего, 23 сентября 1910 года градоначальник приказал произвести обыск у Калинина, а также подвергнуть его и других жильцов квартиры № 13 задержанию «впредь до выяснения обстоятельств дела, независимо от результатов обыска».[76] Калинин был арестован и заключен под стражу в сущевский полицейский дом.
Поскольку ни при обыске, ни при аресте Калинину не смогли по существу предъявить серьезных улик в «противоправительственной деятельности», 11 октября 1910 года он обращается с прошением к начальнику охранного отделения освободить его из-под стражи или же, по возможности, ускорить следствие, ибо, как писал заключенный, «я не знаю причины моего ареста».[77] Только через месяц охранка поставила Калинина в известность о том, что он не будет освобожден из-под стражи «впредь до решения вопроса в министерстве внутренних дел о воспрещении ему жительства в Москве и Московской губернии».[78] 8 ноября Калинину было объявлено постановление о запрещении ему жительства в Москве «на все время действия Положения об усиленной охране». Местом жительства он избрал родную деревню, куда и обязался «выбыть из г. Москвы в трехдневный срок».[79] В день объявления постановления Калинин был освобожден из-под стражи. Но вплоть до его отъезда из Москвы за ним велось секретное наблюдение полицейским участком Якиманской части (по месту временного жительства на Б. Полянке в д. № 37/41).[80] Калинину удалось задержаться в Москве и выехать из столицы, как отмечено в полицейских документах, вечером 16 ноября 1910 года.[81]