По прибытии в Ревель Калинин должен был зарегистрироваться в полиции. Началась новая полоса гласного полицейского надзора. Но у Калинина имелся уже немалый опыт нелегальной революционной работы. Он искусно пользовался различными способами конспирации.
В Ревеле Калинину не сразу удается устроиться на работу. Несколько дней он живет в доме одного эстонского рабочего, адрес которого получил в Тифлисе. Через некоторое время находит политического ссыльного Карла Сякка, питерского рабочего, эстонца по национальности, и с его помощью поступает токарем на машиностроительный завод «Вольта». Несмотря на сложные условия работы и незнание эстонского языка, Калинин исподволь начинает группировать вокруг себя рабочих. Указывая на моменты, затруднявшие развертывание революционной работы, он писал: «Работа на заводе мне показалась труднее в Ревеле, чем в Петербурге и в других городах. Она производилась десять часов, с часовым перерывом на обед, буквально не отрываясь. Общения между рабочими во время работы не было; на обед же мастерские закрывались, и потому знакомиться с рабочими было довольно затруднительно… На заводе из русских я был один».[28] С помощью эстонцев, знавших русский язык, русский токарь нашел пути к сердцам ревельских рабочих, стал в их среде своим человеком. Он втягивал рабочих в разговоры на политические темы, некоторым из них давал нелегальную литературу, поясняя при этом, что такие книги «дают большую силу человеку — окрыляют его». Рабочий-вольтовец П. Карилайд в воспоминаниях пишет: «М. И. Калинин сразу заслужил репутацию хорошего работника. Он очень быстро стал своим и подружился со всеми, несмотря на то, что не знал эстонского языка, а мы тогда плохо понимали русский».[29]
М. И. Калинину суждено было сыграть немалую роль в истории социал-демократических организаций Эстонии. Задача создания боевой нелегальной организации требовала соединить в единое русло все разрозненные революционные ручейки — местных социал-демократов, политических ссыльных, передовых рабочих разных национальностей. Только объединенными усилиями можно было продвинуть вперед дело политического просвещения масс, их организации.
Расширению нелегальных революционных связей Калинина с местным подпольем способствовал его переход (в ноябре 1901 года) с завода «Вольта», где он проработал более полугода, в ревельские железнодорожные мастерские. Специфика работы в мастерских давала большую возможность для нелегальных и легальных поездок связных в Петербург и другие города для доставки литературы. В мастерских Калинин так же, как и на заводе «Вольта», быстро завоевал симпатии рабочих, их уважение и признание. Им по душе были его политическая смелость, революционный дух суждений, особенно когда вопрос касался интересов рабочего класса.
В первой половине 1902 года Калинин создал марксистский кружок, в который входили передовые рабочие-железнодорожники и учащиеся железнодорожного технического училища. Занятия кружка посещали рабочие других предприятий Ревеля и революционно настроенные представители местной интеллигенции. Значительную роль в кружке играли питерские рабочие-обуховцы, студенты Московского университета, высланные в Ревель за участие в «студенческих беспорядках». Марксистские кружки были организованы и на других предприятиях города. Был заведен гектограф. Прокламации печатались на русском, эстонском, латышском языках и широко распространялись по заводам и фабрикам Ревеля. Эти революционные листки не оставляли без внимания факты произвола, незаконных штрафов, притеснений, сверхурочных работ. Учитывая, что многие эстонские рабочие — недавние крестьяне, не порвавшие связи с деревней, Калинин использовал в прокламациях примеры, бичевавшие помещиков и немецких баронов, незаконно владевших землей, грабивших крестьян. «Наша группа, — писал М. И. Калинин, — стала настолько заметна, что я уже был приглашен в новую редакцию эстонской газеты на конспиративные совещания… У нас уже почти на всех заводах были связи, а в вагоностроительном заводе даже целый кружок. Заведены были связи и с типографией, откуда нашим приходилось тащить шрифт и типографскую краску».[30]
Обладая удивительным свойством втягивать людей в революционную борьбу, Калинин быстро находил себе помощников среди учащейся молодежи, учителей и адвокатов, которые выполняли разные поручения: переводили листовки на эстонский и латышский языки, печатали прокламации, переписывали, размножали и хранили литературу, предоставляли помещение для собраний, руководили кружками и т, д.