Весной 1904 года Коба (Иосиф взял такой партийный псевдоним) встретился с руководителем Кавказского союза РСДРП Миха Цхакая. Тот попросил Джугашвили ознакомиться с последними партийными документами, в частности, с материалами II съезда РСДРП, а затем написать статью по национальному вопросу, которая была опубликована на страницах тифлисской «Борьбы пролетариата». Затем Цхакая направил Кобу на работу в Имеретино-Мингрельский комитет. Тем временем прежние члены Союзного комитета были арестованы, и Цхакая кооптировал в новый состав комитета Джугашвили вместе с Каменевым. Комитет стал на сторону Ленина и его сторонников против меньшевистского большинства ЦК.
С началом первой русской революции Коба пытался смягчить межнациональные отношения в Закавказье. Так, в феврале 1905 года в ходе резни между армянами и азербайджанцами (татарами) в Баку погибли и были ранены десятки людей. Сталин в эти дни был в городе и пытался умерить страсти и направить гнев обоих народов против «классового врага» – нефтепромышленников, но не слишком преуспел в этом. В это время в Баку уже действовала боевая дружина социал-демократов. Однажды по приказу Сталина пять вооруженных винтовками дружинников охраняли армянский район в Балаханах и не допустили здесь межнациональных столкновений, но это была капля в море.
В апреле 1905 года социал-демократы Закавказья раскололись на большевистский Союзный комитет и меньшевистское Кавказское бюро РСДРП. Коба все время был в разъездах, устраивал собрания, агитировал против меньшевиков. А как только появилась свободная минутка в Тифлисе, Иосиф написал письмо старшим товарищам по партии в Лондон, где они собрались на III съезд РСДРП: «Я опоздал с письмом, товарищ. Не было ни времени, ни охоты писать. Пришлось все время разъезжать по Кавказу, выступать на дискуссиях, ободрять товарищей и т. д. Поход был повсеместный со стороны меньшевиков, и надо было дать отпор. Людей у нас почти не было (и теперь очень мало, в два-три раза меньше, чем у меньшевиков), и приходилось работать за троих…» В данном случае Коба позиционирует себя как сугубого практика, которому некогда заниматься теоретическими изысками. Летом 1905 года он занялся формированием в Чиатурах «красных сотен» – вооруженных отрядов, которые сначала мыслились как защита от черносотенцев, а затем – как орудие для захвата власти.
Между тем 20–22 августа 1905 года в Баку прошли самые ожесточенные армяно-татарские столкновения. Были подожжены нефтепромыслы, сгорела почти половина вышек, нефтедобыча сократилась вдвое и до 1917 года так и не успела достичь прежнего уровня. На этом фоне, по крайней мере на Кавказе, борьба с социал-демократами отходила для власти на второй план.
Но и социал-демократы доставляли властям немало хлопот. 29 августа 1905 года в Тифлисской городской управе на собрании общественности обсуждался проект законно-совещательной Думы, одобренный царем. Социал-демократы привели с собой на собрание рабочих. Полиция и казаки попытались их вывести из зала. В результате стычки было несколько убитых и десятки раненых. По инициативе Джугашвили была выпущена листовка с протестом против «злодейского убийства рабочих» и призывом к забастовке, не имевшим, впрочем, особого успеха. В начале сентября под руководством Джугашвили большевики попытались похитить 2 тыс. винтовок из кутаисского цейхгауза, прокопав подкоп, но условия почвы не позволили довести задуманное до конца.