Когда мальчику исполнилось восемь лет, мать определила его в Горийское духовное училище. Четырехлетний курс училища Сталин прошел за шесть лет. Ему было трудно, так как обучение велось преимущественно на русском языке. Сталин хорошо писал по-русски, однако свободно говорить так и не научился: говорил по-русски медленно, тихо и с сильным грузинским акцентом. В 1894 году Сталин поступил в Тифлисскую духовную семинарию. В духовном училище и особенно в семинарии царила обстановка обскурантизма, лицемерия, повседневного мелочного контроля и взаимных доносов. Здесь были строгий порядок и почти военная дисциплина. Неудивительно, что семинарии в России воспитывали не только верных слуг режима и церкви, но и революционеров.
Семинария, несомненно, повлияла на Сталина и в другом отношении, — она развила и ранее свойственные ему изворотливость, хитрость и грубость. Догматизм и нетерпимость, а также присущий его статьям и выступлениям стиль катехизиса также сложились, бесспорно, не без влияния церковного образования.
С ранней молодости Сталин был начисто лишен чувства юмора. «Это странный грузин, — говорили позднее его друзья по семинарии. — Он совершенно не умеет шутить. Он не понимает шуток и отвечает руганью и угрозами на наиболее невинные».
Будучи семинаристом, Сталин вступил в связь не только с первыми кружками марксистов, но и с первыми рабочими группами, образовавшимися на предприятиях Тифлиса, стал членом «Месаме-даси» — первой грузинской социал-демократической организации. Он прочел немало книг из русской художественной классики, а также пристрастился к чтению подпольной литературы. В это время он познакомился с работами К. Маркса и Ф. Энгельса. По официальной версии, именно за чтение запрещенной литературы и создание социал-демократического кружка Сталина в мае 1899 года исключили из семинарии. Он поступил на работу в Тифлисскую геофизическую обсерваторию.
В 1900 году Сталин познакомился с 32-летним профессиональным революционером Виктором Курнатовским, приехавшим в Тифлис и позднее здесь арестованным. Незадолго до появления в Грузии ссыльный Курнатовский встречался в Минусинске с Лениным. Знакомство с Курнатовским, чтение работ В. И. Ленина, а затем и газеты «Искра», которая появилась в Закавказье в 1901 году, сделали молодого Сталина сторонником Ленина. После раскола российской социал-демократии на большевиков и меньшевиков Сталин решительно становится на сторону большевиков. Надо отметить, однако, что именно в Грузии влияние фракции меньшевиков было преобладающим.
Еще весной 1901 года Сталин перешел на нелегальное положение. Он принимает участие в организации забастовок и демонстраций, в том числе известной Батумской демонстрации в марте 1902 года. Здесь, в Батуми, Сталин был арестован и его сослали в Восточную Сибирь, где он провел около двух лет. Уже тогда Сталин был не только практиком революции, он претендовал и на роль теоретика, во всяком случае в масштабах Закавказья. В 1900–1910 годах Сталин написал немало статей и брошюр, почти все на грузинском языке, и опубликовал их в грузинской социал-демократической печати. Работы этого периода составляют два первых тома в собрании сочинений Сталина, и большая часть из них переведена с грузинского языка лишь в 1945–1946 годах. Конечно, публикации Сталина начала века ни по количеству, ни по качеству нельзя поставить в один ряд с творчеством многих других руководителей российской социал-демократии. Но неправильно говорить и о творческом бесплодии молодого Сталина.
Революция 1905–1907 годов позволила Сталину раскрыть и некоторые другие свои способности. Именно ему было поручено провести несколько крупных террористических актов или, как их называли тогда, «эксов», то есть экспроприации. В основном это были вооруженные ограбления банков, почтовых карет, пароходов, которые допускали тогда большевики как средство для пополнения партийной кассы и закупки оружия, а также для воздействия на царскую администрацию. Особенно большую известность получило вооруженное ограбление Тифлисского казначейства, которое дало в кассу большевиков более 300 тысяч рублей. Этот «экс» провела группа боевиков, в том числе Камо (С. А. Тер-Петросян), однако в его организации и планировании приняли участие Сталин и Л. Б. Красин, руководитель «боевой технической группы при ЦК».