Арестовал его 27 ноября 1903 года на батумском вокзале рослый жандармский унтер-офицер Илларион Евтушенко. Заступил Илларион Евтушенко на дежурство, увидел человека в пальто, с чемоданом и корзиной в руках и сказал себе: «А давай-ка, Илларион, проверим!» И проверил. И счастливо рассказал потом об этом сам, по дороге в жандармское отделение. Он предложил унтеру пятнадцать рублей, потом — двадцать, потом — двадцать пять, все, что у него было. Унтер двадцать пять рублей взял, привел его в жандармскую комнату и сдал жандармскому ротмистру. И двадцать пять рублей сдал. И ушел. Ротмистр стал допрашивать.
Это был его первый арест. В январе того же года он вез александропольским поездом две тысячи прокламаций и листовок. Кто-то обратил внимание на тяжелый чемодан. Двое жандармов вежливо предложили взять чемодан и вынести в тамбур. В тамбуре попросили открыть. Он растерялся и открыл. Они радостно присели перед открытым чемоданом. Неожиданно для себя — просто оттого, что увидел вдруг рядом у самых своих рук две жандармские головы и не успел преодолеть мальчишеского искушения, — еще не приняв никакого решения, схватил обоях за шиворот и ударил головами. Они успели обернуться, и он увидел их удивленные оглушенные лица, и у одного уже закатывались глаза, и вдруг, поняв, что это спасет, еще раз — с силой, с торжествующей яростью, головами! — и показалось, что головы лопнули от удара, распахнул дверь и прыгнул в черное грохочущее пространство, выбросив вперед руки, как прыгал с горийского моста в Куру. Уже скатившись с насыпи и с удивлением встав на ноги, пожалел, что оставил в тамбуре чемодан. В общей камере на нарах рядом лежал парень лет восемнадцати. У него были большие спокойные глаза, и на груди под тюремной рубахой висел крест. Парень рассказал, что его арестовали за участие в стачке на заводе Пассека. И сказал, что его зовут Иван Певцев. А он потрогал на груди у парня крест и спросил: