Но для жизни в Германии нужны были деньги. В марте 1893 года Департамент полиции в Петербурге и жандармское управление в Ростове-на-Дону стали получать короткие письма от неизвестного корреспондента с предложением освещать деятельность русского студенческого кружка в Карлсруэ. В Ростове по почерку быстро выяснили, кто автор писем, и доложили в Петербург, и вскоре Азеф был зачислен секретным сотрудником Охранного отдела Департамента полиции с окладом в 50 рублей в месяц. Вряд ли кто мог тогда предположить, что очень скоро его жалование достигнет 14 тыс. рублей в год, что несколько больше, чем у некоторых царских министров. С тех пор Азеф жил и работал в России и за рубежом, и в полицейских отчетах проходил под фамилиями Е. Ф. Виноградов, С. М. Валуйский, Гирс, И. Даниельсон, Деканский, А. Неймайер, Петров, Раскин, Росс, Филипповский. Были у него и псевдонимы: «Валентин Кузьмич», «Великан», «Евгений Филиппович», «Иван», «Иван Николаевич», «Новый приятель», «Сергей Милитонович», «Толстый».
В течение шести лет Азеф являлся заграничным корреспондентом Департамента полиции и в качестве осведомителя быстро совершенствовался. Один из руководителей Департамента и куратор Азефа Ратаев отмечал: «Сообщения Азефа поражают своей точностью, при полном отсутствии рассуждений». А в письме к своему агенту он писал: «Больше всего на свете я боюсь Вас скомпрометировать и лишиться Ваших услуг». В 1899 году Азеф по заданию полиции примкнул к заграничной организации эсеров, а затем вернулся в Россию и вошел в состав Северного союза эсеров. К этому времени он был уже дипломированным инженером, служащим электрической компании и, на первый взгляд, жизнь вел довольно серую. Никто ведь еще не догадывался, что у него есть еще две, тайные жизни. Он жил тогда в Москве и находился в распоряжении начальника московского Охранного отделения С.В. Зубатова. Два события произошли в этот момент: выдача полиции Азефом Союза социалистов-революционеров, которым руководил А. А. Аргунов, и продвижение Азефа в руководство эсеров. По мнению Зубатова, секретный агент должен был проникнуть в центр революционной организации, выявить руководство, что дало бы возможность покончить с ними одним ударом.
В декабре 1901 года Азеф вновь оказался за границей. В Берлине он вместе с Г. А. Гершуни, признанным эсеровским лидером, участвовал в объединении разрозненных кружков в партию эсеров. Здесь же произошло их сближение. Вместе они разрабатывали теоретическое обоснование террористической деятельности. Эсеры, в отличие от большинства революционеров, особенно марксистского толка, считали, что привести Россию к революции может только террор. Для его осуществления в недрах партии была создана глубоко законспирированная Боевая организация, которую возглавил Гершуни, а после его ареста в мае 1903 года – Азеф. Санкцию на это, в нарушение всех существующих тогда правил для секретных агентов, с подачи начальника Департамента полиции А. А. Лопухина и С.В. Зубатова, возглавлявшего отдел политического сыска, дал не кто иной, как министр внутренних дел В. К. Плеве. Но теперь перед Азефом открылись новые горизонты. Теперь только от него зависит, казнить или миловать самых высоких царских чиновников. От него же зависит и жизнь революционеров – участников террористических акций. У него в руках огромная власть, и ему, человеку, в общем, беспринципному, теперь глубоко наплевать и на революцию, и на полицию.