А.Т. Васильев родился в 1869 году в Киеве. Там же в 1891 году окончил юридический факультет университета Св. Владимира и поступил на государственную службу в прокуратуру по Киевскому судебному округу. В 1894 году он был назначен судебным следователем в г. Каменец-Подольск, а через год перешёл на должность товарища прокурора Луцкого окружного суда. В этой должности Васильев работал потом в Киеве (1901–1904), затем был переведён в Петербург. В первые годы своей службы в прокуратуре Васильев занимался в основном уголовными делами, а в Петербурге работал в тесном контакте с Петербургским ГЖУ, вёл наблюдение за производством дознаний по делам политическим.
В 1906 году Васильев перешёл из ведомства Министерства юстиции в Министерство внутренних дел; он служил в Департаменте полиции чиновником особых поручений 5-го класса. В связи с тем, что в этот период возникли сложности в подборе руководителей самого ответственного подразделения Департамента полиции — Особого отдела, он несколько месяцев заведовал этим отделом. Одновременно по распоряжению товарища министра внутренних дел П.Г. Курлова и министра внутренних дел П.А. Столыпина он проводил инспектирование ряда охранных отделений, учреждений политического сыска.
Занимая должность чиновника особых поручений, он курировал работу Особого отдела, порой исполняя обязанности вице-директора Департамента полиции. В Департаменте Васильев проработал два года и вернулся в прокуратуру. В 1908 году он был назначен в Петербургскую судебную палату, с 1909-го занимал прежнюю должность товарища прокурора Санкт-Петербургского окружного суда. Через четыре года Васильев возвращается в Департамент полиции на прежнюю должность чиновника особых поручений, но уже 4-го класса и исполняет обязанности вице-директора Департамента полиции по политической части.
Во многом этому возвращению способствовал новый товарищ министра внутренних дел В.Ф. Джунковский. В своих воспоминаниях он писал: «…я пригласил исправляющим должность вице-директора по заведованию особым отделом Департамента товарища прокурора статского советника Васильева. Я его не знал, но мне рекомендовали его как благородного и честного человека, а кроме того, меня прельстило то, что он одно время служил уже в Департаменте по политической части, следовательно, был знаком с механизмом этого дела». Далее Джунковский, правда, дополняет эту характеристику отнюдь не лестными словами: «Потом мне пришлось весьма раскаяться в этом назначении, сознать свою ошибку, слишком я поторопился. Васильев оказался ленивым и мало способным к своей должности и не был чужд отрицательных приёмов охраны, хотя это был человек вполне порядочный»[27].
3 ноября 1915 года Васильев был назначен членом Совета Главного управления по делам печати. Но расстался Васильев с Департаментом всего на год. Новый министр внутренних дел А.Д. Протопопов питал дружеское расположение к нему и вскоре после своего назначения пригласил занять пост директора Департамента. 28 сентября 1916 года последовал высочайший именной указ о назначении Васильева. Это назначение было неожиданным для многих и, судя по свидетельству Васильева, для него самого. В интервью с журналистами сразу после назначения он сказал «Почти всю свою службу я провёл в прокуратуре, право и закон являются единственными руководящими началами. Эти начала, которые я стремился осуществлять в течение всей предшествовавшей моей службы, я намерен положить в основание настоящей моей деятельности на посту директора Департамента полиции. — Во всех частных отдельных случаях я буду с полным благожелательством относиться к интересам населения, но, конечно, в тех пределах, в которых это позволит соблюдение государственной пользы. Никакой предвзятости, тенденциозности у меня нет. На первом плане должно стоять соблюдение высших государственных интересов и пользы многомиллионного населения Империи».