После смерти князя-кесаря в 1717 г. Преображенский приказ возглавил его сын Юрий, но Петр не мог полностью положиться на его умение и опыт. В конце 1717 г. было создано несколько розыскных канцелярий под руководством гвардейских офицеров — полковника князя П.М. Гагарина, майоров князя С.А. Салтыкова, М.Я. Волкова, И. Дмитриева-Мамонова, Г.Д. Юсупова, капитана Г.И. Кошелева.
Вскоре несколько временных канцелярий вошли в один постоянный орган — Тайную розыскных дел канцелярию. Возникновение этого учреждения было связано со следствием над наследником престола царевичем Алексеем. Царь Петр давно испытывал беспокойство по поводу сына от первого брака. Царевич и его мать, Евдокия Лопухина, заточенная в суздальский монастырь, представляли потенциальную угрозу для новой семьи царя. Но главное — у Петра и его сподвижников не было уверенности, что Алексей продолжит отцовские преобразования. Наследника ждал монашеский клобук, но он бежал за границу. По приказу Петра царевича Алексея искали по всей Европе. Наконец, он был обнаружен на острове близ Неаполя, где его укрывало австрийское правительство.
Выманить «зверя», как выражалось окружение Петра, было поручено Петру Андреевичу Толстому. Жизненный путь этого представителя дворянского рода начался с крупной неудачи. Как родственник царевны Софьи и участник Стрелецкого бунта, приведшего ее к власти, он попал в немилость сразу же после падения регентши. Однако Толстой умилостивил царя тем, что откликнулся на одно из его начинаний. Нуждаясь в европейски образованных помощниках, Петр посылал дворянских недорослей на учебу за границу. По старым московским понятиям, жизнь среди «богопротивных еретиков» считалась незаслуженным наказанием, которого старались избежать под любым предлогом. Пятидесятидвухлетний Толстой добровольно изъявил желание изучать мореходство и провел два года в Италии. Впрочем, применить свои мореходные познания на деле ему не пришлось.
Нехватка владевших иностранными языками людей заставила Петра переместить Толстого на дипломатическое поприще. Его направили на важный и опасный пост русского посла в Стамбуле. Толстому пришлось познакомиться с местными обычаями. Когда Турция вступила в войну с Россией, его на три года бросили в темницу Семибашенного замка. Стойкость и способности Толстого обеспечили ему расположение царя, которое тот выражал в своеобразной форме. Как-то на пиру Петр поцеловал его в голову и добавил: «Голова, голова, кабы ты не была так умна, я давно бы отрубить тебя велел».
Толстой уговорил царевича Алексея вернуться в Россию, заверяя, что гарантирует ему полное прощение. На родине от царевича поспешно добились отречения, а потом отдали в руки Тайной розыскных дел канцелярии.
Историк В.И. Веретенников полагал, что ядром канцелярии стал небольшой штат помощников Толстого, занимавшихся тем же, что и розыскные органы под руководством гвардейских офицеров. Обстоятельства сложились так, что Толстой занялся наиболее важным политическим делом. «Тайная розыскных дел канцелярия, — писал В.И. Веретенников, — явилась в 1718 г., образовалась из канцелярии ведения Толстого, вероятно находившейся в довольно зачаточном состоянии, когда царевичев розыск, попавший в руки Толстого, превратил эту едва оформившуюся канцелярию в самую могучую из розыскных канцелярий “ведения”, сгруппировав в ней столь сильных своим положением асессоров, каковы были Бутурлин, Ушаков, отчасти Г.Г. Скорняков-Писарев».
Дело царевича Алексея приняло широкий размах. Было привлечено несколько десятков человек, сочувствовавших царевичу. Несомненно, настроения, господствовавшие в окружении Алексея, отражали недовольство реформами Петра Великого со стороны широких слоев населения. Ростовский епископ Досифей, попавший под следствие, нашел мужество бросить в лицо церковным иерархам перед своим колесованием: «Только я один в сем деле попался… Посмотрите, и у всех что на сердцах? Извольте пустить уши в народ, что в народе говорят».
Однако Тайная канцелярия добилась очень шатких доказательств измены царевича Алексея. С 19 по 24 июня 1718 г. царевича шесть раз пытали в каземате Петропавловской крепости. Например, 19 июня его пытали дважды: с полудня до часа и с шести до девяти часов вечера. Но записанные Толстым показания имеют сослагательное наклонение. Царевич сознавался в том, что мог бы при благоприятных условиях принять помощь от австрийского императора: «И ежели бы до того дошло и цесарь бы начал то производить в дело, как мне обещал, и вооруженной рукой доставить меня короны Российской, то я бы и тогда, не жалея ничего, доступал наследства…». Недаром Вольтер, занявшись историей Петра Великого, выражал недоумение по поводу дела царевича Алексея: «Если подобному заявлению придавалась какая-нибудь цена, как могло оно считаться существенным доказательством в процессе? Как судить мысль, гипотезу, предположение случая, не имевшего места?».