Романовы уже не могли функционировать без централизованного органа политического сыска, без специальной службы. Уже через четыре года после своего закрытия царским указом Тайная канцелярия была восстановлена в тех же правах и с теми же функциями. И поэтому иногда именуют Тайную канцелярию времен императриц Анны и Елизаветы Второй тайной канцелярией. Тут речь идет просто о восстановлении временно забытого института госбезопасности в России. И местонахождение в той же Петропавловской крепости, и фигура Андрея Ивановича Ушакова, и розыск по старой системе «Слово и дело» — все говорит о том, что созданный ранее орган госбезопасности пока реально продолжал свою работу после некоторого перерыва.
Написавший полную историю Тайной канцелярии от Петра Великого до Екатерины Великой российский историк Василий Иванович Веретенников настаивал на преемственности всех этих трех «канцелярий». Он был убежден, что «аннинская Тайная» практически ничем не отличается от «петровской». И Веретенников приводит список многих «специалистов», перешедших вслед за Андреем Ушаковым из первой канцелярии тайных дел во вторую при Анне Иоанновне: Хрущев, Топильский, глава московского филиала Тайной канцелярии Казаринов, секретарь Тайной канцелярии Гурьев. По мнению историка, если канцелярия в 1730-е годы чем и отличалась от петровской, то лишь более профессиональной организацией и осознанием постоянности своего существования.
Это связано с гораздо более шатким положением на троне Анны Иоанновны по сравнению с ее великим дядей, особенно в первые годы ее царствования, в связи с чем императрица еще более нуждалась в сильном ведомстве госбезопасности — в конторе Ушакова. Она и на царство заступала в острой борьбе с «верховниками». Эта группа родовитых дворян из Верховного тайного совета, вившихся вокруг трона покойного Петра II, попыталась ограничить самодержавную власть новой императрицы «кондициями», то есть подобием конституции, где они собирались получить для себя определенные гарантии.
Некоторые «верховники», особенно из клана уверовавших при Петре в свою силу Долгоруких, даже пытались говорить о возможности аристократической республики по венецианскому или генуэзскому образцу, что дорого обошлось им затем в период репрессий. Когда императрица Анна разорвала «кондиции» и объявила о своей непререкаемой самодержавной власти, она уже понимала, что утверждать это заявление ей придется силой жестких государственных репрессий. Российские «верховники» стали для нее зримым образом политического врага, как бояре для Ивана Грозного или стрельцы для Петра Великого. Разрыв «кондиций» Анной Иоанновной и есть ее личная и политически обоснованная причина для восстановления первой в Российской империи спецслужбы, Тайной канцелярии. Одновременно опасное выступление «верховников» в Сенате — провал заговора демократов.
Тогда у Анны уже не могло быть сомнений в необходимости воссоздания системы Тайной канцелярии.
Во главе спецслужбы вновь встал генерал Андрей Ушаков. Он и в последние годы жизни Петра I фактически руководил политическим сыском в качестве первого заместителя заседавшего в Сенате главы Тайной канцелярии П.А. Толстого. В 1727 году он, вслед за Толстым, впал в немилость и был сослан в Ревель (ныне Таллин), но вскоре его призвали в качестве опытного и верного трону главы политической полиции. После возвращения из ссылки и снятия с него опалы Ушаков уже в 1730 году назначается «главным инквизитором» империи, хотя официальный указ царицы о воссоздании Тайной канцелярии и был подписан только в начале 1731 года, когда система А.И. Ушакова уже реально работала.
Всю 10-летнюю эпоху правления Анны Иоанновны и ее фаворита Эрнста Иоганна Бирона Тайную канцелярию, подчинявшуюся напрямую императрице, возглавлял именно Ушаков.
Историограф Д.Н. Бантыш-Каменский писал про Ушакова: «Управляя Тайной канцелярией, он производил жесточайшие истязания, но в обществах отличался очаровательным обхождением и владел особенным даром выведывать образ мыслей собеседников». А вот жесткое и откровенное мнение советского историка Е.В. Анисимова: «Генерал Ушаков (1672—1747) руководил Тайной канцелярией при пяти монархах. И со всеми он умел договариваться! Сначала он пытал Волынского, а потом Бирона. Почему? Потому что между главой государства и начальником сыска есть некая связь. Они знают грязные тайны. А потому всегда находят общий язык. Ушаков был профессионалом, ему было все равно, кого пытать».