В 1832 г. Главный штаб упразднили, а в 1865 г. воссоздали как структурное подразделение Военного министерства. Под этим названием объединили отделы, ведавшие квартирмейстерскими вопросами, комплектованием армии, разработкой военных планов, а также топографическую службу, стратегическую военную разведку, подготовку высших офицерских кадров и управление военными тюрьмами. В структуру Главного штаба входили Военно-ученый комитет, Военно-топографический отдел, Комитет передвижения войск, Мобилизационный комитет, Военно-тюремная часть и Николаевская академия Генерального штаба. Ему подчинялись корпус военных топографов и корпус фельдъегерей. Издавались газета «Русский инвалид» и журнал «Военный сборник».
Первым начальником восстановленного Главного штаба Александр II назначил генерал-лейтенанта графа Ф. Л. Гейдена, младшего сына героя Наваринского сражения адмирала графа Л. П. Гейдена. Сам генерал являлся участником Кавказской войны (1817–1864 гг.) и активным помощником военного министра графа Д. А. Милютина в деле проведения военных реформ. Именно ему довелось обживать новое здание на Дворцовой площади. В 1881 г. император назначил Гейдена финляндским генерал-губернатором и командующим войсками Финляндского военного округа, а на место начальника Главного штаба был поставлен генерал Н. Н. Обручев.
Как и его предшественник, Обручев активно проводил начатые в 1860-е гг. военным министром Д. А. Милютиным реформы. Именно он разработал позднее реализованный план военных действий против Турции, а затем планы военных действий против Германии и Австро-Венгрии, десантной операции на Босфоре. Генерал инициировал разработку системы резервных войск, модернизацию и усиление фортификационных сооружений целого ряда крепостей, формирование новых корпусов, полков, перевооружение и совершенствование инженерных частей. Первый председатель Совета министров Российской империи граф С. Ю. Витте говорил об Обручеве, что он являлся «умом Военного министерства».
Ф. Л. Гейден
Н. Н. Обручев
В. В. Сахаров
За свою деятельность на посту начальника Главного штаба Н. Н. Обручев произведен в генералы от инфантерии, награжден одной из высших имперских наград — орденом Св. Андрея Первозванного, в 1893 г. назначен членом Госсовета. Его именем назван один из кронштадтских фортов.
Следующие шесть лет, с 1898 по 1904 г., начальником Главного штаба являлся генерал В. В. Сахаров. До этого он принимал участие в Русско-турецкой войне 1877–1878 гг., был помощником начальника штаба Варшавского военного округа, начальником штаба Одесского военного округа. При нем в 1900 г. аппарат Главного штаба разделили на пять управлений — первого генерал-квартирмейстера, второго генерал-квартирмейстера, дежурного генерала, военных сообщений и военно-топографическое управление.
После начала Русско-японской войны он сменил на посту военного министра генерал-адъютанта А. Н. Куропаткина, направленного командовать Маньчжурской армией. В ноябре 1905 г. В. В. Сахаров застрелен в доме тогдашнего саратовского губернатора П. А. Столыпина членом партии левых эсеров террористкой А. А. Биценко (урожд. Камористой).
Последним начальником Главного штаба после В. В. Сахарова стал генерал-лейтенант П. А. Фролов. А в 1905 г. Главный штаб переподчинили Генеральному штабу в качестве его кадрового департамента, возложив на него обязанности по управлению казачьими войсками и Туркестанским военным округом. При штабе действовали также Высшая аттестационная комиссия и отдел, занимавшийся вопросами пенсионного обеспечения военнослужащих.
Структурно Главный штаб теперь являлся Главным управлением Генерального штаба. В период с июня 1905 по ноябрь 1917 г. в должности начальника этого подразделения Генерального штаба сменилось 10 генералов, т. е. начальники менялись чуть ли не каждый год. Вот их перечень:
06.1905–12.1908 г. — генерал от кавалерии Ф. Ф. Палицын;