С начала царствования императора Александра II широко распространилось мнение о необходимости отделения специального образования от общего. Такого же мнения придерживались и в военном ведомстве, и занявший в 1860 году пост главного начальника военно-учебных заведений великий князь Михаил Николаевич, и возглавивший военно-учебное ведомство вслед за ним генерал-майор Н. В. Исаков были твердыми противниками существования прежней системы кадетских корпусов, готовивших своих воспитанников непосредственно к офицерской службе. Под руководством военного министра Д. А. Милютина была проведена коренная реформа военного образования: старшие классы кадетских корпусов сводились в военные училища (1-е военное Павловское, 2-е военное Константиновское, 3-е военное Александровское и Николаевское кавалерийское), корпуса лишались строевой организации, а вскоре были преобразованы в военные гимназии, в которых до минимума была сокращена военная составляющая, шло сокращение числа казеннокоштных вакансий, увеличилось число «приходящих» учащихся.
Для тех же, кому курс военных гимназий был труден для усвоения, были созданы военные прогимназии, в одной из которых, созданной в 1868 году на базе Ярославской военной школы, некоторое время обучался наш автор. Главной задачей данного типа учебных заведений было дать комплектование создаваемым окружным юнкерским училищам, готовившим до конца XIX века бóльшую часть русского офицерского корпуса. Образование, даваемое в них, было «классом ниже», нежели в военных училищах, выпускники которых получали преимущество по службе. Вследствие более низких требований в военные прогимназии переводились неуспевающие ученики военных гимназий, также немалое значение имели и благотворительные цели: значительная часть учащихся получала образование за казенный счет (в первую очередь, дети военных).
Из-за переезда семьи в Москву Михаилу Михайловичу пришлось прервать довольно удачно начавшееся образование. Не удержавшись в Москве, семья Ивановых возвращается в Ярославль, но пропущенный учебный год (1873–1874) лишает маленького Михаила места в военной прогимназии. Не без труда отцу удается устроить его в Ярославское городское училище.
Городские училища образца 1872 года также стали новой страницей в системе образования Российской империи. Несмотря на то, что Положение о городских училищах было утверждено 31 мая 1872 года, преобразование уездных училищ в городские началось лишь в 1875 году. Временной люфт был затрачен на подготовку педагогических кадров для нового типа учебных заведений: на одного преподавателя ложилось ведение большинства предметов. Курс городских училищ был короче и значительно легче курса классических гимназий и реальных училищ, с которым значительная часть учащихся просто не справлялась. Целью нового типа учебных заведений было дать законченное (пусть и «высшее начальное») образование, их выпускники имели право на получение первого классного чина без экзамена и могли поступать на государственную службу.
Курс городского училища Михаил Михайлович закон чил в 1877 году, когда шла Русско-турецкая война 1877–1878 годов. Юный Михаил решил посвятить себя служ бе в морской артиллерии, специалистов которой ста ли готовить в переведенном в 1872 году в Кронштадт Техническом училище Морского ведомства. Не имея за плечами законченного среднего образования, Михаил попы тался воплотить амбициозный план — поступить в училище, отнесенное в 1876 году к числу высших учебных заведений.
Артиллерийский отдел училища имел 9 вакансий, желающих прибыло 57 человек. Год, проведенный в усиленных занятиях, не пропал даром: Михаил успешно выдержал все экзамены, но тем не менее не прошел по числу баллов. Раздосадованный юноша был вынужден вернуться домой, в Ярославль.
В это время как раз началось возвращение домой русских полков с театра военных действий. После неудачи в Кронштадте Михаил решает поступить на сухопутную военную службу и начинает готовиться к экзамену на звание вольноопределяющегося весной 1879 года. Еще более укрепил юношу в его решении вид бравого юнкера и бывшего однокашника — Шавлинского, прибывшего домой на Рождество 1878 года: «От его вида в военной форме, красиво и аккуратно пригнанной, я пришел в восторг… я решил поступить тоже в гренадерский полк — кепи с высоким султаном была теперь моя мечта». Выбор жизненного пути был сделан.