Цесаревич поступил на службы в лейб-гвардии Преображенский полк 1 января 1893 г. Он со всеми был учтив, ровен и сдержан в общении, не допуская ни малейшей фамильярности. По всему этому отношению к службе и однополчанам уже тогда чувствовалось, какой характер должен быть у будущего императора Николая II. Именно этому периоду совместной службы были посвящены воспоминания, написанные К. Р. в марте 1896 г.
Многие великие князья в разное время служили в Преображенском полку или состояли в его почетных списках. Император Николай II вспоминал годы службы в нем как самое счастливое время своей жизни.
Великий князь Константин Константинович командовал лейб-гвардии Преображенским полком с 1891 по 1900 г. В этот период он неустанно заботился об улучшении быта нижних чинов и ветеранов, о высоком моральном облике офицеров. Всеобщая любовь преображенцев была ему лучшей наградой за его труды.
Прощаясь с полком, Константин Константинович сказал:
«…Смело выражаю уверенность, что и вы, господа офицеры, перестав быть моими подчиненными, сохраните ко мне чувства товарищеского расположения, всегда рассчитывайте на мое к вам сердечное участие. От полноты сердца спасибо и вам, молодцы нижние чины, от старейшего из фельдфебелей до последнего молодого солдата. Вы знаете, как я люблю вас. Не прощаюсь и с вами, братцы, если вперед уж не как командир ваш, то все же буду как однополчанин всегда следить за вами, на вас радоваться и вами любоваться. Мне хорошо известно, что вы гордитесь честью Преображенского солдата и сумеете научить и младшие поколения, как надо служить верою и правдою Царю и Отечеству, но не за страх, а за совесть, не щадя жизни своей до последней капли крови. Я знаю, вы твердо помните, что “Потешные былые, рады тешить мы Царя”, как поется в нашей старинной полковой песне, и что “Счастьем всяк из нас считает умереть в Его глазах”. Столько лет живя радостями полка и деля его печали, я привык видеть в нем родную семью и надеюсь, что все чины и впредь будут считать меня своим. Если кого обидел или неведомо для себя причинил кому огорчение, прошу простить мне невольную вину и не поминать лихом».
Константин Константинович не забывал отмечать в дневнике и события, касающиеся всего Императорского Дома Романовых. В частности, он описал процедуру добровольного принятия великой княгиней Елизаветой Федоровной православия:
«1891 год. Санкт-Петербург.
14 апреля.
Вчерашний день был знаменателен для нашего Дома: Элла присоединилась к Православию. Она сделала это не из каких-нибудь целей, а по твердому убеждению, после зрелого двухлетнего размышления. Трогательный обряд присоединения совершился у Сергея [Александровича] в его домовой церкви, рано утром. Присутствовали Государь, все семейство (кроме Михен и моей жены, которым как лютеранкам неудобно было присутствовать) и некоторые близкие знакомые. За обедней Элла причастилась…»
Константин Константинович еще в 1884 г., при появлении великой княгини Елизаветы Федоровны (1864–1918) в России, посвятил ей замечательное стихотворение:
Великий князь продолжал успешно продвигаться по ступеням военной карьеры. Константин Константинович 6 декабря 1894 г. был произведен в очередной чин генерал-майора с утверждением в должности командира лейб-гвардии Преображенского полка. В свиту императора Николая II был зачислен генерал-майором 5 апреля 1898 г. С 4 марта 1900 г. – он Главный начальник военно-учебных заведений Российской Империи (с ежегодным окладом в 12 тыс. рублей). В его ведении находились кадетские корпуса и военные училища. С этого момента и до конца жизни он стал (по меткой характеристике современников) «отцом всех кадет». В приказе великого князя Константина Константиновича по ведомству от 24 февраля 1901 г. к обязательному руководству было рекомендовано: поднимать в воспитанниках «сознание человеческого достоинства и бережно устранять все то, что может оскорбить или унизить это достоинство». В 1907 г. благодаря трудам великого князя были введены новые учебные программы в его ведомстве с целью «приблизить военные знания юнкеров к войсковой жизни и подготовить их к обязанности воспитателя и учителя солдат и к роли руководителя вверенной ему малой части». В Российской Империи в 1909 г. приступили к введению новых программ и в кадетских корпусах, которые превратились в полноправные средние учебные заведения, готовившие молодое поколение как к военной службе, так и к высшей школе.
В январе 1901 г. Константин Константинович был произведен в генерал-лейтенанты и назначен генерал-адъютантом свиты императора Николая II. С 6 декабря 1907 г. – генерал от инфантерии с оставлением в звании генерал-адъютанта свиты.
Стоит подчеркнуть, что с момента восхождения Николая II на Российский престол отношение Константина Константиновича к своему теперь царствующему двоюродному племяннику несколько изменилось. В частности 14 ноября 1894 г. он зафиксировал в дневнике: «Сегодня Государева свадьба. Пройдет несколько дней, и царь сдержит данное мне обещание и приедет в полк. Мне очень недостает наших простых отношений с Ники; мы видались чуть не каждый день за те два года без малого, что Он служил у нас в строю. Теперь о милом прошлом не может быть и помину. Я не стану к Нему ездить без приглашения, считая это непочтительным и неприличным, а Ему и без меня дела довольно, и, конечно, я не жалуюсь на то, что меня не зовут. Говорю это искренно. – Болтают будто бы дяди Государевы стараются иметь влияние на царя, не оставляют Его без советов. Но я думаю, что в этих слухах говорит зависть и что это пустые сплетни».
Четыре месяца спустя, 1 марта 1895 г. Константин Константинович в своем дневнике, говоря о великом князе Николае Михайловиче (1859–1919), приходит к следующему выводу о новом сложившемся взаимоотношении между представителями большой Императорской Фамилии: «Николай [Михайлович] прислал мне свою брошюру “Последние дни жизни Государя Императора Александра III”, отпечатанную в типографии командуемого Николаем [Михайловичем] Мингрельского полка в Тифлисе. Брошюрка написана наскоро, нервно, порывисто, много лишнего, часто существенного недостает, недостаточно обдуманно, местами бестактно. Николай со мной очень приветлив, приписывает мне большое влияние на молодого Государя и упрекает меня за то, что я этим вниманием не пользуюсь. Он заблуждается. Влияния нет, а если б и было, я не считал бы себя вправе им не только злоупотреблять, но и пользоваться, пока меня не спрашивают».
Несколько лет спустя, 4 сентября 1903 г. Константин Константинович, вновь говоря о великом князе Николае Михайловиче, невольно соглашается с некоторыми его наблюдениями: «Он всегда мрачно смотрел на жизнь. Настоящее положение России представляется ему роковым, он ожидает от ближайшего будущего чрезвычайных событий. Я не могу не согласиться с ним, что причиной нашего настроения – слабоволие Государя и Его бессознательное подчинение влияниям то одного, то другого. Последний из докладывающих всегда прав». Судя по дневниковым записям, с возрастом К. Р. все более становится внимательным к великосветским слухам: «Говорят, что Николаша, Петюша, Милица и Стана получили при Дворе большое значение» (5 ноября 1905 г.). Постепенно меняются некоторые его взгляды на жизнь и отношение к отдельным личностям. В дневниковой записи от 26 января 1906 г. он уже в другом ключе характеризует великого князя Николая Михайловича: «Зашел к Николаю Михайловичу. Он держится передовых взглядов, меня называет реакционером, все критикует, бранит и, по-моему, просто зло болтает».