Молодой образованный поручик, сочувствовавший народу, на этом фоне заметно выделялся в лучшую сторону. Очень быстро Лиза и Константин полюбили друг друга. Однако прошло несколько лет, прежде чем они стали мужем и женой. Вскоре после подавления польского восстания поручик Крупский был назначен уездным воинским начальником в Кельце.
Одной из главных его задач стало проведение аграрной реформы. Эту реформу российские власти инициировали в Королевстве Польском, чтобы ослабить шляхту и вбить клин между ней и польским крестьянством. Осуществление реформы облегчалось тем, что многие помещики за участие в восстании были сосланы в Сибирь, а их земли конфискованы. Впрочем, и оставшиеся в Королевстве шляхтичи за изъятые в пользу крестьян земли получили не более чем почти символическую компенсацию. Были также конфискованы все земли и капиталы католической церкви, закрыты многие монастыри. Теперь правительство стремилось опереться на крестьянство и нарождающуюся польскую буржуазию против шляхты. Реформа местного самоуправления привела к тому, что шляхта потеряла какие-либо льготы при выборах войтов – старшин, возглавлявших гмины (административные единицы, аналогичные русским волостям). Это обстоятельство объективно привело к сближению положения шляхтичей и крестьян, но сословная отчужденность между ними сохранилась.
Константин Игнатьевич успешно справлялся со своими обязанностями. Ему удавалось поддерживать баланс между интересами крестьян и помещиков. Со многими из шляхтичей Крупский был дружен, а к простому народу испытывал симпатию, естественную для человека демократических убеждений. В 1866 году Крупского произвели в капитаны.
В 1867 году в Петербурге открылась Военно-юридическая академия. Константин Игнатьевич и его старший брат Александр решили поступить туда, благополучно выдержали экзамены и были зачислены на первый курс. Успешное окончание академии открывало возможность карьеры в сфере военной юстиции и администрации. Очевидно, капитан Крупский, поработав уездным воинским начальником, нашел свое призвание в сфере управления. Здесь он надеялся дать достойное применение своим силам и хоть чем-то облегчить положение народа. Казалось, начатые Александром II реформы дают основание рассчитывать на реализацию подобных замыслов. Однако всего лишь через несколько лет надежды Константина Крупского пошли прахом.
Константин Игнатьевич и Елизавета Васильевна поженились в 1868 году, вскоре после переезда в столицу. Первое время молодожены поселились у родственников Тистровых на Офицерской улице, недалеко от набережной Мойки, где располагалась Военно-юридическая академия. Здесь 14/26 февраля 1869 года у них родилась дочь Надежда, которой и суждено было оставить в веках память о роде Крупских. Втроем было тесно в маленькой комнате, и некоторое время спустя семейство переехало в более просторную, но отдаленную от центра квартиру у Аларчина моста вблизи слияния речек Пряжки и Кривуши (последняя теперь называется каналом Грибоедова). В средствах Крупские были по-прежнему стеснены, и Константин Игнатьевич, чтобы сэкономить на конке, продолжал ходить на занятия пешком. А ведь путь теперь был не близкий.
В сентябре 1869 года капитан Крупский окончил Военно-юридическую академию по 2-му разряду. Это не позволило ему получить должность в органах военной юстиции. В связи с этим Константина Игнатьевича уволили в отставку «из-за невозможности использоваться на российской военной службе». Только в феврале 1870 года ему удалось получить должность уездного начальника в городке Гроец под Варшавой. В связи с этим капитану Крупскому был присвоен гражданский чин коллежского асессора, соответствующий армейскому майору. Поскольку военные чины ценились более гражданских и их обладатели официально имели преимущество в чинах одного и того же класса перед статскими, то при поступлении на гражданскую службу военные обычно получали чин одним классом выше.
Надежда Константиновна в 1925 году вспоминала: «Отец был очень горячий человек… Он считал, что в Польшу должны ехать служить честные люди. Когда он приехал в назначенный ему уезд, там делались всякие безобразия – евреев вытаскивали на площадь и под барабанный бой стригли им пейсы, полякам запрещали огораживать свое кладбище и гоняли туда свиней, которые разрывали могилы. Отец прекратил все эти безобразия. Он завел больницу, поставил ее образцово, преследовал взяточничество и заслужил ненависть жандармерии и русского чиновничества и любовь населения – особенно поляков и еврейской бедноты».