В 1877 году началась война с Турцией. Общественный подъем был огромным. Мало нашлось людей, которые не считали своим долгом хоть как-то поучаствовать в деле освобождения славян. Николай Алексеевич вошел в состав санитарного отряда московского дворянства. Там же оказался будущий лидер кадетов П.Н. Милюков. В 1925 году, в связи со смертью Хомякова, он написал статью, в которой рассказал об этой их первой встрече. Летом 1877 год отряд стоял в Закавказье, в городе Сураме. Н.А. Хомяков был в отряде уполномоченным, а выпускник гимназии Милюков вместе с молодым князем Н.Д. Долгоруковым заведовали хозяйством отряда. «Хомяков, к нашему большому удивлению – больше, чем неудовольствию, – значительную часть дня пролеживал на кровати. Зной действительно стоял страшный, и я сохранил воспоминания, как о настоящем мученичестве, о моих поездках в раскаленный Тифлис за деньгами для отряда».
На память о военном времени у Хомякова остались два ордена. Один из них, Святого Владимира 4-й степени, ему вручили за присутствие в составе санитарного отряда при штурме Карса. Более чем через двадцать лет, когда Николай Алексеевич стал председателем Государственной думы, сербы вспомнили об этом героическом эпизоде его карьеры и наградили орденом Саввы 1-й степени.
Вернувшись с войны, Хомяков поселился в Липицах и в 1880 году стал уездным предводителем дворянства – это и явилось началом общественной деятельности. Через шесть лет он становится уже губернским предводителем, оставаясь в должности целых десять лет. Хомякова избирали четыре раза подряд, пока министр земледелия А.С. Ермолов не пригласил его занять пост директора Департамента земледелия своего министерства. Он принимал участие в заседаниях Сельскохозяйственного совета, и К.Ф. Головин, также участвовавший в работе совета, вспоминал, что Николай Алексеевич «обладал в высокой степени даром красно говорить. Дикция его была превосходна, с огоньком, и речи его произносились на благодарную тему, что у земства руки связаны правительством, которое само ничего плодотворного не принимает». По выражению того же Головина, Хомяков был «администратором нового типа, чуждым всякой условности и напыщенности».
Новый директор Департамента земледелия внес большие изменения в его деятельность. В 1899 году был учрежден институт правительственных инспекторов. Как много лет спустя вспоминал Н.Н. Львов, Хомяковым «была создана широкая агрономическая организация, где работа правительственных уполномоченных была связана с деятельностью местных органов самоуправления, в результате чего установилось самое плодотворное сотрудничество земства и правительства, давшее такой высокий подъем в области сельскохозяйственной помощи населению».
И все же Н.А. Хомяков не отличался большой административной энергией, бюрократический стиль управления был ему чужд, и в министерстве он себя чувствовал не в своей тарелке. Еще в 1900 году он говорил председателю Московской губернской земской управы Д.Н. Шипову о своем желании сложить должность директора департамента. Наконец в 1902-м ему удается сбросить нелюбимое бремя, и он с радостью возвратился в родную Сычевку: «Да так бы и не уехал оттуда, если бы не эта политика».
Николай Алексеевич так впоследствии комментировал свою отставку: «Канцелярская служба не по мне или я не по ней, как хотите. Мертвое это дело, канцелярия. А тут еще начались гонения на лесной департамент, борьба нашего министерства с министерством финансов. С.Ю. Витте был тогда в полной силе, а наш А.С. Ермолов как-то все ему уступал… Выходило, что мы были в каком-то подчиненном положении у Витте, а это было очень неприятное сознание. Я не выдержал и бросил службу. Но с А.С. Ермоловым я и посейчас в самых хороших отношениях, в самых дружеских…»
Хорошие отношения сохранились у бывшего директора и с другими сослуживцами. 22 сентября 1910 года он получил от них телеграмму: «Дорогой Николай Алексеевич! Уполномоченные по сельскохозяйственной части, собравшись дружной семьей, шлют Вам горячий привет, вспоминая Ваши труды по учреждению института уполномоченных, и искренно уверяют, что основы, положенные Вами, живы и до настоящего времени».
Как и подобает прирожденному общественному деятелю, Хомяков не остался в стороне от земского движения и вновь был избран предводителем уездного дворянства. «Своего предводительства, – говорил он, – не брошу, ни за что не брошу». Смоленская губерния отвечала взаимной любовью; по словам Н.Н. Чебышева, «она носила его на руках». Хомяков присутствовал практически на всех земских съездах, его приглашали на разнообразные совещания. Как и многие другие земцы, с начала Русско-японской войны Николай Алексеевич принял активное участие в помощи раненым, с 1904 года став главноуполномоченным объединенного дворянства по Красному Кресту.