Столыпин рано, еще будучи студентом, женился. Для этого пришлось преодолевать недоверие руководства университета, которое с первого раза не дало своего согласия на брак, посоветовав сосредоточиться на учебе. Столыпину пришлось совмещать занятия со службой на низших чиновничьих должностях в Министерстве внутренних дел, а затем в Министерстве земледелия и государственных имуществ. С одной стороны, он считал важным сочетать теоретическую подготовку с практикой, а с другой — не пожелал перекладывать бремя забот о молодой семье на родителей.
Тринадцать лет, с 1889 по 1902 г., П.А. Столыпин служил ковенским (современный Каунас) уездным, а впоследствии и губернским предводителем дворянства. Зачастую люди, занимавшие такие должности, относились к ним формально. Для Столыпина же это стало настоящим общественным служением. Он всячески содействовал строительству сельских больниц и школ, создал сеть сельскохозяйственных складов, учредил приют для детей арестантов, приюты-ясли, народный дом в Ковно, организовывал торжества, посвященные столетию со дня рождения А.С. Пушкина. Им был подготовлен ряд аналитических записок (о страховании рабочих, о введении земского самоуправления в западных губерниях, об экспорте в Германию живого скота). Некоторые из этих записок направлялись министру внутренних дел В.К. Плеве, который заметил молодого энергичного предводителя дворянства.
Столыпин предлагал внимательно изучать современный западноевропейский опыт и по мере возможности использовать его в соответствии со сложившимися российскими реалиями. Он был человеком европейской культуры, которую хорошо знал и любил. Особый интерес у него вызывал сельскохозяйственный опыт Восточной Пруссии, где он часто бывал. Имение Столыпиных находилось в Колноберже (территория нынешней Литвы). Туда удобнее всего было проехать через Восточную Пруссию. В этих местах простые крестьяне преуспевали, а их хозяйства были очень эффективными. Столыпин сравнивал их с нищающей русской деревней центральной России и делал вывод: основное различие между системами состоит в том, что прусский крестьянин, собственник своей земли, заинтересован в результатах своего труда. А русский крестьянин, лишенный собственности, был тем самым лишен всяких стимулов к труду. Сам Столыпин, бывая в Колноберже, всегда уходил в заботы о «посевах, посадках в лесу, фруктовых садах». Особенно интересовался коневодством.
Молодой Столыпин был в полной мере земским человеком. Он мыслил категориями не петербургских канцелярий, а местных нужд и чаяний русского земледельца. Характерна сама его речь, проникнутая образами сельскохозяйственного труда, но ставящая при этом коренной вопрос всего государственного строя России — проблему права и судебной системы: «В России умеют и привыкли говорить только члены судебного ведомства. Мы, люди служилые и помещики, умеем только писать и пахать. Поэтому попробую с грехом пополам выразить свою мысль сравнением из сельскохозяйственной жизни. Когда мы обрабатываем землю, то в процессе обработки участвуют три элемента: пассивный — сама почва и орудия обработки, плуг, активно же — пахарь — лицо, одухотворяющее работу своей мыслью, направляющего его своей волей. Успех работы зависит от него и он ведет хозяйство по пути сельскохозяйственной культуры. Нечто подобное мы видим и в деле народного правосудия. Народ, общество, судебные учреждения, закон представляют из себя элемент пассивный, пахарем же является судья, двигающий общество вперед по пути культуры нравственной. Разница тут в одном: земля в случае дурной ее обработки мстит неурожаем, но молчит, не ропщет, общество же без ропота неправосудия не переносит». Эти слова были произнесены 27 апреля 1897 г. на юбилее съезда ковенских мировых судей.
В 1902 г. Петр Столыпин был назначен гродненским губернатором. На посту руководителя местной администрации он оставался общественным деятелем, открытым для диалога с различными группами населения. Гродненская губерния была одной из «проблемных» в Российской империи в связи с ее многонациональным и многоконфессиональным составом. В бытность губернатором Столыпина в ней мирно уживались русские, поляки, евреи, белорусы. На этом посту Столыпин сформировался в деятеля общегосударственного масштаба. Определяющими для него были не узкорегиональные, а общенациональные интересы России. Здесь Столыпин впервые остро ощутил важность и жизненную необходимость сохранения империи как целого. Опыт работы в западных губерниях России способствовал формированию его как государственника, оценивающего и решающего региональные проблемы в контексте общенациональных.