Его соратник по Конституционно-демократической партии (Партии народной свободы) И.В. Гессен, опубликовавший в 1934 году воспоминания Петрункевича в серии «Архив русской революции», писал, что с программой «преобразования государственного устройства России на бессословных, конституционных началах, отнюдь не путем насильственного переворота», служившей ему путеводной звездой, И.И. Петрункевич прошел «через всю свою долгую жизнь, вперив острые колючие глаза в эту звезду, только ее и видя пред собою и не сбиваясь ни на йоту с указываемой ею дороги. На своем пути, отнюдь не усеянном розами, он не знал никаких компромиссов, его девизом было: выполняй свой долг, и пусть будет, что будет!» Так в жизни Петрункевича начался период работы в земстве.
В 1864 году произошла земская реформа. Ее образную характеристику дал И.П. Белоконский, автор самой основательной дореволюционной работы по истории земского движения. «Русский режим никогда не способствовал мирному и планомерному разрешению назревающих народных нужд. Русское правительство по отношению к освободительному движению во все времена применяло, если можно так выразиться, шлюзную систему. Как только замечало оно проявление „вольного духа“ среди населения, тотчас воздвигало шлюз. Когда он заполнялся недовольством и последнее начинало переливаться через первый шлюз, правительство ставило второй, третий и так далее, совершенно не соображая, что при таком способе самый источник недовольства не только не уничтожался, а страшно возрастал и что в конце концов никакой шлюз не будет в состоянии сдержать напора недовольства, которое постепенно переходит в негодование, в злобу, в отчаяние».
Таким шлюзом, по мнению Белоконского, были земские учреждения. В 1865 году они были введены и в Черниговской губернии. В это время Петрункевич учился в Санкт-Петербургском университете, но случайно оказался в гостях у служившего в Чернигове отца как раз во время открытия губернского земского собрания. Это событие произвело на него огромное впечатление. По его собственному признанию, «воображение далеко вышло за пределы этой залы и этого момента и рисовало картины будущего, которое казалось таким близким…».
По составу присутствующих, за исключением пятерых малороссийских казаков из девяноста гласных, земское собрание напоминало дворянское. Его первые заседания были абсолютно деполитизированы. Петрункевич считал, что этот принцип устарел, так как на повестку дня стали выходить вопросы, вызывающие столкновение хозяйственных, сословных и политических интересов. К тому же земские учреждения были фактически единственными, в которых работали избранные народные представители.
В 1867 году, вернувшись в Плиску – свое родовое имение, Петрункевич задумался о том, что старый порядок и здесь должен уступить место новому. Для этого следовало найти единомышленников и выиграть выборы в земство на следующее трехлетие. В 1867 году он осваивался в новой для себя роли владельца имения, которое было передано ему отцом. Петрункевич первым делом отказался от пятой части выкупной ссуды, которая причиталась ему от крестьян. Помимо мировоззренческих причин, здесь могли быть и практические соображения: Петрункевич далеко не бедствовал, а означенная акция практически гарантировала ему место в земском собрании в качестве гласного от крестьян.
Впрочем, дворянство Борзненского уезда Черниговской губернии состояло далеко не из одних только либералов. В то же время оно, и только оно было той реальной силой, которая могла практически работать в земстве. Крестьяне не обладали для этого ни образованием, ни каким-либо подходящим опытом, ни необходимым положением в губернии. Поэтому у Петрункевича возникла необходимость поиска единомышленников в дворянской среде. Ее он подразделял на три группы. Это ретрограды, не желавшие приспосабливаться к новому порядку; карьеристы, стремившиеся исключительно к личному успеху, и, наконец, третья группа, которую Петрункевич считал своей.
Вспоминая идеи, объединявшие эту последнюю группу в конце 1860-х годов, Петрункевич был достаточно самокритичен. «Конечно, можно сказать, что это были мечты, ни на чем не основанные, но не надо забывать, что это было время великих реформ, когда не только молодежь, но и люди почтенного возраста помолодели и строили планы для будущей России». Семерых «мечтателей» объединила идея обновления России на почве осуществленных крестьянской, земской и судебной реформ. Понимая всю их непоследовательность, они считали, что «общество получило благодаря этим реформам точку опоры и почву для общественно-полезной работы, которая сама по себе неизбежно должна была раздвинуть рамки, установленные правительством, и подготовить страну к самому широкому самоуправлению».