За пятнадцать лет, с 1848 по 1863 год, институт сумел выпустить только лишь около 500 агрономов.
В 1863 году институт был закрыт, затем переведен в Петербург, в здание незадолго перед тем упраздненного «за ненадобностью» единственного в стране Лесного института.
В сентябре 1865 года был проведен первый прием в Петербургский земледельческий институт; в него было зачислено 19 студентов и 5 вольнослушателей. В следующем, 1866 году в институт приняли 18 студентов и 17 вольнослушателей и в их числе Павла Костычева.
Курс обучения был трехлетний, экзамены сдавали в конце каждого учебного года, в мае — июне. На первом курсе студенты слушали физику, химию, геодезию, минералогию, ботанику, зоологию и политическую экономию. Костычев уделял достаточное внимание всем предметам и с интересом работал в физическом, минералогическом и зоологическом кабинетах, но с наибольшим рвением он отдается изучению ботаники и химии.
С. П. Карельщиков, переехавший в Петербург в 1865 году, сумел за один год создать в институте хорошо оборудованный ботанический кабинет; здесь были новейшие микроскопы, довольно большой гербарий, прекрасные таблицы и рисунки, которыми Сергей Петрович иллюстрировал свои увлекательные лекции. Он попрежнему любил ботанические экскурсии и сразу же привлек к ним Костычева. К экскурсантам нередко присоединялся друг Карельщикова — молодой талантливый ботаник Розанов, служивший в то время библиотекарем в Петербургском ботаническом саду. После смерти Карельщикова Розанов вспоминал, с каким самозабвением отдавался его друг ботаническим исследованиям: «С ранней весны и до поздней осени бродил он в свободные от лекций часы с капсюлькой, сачком и лопатой по окрестностям Лесного института. Никакая погода не могла остановить его… По колени в воде, весь нагруженный своею добычей, он целые часы стоял и бродил в болоте, отыскивая какую-нибудь водоросль… Придя домой, он садился прямо за микроскоп или шел в кабинет для занятий… Поздней осенью, когда уже все было покрыто толстым слоем снега, я встречал его с откопанными из-под снега заростками папоротников или мхами». Научный энтузиазм Карельщикова увлекал Костычева и других студентов: они стремились походить на своего учителя. Располагал он их к себе и своим замечательным характером. «Человек простой и не знавший титулов, прямой, всегда открыто ратовавший за правду и против кривды», — вот каким рисовался Карельщиков всем близко знавшим этого скромного, но замечательного ученого.
Результаты его неустанных трудов скоро проявились: в 1867 году он блестяще защитил в Московском университете магистерскую диссертацию «О размещении и развитии устьиц на листьях цветковых растений». Это был важный вопрос, так как с числом устьиц связана транспирация растений, то-есть выделение ими воды в атмосферу для поддержания температуры листьев на определенном уровне. Работа Карельщикова создавала научную основу для представлений о водном и тепловом режиме растений. Костычев прочитал диссертацию Карельщикова еще до ее защиты; исследования учителя очень заинтересовали ученика. Было доказано, что «численность устьиц на листьях представляет у каждого растения определенный максимум и минимум». Теорию развития устьиц, предложенную иностранными ботаниками — Карстеном и Зорауром, молодой русский ученый отверг как «абсолютно неправильную». Он на огромном экспериментальном материале вскрыл закономерности размещения устьиц на листьях разных растений и пришел к новым важным выводам, что «двудольные отличаются разнохарактерным положением устьиц, а однодольные параллельным» и что «устьица принадлежат верхней кожице и помещаются всегда в ряду ее клеточек».
Глубоко заинтересовавшись водным режимом растений, Костычев быстро замечает, что у Карельщикова этот вопрос затронут лишь с анатомической стороны. Физиология устьиц, их «работа», количество выделяемой ими влаги, связь всех этих явлений с поступлением воды из почвы в корневую систему растений — все это оставалось неосвещенным. Костычев просматривает русские и немецкие ботанические и агрономические журналы и выбирает из них все интересные статьи по водному режиму растений. Плодом этой работы молодого ученого явилась статья «Откуда растения берут воду?», которую Костычев опубликовал в одном из номеров журнала «Сельское хозяйство и лесоводство» за 1869 год.
Еще осенью 1866 года Карельщиков и Костычев занялись изучением корневой системы некоторых луговых трав. Молодых ученых интересовал вопрос о размножении этих трав корневой порослью. С увлечением копал Костычев влажную петербургскую почву, и его глазам открывались тайны подземной жизни луговых растений: в почве они образовывали целый лабиринт корней, которые уходили от самого растения в стороны иногда на несколько метров. «Жирные» спрятанные в почве корни не боялись морозов, хорошо перезимовывали и весной давали жизнь новым буйным надземным побегам. Эти травы благодаря особенностям строения их корневой системы являлись многолетними, что и обеспечивало им большую жизнестойкость и успешное распространение. Сорные растения этой группы, попадая на поля, делались сущими бичами для земледельца, искоренить их было очень трудно, особенно теми орудиями обработки почвы, которые были в распоряжении крестьян Петербургской губернии.