По возвращении в столицу он узнает неожиданную новость – императрица делает его олонецким губернатором, указ о назначении вышел 23 мая 1784 года. Державин пробыл в Олонецкой губернии менее года, но и за это время успел немало – открыть больницу, установить таможню на границе со шведской Лапландией, пресечь крестьянские беспорядки, издать распоряжение против самосожжения раскольников и затеять много других полезных начинаний. Однако у медали была и другая сторона. У Державина непросто складываются отношения с генерал-губернатором Тутолминым. Открытый, правдолюбивый поэт пришелся явно не по душе заносчивому и честолюбивому вельможе, не терпевшему возражений и пререканий. Тутолмин начал жаловаться.
Императрица вызвала Державина к себе и, пожурив для порядка, предложила новую должность. 15 декабря 1785 года он был поставлен тамбовским губернатором и прослужил в Тамбове почти три года. Здесь он тоже энергично принялся за преобразования: открыл народное училище, театр, учредил губернскую газету, навел порядок в присутственных местах, добился исправности в сборе податей и недоимок, отремонтировал старые и возвел немало новых зданий. Еще он добился значительного улучшения состояния местной тюрьмы – там были устроены кухня и лазарет, некоторых колодников отпустил «по распискам и поручительствам», рассадил всех заключенных «по особым номерам, по мере их вин и преступлений». В расследование преступлений Державин всегда вникал лично, особенно пресекал злоупотребления полиции. В 1786 году за свою службу он даже получил орден Святого Владимира III степени, однако административная деятельность всегда приносила поэту больше огорчений, чем радости. Так случилось и на этот раз. Вскоре у Державина возникла серьезная стычка с генерал-губернатором Гудовичем по делу тамбовского купца Бородина, который обкрадывал казну да вздумал еще учинить мошенничество, ложно объявив о банкротстве. Державин мириться с этим не мог и своей властью наложил арест на имущество купца. Генерал-губернатор встал на защиту Бородина и направил в Сенат рапорт о самоуправстве Державина, прося «удалить» его из губернии. Дело закончилось тем, что Державин был отозван из губернии и отдан под суд Правительствующего сената. В конце концов, благодаря заступничеству князя Г. А. Потемкина, которому он посвятил оду «Победитель», Державин был оправдан, но все же в августе 1789 года уволен в отставку.
В декабре 1791 года Гаврила Романович наконец-то получил место кабинет-секретаря ее императорского величества Екатерины II. Он готовил для нее еженедельные доклады по сенатским приговорам. Дела всегда изучал серьезно и скрупулезно, так что никакого отступления от законов не допускал. Его замечания нередко шли вразрез с мнением генерал-прокурора, не всегда они нравились и самой императрице, которой правдивость поэта довольно быстро наскучила, и она предложила обращаться с замечаниями не к ней, а к обер-прокурорам Сената.
В сентябре 1793 года Гаврила Романович был награжден орденом Святого Владимира II степени, чином тайного советника и назначен сенатором по межевому департаменту. С 1 января 1794 года Державин одновременно становится президентом Коммерц-коллегии.
15 июля 1794 года его постигло тяжелое горе – умерла жена Екатерина Яковлевна. Поэт горько оплакивал свою незабвенную Плениру. Он долго был «погружен в совершенную горесть и отчаяние». Державин писал тогда И. И. Дмитриеву: «…теперь для меня сей свет совершенная пустыня».
В 1795 году Гаврила Романович вступил в новый брак – с девицей Дарьей Алексеевной, дочерью обер-прокурора Дьякова, «Миленой», как он любил называть ее в стихах. С ней он прожил до конца своих дней.
При Павле I Державин оставался сенатором и был назначен правителем канцелярии Совета при его императорском величестве. Однако не прошло и месяца, как последовал указ: «Тайный советник Таврило Державин, определенный правителем канцелярии нашего Совета, за непристойный ответ, им пред нами учиненный, отсылается к прежнему месту». «Непристойный ответ» заключался в том, что Державин посмел спросить императора, кем он должен быть в Совете – присутствующим или только начальником канцелярии.
До 1800 года он оставался сенатором, выполняя различные поручения, в числе которых была поездка в Могилевскую губернию, где он разбирался с жалобой некоего Зорича. Затем был уполномоченным в Белоруссии по борьбе с голодом и получил после возвращения чин действительного тайного советника и почетный командорский крест Мальтийского ордена. Вновь возглавлял Коммерц-коллегию, был государственным казначеем и членом Императорского совета. В 1801 году ему был вручен орден Святого Александра Невского. В 1801–1802 годах командирован в Калугу для производства следствия о злоупотреблениях губернатора Лопухина.