Затем начала выходить губернская газета «Тамбовские известия» — первая провинциальная газета в России. (Вторая такая газета начала выходить на родине Державина, в Казани, только в 1811 г.). В записках среди прочих своих заслуг он не без гордости упоминает «губернские ведомости о ценах хлеба, чем обуздывалось своевольство и злоупотребление провиантских комиссионеров, и о прочем к сведению обывателей нужном».
Первый номер «Тамбовских известий» открывался сообщениями о праздновании в Тамбове Нового года, прошедшей литургии, иллюминации города и состоявшемся в губернаторском доме представлении драмы «Взятие острова Святой Лукии» (День поминовения Святой Лючии протестанты и католики отмечали 26 декабря по юлианскому календарю, он был связан с факельными шествиями и подготовкой к Рождеству). Позже здесь публиковались сенаторские указы, предписания наместнического правления, известия из разных городов и мест губернии, объявления о заседаниях городских дум и дворянского собрания, о прохождении воинских команд, об общегородских праздниках и чрезвычайных происшествиях. В газету подавали объявление о продаже и покупке, о поиске работников, а также сравнить цены на продукты в Тамбовской и соседних губерниях. Здесь публиковались сведения о торжественных обедах, ужинах и балах, спектаклях и концертах, о родившихся, сочетавшихся браком и умерших, списки приехавших в губернский центр и выехавших из него чиновников, а также стихи местных поэтов.
При деятельном участии нового губернатора в Тамбове открылось Первое народное училище. Тамбовские мещане не спешили послать туда своих детей, и Державину приходилось поручать полиции собирать школьников по домам. Так как дворяне также неохотно отдавали детей в «казенное училище», Державин организовал подобие частного пансиона прямо в губернаторском доме, давая возможность учителям заработать прибавку к своему жалованию. «Не только одни увеселения, но и самые классы для молодого юношества были учреждены поденно в доме губернатора, — писал он. — Таким образом, чтобы преподавать, учение дешевле стоило и способнее, и заманчивее было для молодых людей…». Здесь также могли учиться дворянские дочери, так как в городе «считалось за непристойное брать уроки девицам в публичной школе. Дети и учителя были обласканы, довольствованы всякий раз чаем и всем нужным, что их чрезвычайно утешало и ободряло соревнованием друг против друга». Позже Державин открыл малые народные училища в уездных городах Лебедяни, Козлове, Елатьме, так же открыли класс итальянского пения на радость тамбовским купцам, ценителям красивого пения в церквях.
По вечерам Гавриил Романович и Екатерина Яковлевна устраивали балы и праздники для тамбовской молодежи. «Но они не токмо служили к одному увеселению, — вспоминает Державин, — но и к образованию общества, а особливо дворянства, которое, можно сказать, так было грубо и необходительно, что ни одеться, ни войти, ни обращаться, как до́лжно благородному человеку, не умели, или редкие из них, которые жили только в столицах». Державины специально выписали из Петербурга танцмейстера и открыли в своем доме танцевальный класс.
А еще в доме губернатора вскоре организовали небольшой театр, «на котором, — пишет в мемуарах Державин, — юноши и девицы представляли разные нравоучительные драмы и комедии». Тексты представлений зачастую сочинял сам Гавриил Романович. А Екатерина Яковлевна помогала организации представлений. Она организовала «актерские курсы», некоторые выпускницы которых позже стали профессиональными актрисами, а одна из воспитанниц губернаторши — Мария Орлова-Маслова — уже после отъезда Державиных из Тамбова сама ставила пьесы в Тамбовском театре.
«Сие все было дело губернаторши, которая была как в обращении, так и во всем в том великая искусница и сама их обучала. Сие делало всякий день людство в доме губернатора и так привязало к губернаторше все общество, а особливо детей, что они почитали за чрезвычайное себе наказание, ежели когда кого из них не возьмут родители к губернатору», — рассказывает гордый муж в своих «Записках».
28 июня 1786 года в доме Державина был дан спектакль в честь восшествия на престол Екатерины II, который посетил генерал-губернатор Иван Васильевич Гудович. В честь праздника поставлена пьеса-аллегория, сочиненная самим Державиным. Гудовичу постановка понравилась, и он поручил Державину построить в городе постоянный театр и нанять профессиональную труппу.