По словам Бартенева, «…места голов, старост, сотских и прочих продаются порочнейшим поселянам… Сотские и прочие облагаются от исправников и стряпчих налогом таким же образом, как исправники облагаются губернатором и стряпчие прокурором… Определенные таким образом чиновники платимые ими за свои места деньги высасывают из народа разными поборами, притеснениями и нарушением правосудия. При заплате государственных податей сверх того количества, которое входит в казну, взимается с каждой ревизской души в обе половины по 20 к. и более, с каждого пашпорта сверх казенной пошлины берется по 2 или 3 р.; за свидетельство на торговлю сверх казенных пошлин платится по 100 р. и по 200 р. смотря по капиталу».
И, как следствие: «В Костромской губернии с 1807 г. и поныне, т. е. во все время управления оною бывшим губернатором Пасынковым и нынешним Баумгартеном, многие достойные дворяне, по причинам подобным вышеозначенным, отклонялись от занятия мест даже самых почтеннейших, большею частию не приезжают и на выборы. Таким образом, Дворянское собрание наполняется наиболее такими только людьми, которые привлечены туда из видов корысти… В Костроме недавно было два случая во время выборов, где можно видеть власти губернатора и заговор выборов; выбраны были в уездный город Ветлугу два кандидата в исправники: Шишкин, который безвыходно под судом за лихоимство находится, и другой Рубановский; Рубановскому было положено 20 голосов, а Шишкину 18 и представлены оба на утверждение. Губернатор утвердил Шишкина, нашел какие-то причины не утвердить Рубановского».
Прикрытие губернатору обеспечивал ранее упомянутый генерал Бортов: «Полицмейстер ему племянник: с губернатором он в связях и во многих случаях помогал ему в Петербурге». Пользовался губернатор и поддержкой члена Государственного Совета В. С. Ланского, что позволяло ему и его чиновникам осуществлять самые дерзкие операции. Так, губернатор, вице-губернатор С. М. Ушаков и управляющий винной экспедицией П. Н. Колюпанов были замешаны в махинациях с кизлярской водкой. По сообщению начальника 3-го отделения 2-го округа корпуса жандармов полковника С. В. Перфильева, для сокрытия злоупотреблений исправников губернатор не брезговал даже подменой донесений и рапортов, поступавших на его имя.
Названные и многие другие факты лихоимства были установлены в результате ревизии Костромской губернии сенатором Е. А. Дурасовым, комиссии которого губернские чиновники, связанные круговой порукой, препятствовали как могли: «В первых числах февраля сего года от земских судов схвачены были у экономических крестьян черновые расходные тетради и почти по всей губернии истреблены. Известно, что в сих тетрадях крестьяне вписывают, для своих учетов, все поборы и подарки чиновникам», а полковник Перфильев сообщал стих, ходивший по Костроме:
«Большая часть чиновников в унынии и беспокойстве ожидают решения своей участи, в утешение же и оправдание говорят, что они могут быть несчастливы только потому, что Костромская губерния подпала под ревизию, но что открываемые здесь злоупотребления и упущения существуют повсеместно, вообще же поставляют сему причиной недостаточные оклады жалованья, не доставляющие никакой возможности и средства к содержанию… Ревизию находят пристрастною, что г. сенатором посланы были… явные враги губернатору и его приближенным, домогаясь показаний на счет злоупотреблений… прибегали к непозволительным средствам, кормили некоторых икрой и, томя жаждой, достигали своего намерения…»
Итогом ревизии стало отрешение от должностей и предание суду более 100 чиновников. В ноябре 1827 г. был отправлен в отставку и губернатор. «Баумгартен уехал в Петербург, старик плакал, прощаясь, все жалели его нелицемерно, не входя, каков он как губернатор, но для общества, как хозяин своего дома, он был человек прекрасный, преобходительный и преласковый… многие провожали его до первой станции, некоторые же до Ярославля».
26 июня 1831 года К.-В. И. Баумгартен умер от холеры и был похоронен на Холерном кладбище на четвертой версте по линии Царскосельской железной дороги. У него остались сыновья Лев (около 1800 — около 1860), Николай (09.02.1809-19.06.1886), Аполлон (30.03.1812-20.10.1865), Александр (19.03.1815-04.05.1883), Евгений (21.04.1817-16.09.1880) и дочери Мария (05.08.1800-17.12.1862), бывшая замужем за историком и географом К. И. Арсеньевым (12.10.1789-29.11.1865), и Каролина (05.02.1806- 15.07.1843), бывшая замужем за отставным капитан-лейтенантом Н. А. Аргамаковым (1794-?).