В 1818 году Румянцев сам отправился в Оршу и в 24 верстах от города, на дороге, ведущей к Толочину, извлек из забвения надгробный камень внука Мономахова, скончавшегося в XII столетии. Оршинский камень, занимающий первое место после камня Тмутараканского, – из сероватого гранита, шириною в 3 аршина и 6 вершков, длиною в 4 аршина и 4 вершка. На нем находится следующая надпись: “Въ лето 6679 (1171) мес. мая въ 7 день успе; Господи, помози рабу своему, Василию въ крещении, именемъ Рохволду, сыну Борису”.
Для приобретения древних рукописей и старопечатных книг Канцлер ежегодно посылал знатоков этого дела на Нижегородскую ярмарку. Во время своих поездок в Гомель Румянцев успел также приобрести много замечательных рукописей. На счет его были отписываемы все редкие рукописи, хранившиеся в разных местах России, которых нельзя было приобрести, и в особенности рукописи библиотек: Московской Синодальной, Новгородской Софийской, Московского архива Коллегии иностранных дел и многих других библиотек, большею частью монастырских.
Несмотря на преклонные лета свои, Канцлер готовился совершить еще многое. Он имел намерение издать “Древние путешествия россиян”. В состав этого собрания должно было войти 36 авторов. Граф Румянцев уже успел было собрать их всех, но смерть помешала этому предприятию.
Нельзя умолчать еще об одном пожертвовании, сделанном им в последние годы жизни в пользу русской истории. Желая поощрить к занятию отечественной историей учеников Киевской Духовной Академии, он положил на вечные времена капитал в 3000 рублей с тем, чтобы проценты с оного отдавались ежегодно за признанное лучшим сочинение студента Киевской Академии касательно русской истории.
Двенадцать лет, проведенных Румянцевым в уединении, лет тяжких, сопровождаемых все более и более усиливавшеюся болезнью, были блистательною эпохою изысканий отечественных древностей. Вся тогдашняя историческая деятельность (с 1814 по 1826 год) сосредотачивалась около этого великого человека и патриота и жила более или менее значительными его пожертвованиями. Умер этот неусыпный деятель, и историческая деятельность тотчас же прекратилась. Правительство, сознавая всю важность великой мысли графа Румянцева и не видя в частных лицах готовности поддерживать его предприятия, приступило само к исполнению того, чего не в силах был сделать даже и знаменитый Румянцев. Оно положило издать все древние памятники отечественной истории, уцелевшие до наших дней», – писал Старчевский.
Скончался Николай Петрович Румянцев 3 января 1826 года и похоронен был в своем имении в Гомеле. Перед смертью Румянцев завещал словесно, «чтобы все богатое его собрание книг и других редкостей осталось для общей пользы».
Согласно его последней воле, не только все собранное им, но и дом на Английской набережной отошел казне для создания музея. И через пять лет, в 1831 году, в Петербурге был открыт «Румянцевский Музеум». В газете «Санкт-Петербургские Ведомости» появилось по этому поводу следующее объявление: «С 23-го ноября сего года Румянцевский Музеум открыт для публики на основании Высочайше утвержденного в 28 день мая 1831 года Учреждения сего Музеума, в коем § 2-м постановлено: каждый понедельник с 10-ти часов утра до 3-х пополудни Музеум открыт для всех, желающих осматривать оный. В прочие дни, кроме воскресных и праздничных, допускаются те посетители, кои намерены заниматься чтением и выписками в Музеуме, где могут они для сего оставаться – зимою с 10-ти часов утра до захождения солнечного, а летом с 10-ти часов утра до 8-ми часов вечера». На фронтоне здания сделали ту самую надпись, что впоследствии была повторена в Москве: «От государственного канцлера графа Румянцева на благое просвещение».
Штат музея состоял всего из четырех человек, и это в какой-то мере отражало отношение к новому просветительскому учреждению и со стороны власти, и со стороны общества. Неудивительно, что современники расценили основание Румянцевского музеума не началом, а концом развития его ценнейшей библиотеки. Читателей было негусто, а потому вся работа служителей состояла, как писал М. М. Клевенский, «в перестановке и в перешифровке книг, в составлении новых каталогов на старые фонды, в выдаче книг немногочисленным читателям. Но живой связи с современностью библиотека Музеума не имела, и в силу этого ее значение постепенно уменьшалось. Самостоятельное существование библиотеки через 20–30 лет после передачи музея в казенное ведомство было уже нецелесообразно».