Сохранив звание члена Государственного совета, Аракчеев отправился путешествовать за границу; его здоровье уже было надломлено. В 1833 г. Аракчеев внес в государственный заемный банк 50 000 руб. ассигнациями, с тем чтобы эта сумма оставалась в банке девяносто три года неприкосновенною со всеми процентами. Три четверти из этого капитала должны быть наградой тому, кто напишет к 1925 г. (на русском языке) лучшую историю царствования Александра I. Остальная четверть предназначена на издержки по изданию этого труда, а также на вторую премию, и двум переводчикам по равной части, которые переведут с русского на немецкий и на французский языки удостоенную первой премии историю Александра I. Аракчеев соорудил перед соборным храмом своего села великолепный бронзовый памятник Александру, на котором сделана следующая надпись: «Государю-Благодетелю, по кончине Его».
Последним делом Аракчеева на пользу общую было пожертвование им 300 тыс. рублей для воспитания из процентов этого капитала в Новгородском кадетском корпусе бедных дворян Новгородской и Тверской губерний, а также 50 тыс. руб. Павловскому институту для воспитания дочерей дворян Новгородской губернии. После смерти Аракчеева Новгородский кадетский корпус получил наименование Аракчеевского в связи с передачей ему имения Аракчеева и капитала в размере 1,5 млн руб. Еще в 1816 г. Александр I утвердил духовное завещание Аракчеева, поручив хранение завещания Правительствующему сенату. Завещателю предоставлено было избрать наследника, но Аракчеев не исполнил этого. Николай I признал за лучшее средство отдать навсегда Грузинскую волость и всю принадлежащую к ней движимость в полное и нераздельное владение Новгородскому кадетскому корпусу, с тем чтобы он обращал доходы, получаемые с имения, на воспитание благородного юношества и принял имя и герб завещателя.
Здоровье Аракчеева между тем слабело, силы изменяли. Николай I, узнав о его болезненном состоянии, прислал к нему в Грузино лейб-медика Вилье, но последний не мог уже помочь, и накануне Воскресения Христова, 21 апреля (3 мая) 1834 г., Аракчеев скончался, «не спуская глаз с портрета Александра, в его комнате, на том самом диване, который служил кроватью Самодержцу Всероссийскому». Он все кричал, чтобы ему продлили жизнь хотя бы на месяц, наконец, вздохнув, проговорил: «Проклятая смерть», — и умер.
Перед похоронами на него надели холщовую рубашку, в которой умер император Александр, и облекли в парадный генеральский мундир.
Прах выдающегося военного и государственного деятеля, графа и кавалера Алексея Андреевича Аракчеева был похоронен в селе Грузино. О своей кончине и погребении граф Алексей Андреевич позаботился задолго до смерти. Гробница с эпитафией была подготовлена внутри столичного на вид Андреевского собора рядом с памятником императору Павлу. На похороны вызван был Аракчеевский полк и артиллерийская батарея.
Останки Аракчеева были найдены в результате раскопок в 2009 г. Обсуждались предложения перезахоронить их в Александро-Невской лавре в Санкт-Петербурге, где покоятся многие соратники Аракчеева, а также в древнем Свято-Юрьевом монастыре XII в. близ Великого Новгорода. В конце 2008 г. администрация и общественность Чудовского района, на территории которого находится Грузино, обратились к руководству области с просьбой передать останки для повторного захоронения в бывшем графском имении.
С детства угрюмый и необщительный Аракчеев оставался таким и в продолжении всей жизни. При недюжинном уме и бескорыстии он умел помнить и добро, когда-либо кем ему сделанное. Кроме угождения воле монаршей и исполнения требований службы, он ничем не стеснялся. Суровость его нередко вырождалась в жестокость, и время его почти безграничного владычества (последние годы первой четверти XIX в.) характеризовалось своего рода террором, так как все трепетали перед ним. Вообще память по себе он оставил недобрую.
Цари ценили в нем жесткость, доходившую до неумолимости, опыт и знания, особенно в области артиллерии, используя его услуги, когда следовало «навести порядок». В советское же время Аракчеева постоянно определяли как «реакционера, гонителя суворовской школы, царского холопа и угодника». Но уже в 1961 г. в статье об Аракчееве в Исторической энциклопедии появилось несколько строк о его заслугах в развитии русской артиллерии. Современные отечественные историки, оценивая его деятельность, признают, что Аракчеев был одним из самых достойных военных и административных деятелей в истории Российской империи.