В последние дни августа Калининский фронт продолжил наступление, но сопротивление противника становилось все более ожесточенным. На Духовщинское направление гитлеровцы перебросили новые резервы. В создавшейся оперативной обстановке Еременко решил перенести направление главного удара с выходом во фланги и в тыл Духовщинскому оборонительному району и овладеть городом Духовщина с запада и северо-запада. Противник приспособил к обороне городские толстостенные старые кирпичные здания, в то же время немцы боялись, что советские войска перережут важную дорогу, соединяющую Духовщину с Ярцевом и с Демидовой, и сосредоточили на этом направлении десятки артиллерийских батарей, а также свои основные силы.
Рано утром 19 сентября 1943 года в результате комбинированного удара с севера и юга войска Калининского фронта штурмом овладели важнейшим опорным пунктом немецкой обороны — городом Духовщина. Вечером 19 сентября Москва салютовала доблестным войскам Калининского фронта. 21 сентября фронт Еременко освободил город Демидов, 29 сентября — Рудню. За умелые боевые действия в Духовщинско-Демидовской операции войскам фронта была объявлена благодарность Верховного главнокомандующего. Первый этап Духовщинско-Смоленской операции был выполнен. Как вспоминал Еременко: «Более года укреплял противник свои позиции. Но войска нашего фронта в упорных боях проломили оборону противника.
Успех Духовщинской операции позволил нам открыть так называемые Смоленские ворота.
Вслед за Духовщинской была проведена Невельская операция, которая буквально ошеломила противника. Прорвав оборону, которая совершенствовалась и укреплялась в течение двух лет, за один день с боями наши войска прошли по сплошным заграждениям 40 километров и овладели важным опорным пунктом — городом Невель.
Успехи войск Калининского фронта имели важнейшие стратегические последствия и в значительной мере предопределили успех Ленинградского и Западного фронтов, намного облегчая их действия.
За успешное проведение Духовщинской операции я был награжден орденом Кутузова 1-й степени».
Двадцать третьего сентября советские войска перерезали железнодорожную и шоссейную дороги Смоленск — Рославль и полудугой охватили вражескую группировку в районе Смоленска. Развивая наступление, войска Калининского фронта освободили Смоленск, Невель, Рославль и вышли на оперативный простор: дорога в Прибалтику и Восточную Пруссию была открыта. Всего Калининский и Западный фронты сковали около 55 дивизий противника, чем способствовали успешному завершению контрнаступления Красной армии на Курской дуге.
В этой операции Еременко еще раз продемонстрировал свое умение малыми силами добиваться больших результатов. Позже ему удалось это и в Крыму, где Отдельная Приморская армия под его командованием совместно с 4-м Украинским фронтом во взаимодействии с Черноморским флотом и Азовской военной флотилией провела Крымскую операцию.
Одиннадцатого февраля 1944 года решением Ставки генерал армии Еременко был назначен командующим Отдельной Приморской армией. Это не было понижением, а, наоборот, очень ответственным назначением. Штаб армии располагался в станице Ахтанизовская Краснодарского края. Здесь произошла встреча Еременко с представителем Ставки маршалом Советского Союза К. Е. Ворошиловым, прибывшим сюда несколько ранее, а также бывшим командующим этой армией генерал-полковником И. Е. Петровым и начальником штаба армии генерал-майором П. М. Котовым-Легоньковым. Нового командующего ознакомили с расписанием войск и положением на фронте. В состав армии входили: 3-й горнострелковый, 11-й гвардейский стрелковый, 16-й и 20-й стрелковые корпуса и 4-я воздушная армия. Также командующему Отдельной Приморской армией в оперативном отношении подчинялась Азовская военная флотилия, которой командовал контр-адмирал С. Г. Горшков.
Перед вновь сформированной армией стаяла задача расширить Керченский плацдарм, переправить все свои силы на полуостров и провести подготовку наступательной операции с целью освобождения Крыма. В апреле и мае 1944 года соединения армии участвовали в Крымской операции. Замысел Ставки заключался в нанесении совместных ударов войск 4-го Украинского фронта генерала армии Ф. И. Толбухина с севера от Перекопа и Сиваша и Отдельной Приморской армии генерала армии А. И. Еременко с востока с плацдарма в районе Керчи. В начале операции войска Еременко должны были овладеть Ак-Монайскими позициями севернее Керчи. Это был последний укрепленный рубеж обороны немцев на Керченском полуострове.
Восьмого апреля 1944 года 4-й Украинский фронт перешел в наступление. В ночь на 11 апреля начала наступление Отдельная Приморская армия, развернувшая преследование противника по всему фронту. Утром 12 апреля войска Еременко освободили Керчь. Затем, прорвав оборону врага на Ак-Монайских позициях, на следующий день в районе Карасубазара они соединились с частями 4-го Украинского фронта. 13 апреля был освобожден Симферополь. В течение трех следующих дней части Отдельной Приморской армии по юго-восточному побережью Крыма продвигались к Севастополю, готовясь к штурму сильно укрепленного города. Освободив в кратчайший срок Южное побережье Крыма — почти 420 километров от Керчи до Севастополя, — Приморская армия спасла от разрушения его прекрасные здравницы. В ходе этих боев Андрей Иванович снова был ранен, но на этот раз легко.
Восемнадцатого апреля 1944 года А. И. Еременко был назначен командующим 2-м Прибалтийским фронтом. Возглавляемые им войска нанесли мощный удар на Идрицко-Режицком направлении и вышли на подступы городов Остров, Идрица, Пушкинские Горы. В июле 1944 года войска фронта успешно провели Режицко-Двинскую операцию, в ходе которой они продвинулись на запад на 200 километров. «За умелое руководство войсками и проявленные в боях с немецко-фашистскими захватчиками мужество и героизм» Указом Президиума Верховного Совета СССР от 29 июля 1944 года генералу армии А. И. Еременко присвоено звание Героя Советского Союза.
В августе 1944 года 2-й Прибалтийский фронт, развивая наступление вдоль северного берега реки Западная Двина, продвинулся еще на 60–70 километров, освободив крупный железнодорожный узел — латышский город Мадона. О том, какие трудности пришлось преодолевать войскам в ходе этого наступления, Еременко рассказал в своей статье, опубликованной во фронтовой газете «Суворовец» (№ 199; август 1944): «Наши воины стремительно двинулись вперед на Рижском направлении и преодолели известные своей непроходимостью Лубанские болота… Переход через Лубанские болота есть выдающийся воинский подвиг. На этой гнилой местности, протянувшейся на десятки километров, считалось невозможным вести боевые действия, тем более крупными соединениями. Однако войска фронта за десять дней прошли с боями Лубанскую низменность, сбивая врага с оборонительных рубежей, совершая тяжелые обходы по непролазным топям и сбрасывая врага с дорог. Наши герои-гвардейцы шли по наспех проложенным гатям, пробирались вперед по пояс, а то и по горло в болотной воде, перетаскивая на себе свое оружие, — и победили. Честь и слава бойцам и офицерам лубанского перехода. Его участники — бойцы и сержанты — не уронили престиж доблестного русского солдата, известного со времен Суворова тем, что для него нет непреодолимых преград. Участники перехода — офицеры — показали такое искусство маневра в сложнейших природных условиях, которым можно по достоинству гордиться. В Лубанах приумножена гвардейская слава!»