В конце марта 6-я армия вместе с подчиненными ей теперь частями бывшей 1-й танковой армии заняла новую оборону за Тилигулом. В районе Ананьева она соединилась с 8-й армией, фронт которой был повернут на север и, пересекая железную дорогу Одесса — Львов, доходил до города Яссы. Обороняясь на направлении главного удара русских, 8-я армия пыталась остановить начавшее постепенно ослабевать наступление противника. От района западнее Ясс до Карпат действовали румынские части, командование которыми осуществлял штаб 4-й румынской армии. На северо-восточных отрогах Карпат оборонялись войска венгров.
Совершенно недопустимое с военной точки зрения руководство Гитлера боевыми действиями на южном участке Восточного фронта привело немцев к огромным и напрасным потерям. Оно явилось причиной возникновения резких разногласий между Верховным главнокомандованием и командующими действовавших там войск, фельдмаршалами фон Манштейном и фон Клейстом. Гитлер несправедливо обвинил этих выдающихся военачальников во всех имевших место неудачах и заменил первого генерал-полковником Моделем, а второго — генерал-полковником Шёрнером, надеясь, что последние будут более энергично проводить в жизнь его решения.
Группы армий были снова переименованы. Группа армий «Юг» стала группой армий «Северная Украина», а группа армий «А» — «Южной Украиной». Им была поставлена задача — окончательно остановить наступление русских войск на рубеже: устье Днестра, район восточнее Кишинева, севернее Ясс, восточные отроги Карпат, Коломыя, район западнее Тернополя, Броды, Ковель. Во исполнение этой директивы южное крыло немецких войск было отведено за Днестр, а 9 апреля — эвакуирована Одесса. В северной части Карпат немцам удалось отбросить назад к Коломые передовые русские части, продвинувшиеся до Яблоницкого перевала, однако освободить гарнизон Тернополя, находившийся уже несколько месяцев в окружении, немцы не сумели. 25 апреля после ожесточенного сопротивления частей, входивших в состав гарнизона и сражавшихся до последней капли крови, противник штурмом взял город.
Борьба за КрымОбратимся теперь к тому, что происходило в это время на Крымском полуострове. Основные силы немецких войск находились от него уже в нескольких сотнях километров, а между тем оставшиеся там войска продолжали приковывать к себе значительные силы русских. Снабжение и эвакуацию этих войск можно было осуществлять только морем.
Еще в тот период, когда немецкие войска можно было вывести из Крыма через Перекопский перешеек, Гитлеру было сделано предложение о планомерной эвакуации Крыма. Но Гитлер принял решение оборонять полуостров. Причины, побудившие его поступить таким образом, остаются непонятными и по сей день. Полуостров, узкие подступы к которому легко было запереть, не представлял собой базы, откуда можно было бы при случае нанести удар против открытого левого фланга продвигавшихся на запад русских войск, да и оставленные на полуострове силы 17-й армии были недостаточными и непригодными для ведения подобных наступательных действий. К тому же, удерживая Крым, немцы не могли, разумеется, сковать такое большое количество русских войск, чтобы это в какой-то степени оправдывало затрачиваемые на оборону полуострова силы и средства. Очевидно, решающими в принятии Гитлером такого решения были соображения, связанные с необходимостью обеспечить работу румынских нефтяных промыслов, так как с падением Крыма угроза воздушного нападения на эти районы значительно возрастала, а также соображения, связанные с возможностью продолжать оказывать нажим на Турцию, поставлявшую Германии крайне нужное ей сырье — хром. С выходом русских к Карпатам эти соображения, разумеется, полностью утратили свое значение, однако убедить Гитлера в принятии своевременного решения об эвакуации Крыма так и не удалось, пока в начале апреля войска 4-го Украинского фронта не перешли в наступление и стремительным ударом не сбросили с полуострова находившиеся там силы (4 немецкие и 6 румынских дивизий).
8 апреля русские перешли в наступление на позиции 17-й армии одновременно на Керченском полуострове, на Перекопском перешейке и через Сиваш. В районе Керчи в ходе многодневных боев русские несколько потеснили немецкие войска, оборонявшие перешеек. Но поскольку русским тем временем удалось осуществить прорыв с севера и поставить все находившиеся в восточной части полуострова войска под угрозу окружения, войскам, оборонявшим Керченский полуостров, пришлось отступить. На севере противник, сковав войска, действовавшие на Перекопском перешейке, внезапно форсировал Сиваш — мелководный залив Азовского моря, изобилующий островами, по которым проложена также и железная дорога Мелитополь — Джанкой. Таким образом, обойдя перекопскую группировку немцев с фланга, русские лишили систему обороны полуострова ее прочности. В связи с тем, что создать имевшимися в распоряжении незначительными силами оборону на островах было невозможно, командование армии, не будучи в состоянии сдержать сильнейший натиск противника, было вынуждено принять решение о немедленном отводе всех частей в хорошо защищенную крепость Севастополь. Под сильным воздействием вражеской авиации, в условиях превосходства противника в Военно-морских силах, была начата эвакуация полуострова. Она проводилась при помощи весьма незначительного количества имевшихся в распоряжении морских транспортных средств. В первую очередь были эвакуированы тыловые службы и подразделения немцев, а также румынские части. Немецкие дивизии удерживали город и его окрестности, обеспечивая погрузку.