В начале мая бои за Крым подошли к концу, однако их напряженность только возросла. 6 мая II группа одержала не менее 16 побед, одну из которых записали на Баркгорна. На следующий день общий счет был 39 сбитых. Как ни странно, в этот день Баркгорн ничего не добился. Погиб только один летчик – фанен-юнкер Штольпе из 9-й эскадрильи был сбит и погиб в своем истребителе «Желтый-9».
7 мая условия на аэродроме Херсонес стали невыносимыми. Русские заняли Сапун-гору, с которой аэродром был прекрасно виден. Русская артиллерия начала обстрелы, а бомбардировщики и не прекращали свои атаки. Каждое утро приходилось засыпать многочисленные воронки перед тем, как начать полеты. Едва летную полосу приводили в порядок, как начинался следующий обстрел или бомбежка.
В таких условиях количество вылетов резко упало. Тем не менее, утром 8 мая Баркгорн сбил Як-7, а через 8 минут – Ил-2. В этот день группа одержала 14 побед. Унтер-офицер Краб из 6-й эскадрильи был сбит, и его новенькая машина упала в море. Сам летчик был ранен, но выпрыгнул с парашютом, и его спасли. 8 мая майор Баркгорн одержал 267-ю победу, а вот лейтенант Хартман – 223-ю, понемногу сокращая разрыв. 9 мая бои в Крыму закончились. Вражеская артиллерия непрерывно обстреливала аэродром, уничтожив несколько самолетов. Поэтому вечером группа перелетела в Румынию, в Мамайю, недалеко от Констанцы. Большинство летчиков брали своих товарищей в отсеке фюзеляжа, чтобы доставить их в безопасное место. Например, лейтенант Липферт вывез в Мамайю адъютанта группы. Многие самолеты благополучно сели на новом аэродроме, однако увеличенный вес стал причиной нескольких аварий. Пострадал Ме-109 фенриха Хоффмана, чей пассажир получил ранения. Согласно рассказу фанен-юнкера Дюттмана, произошло не менее 10 аварий. В результате группа полностью потеряла боеспособность. Основная часть наземного персонала была вывезена морем.
15 мая группа перебазировалась в Цилистеа, но без самолетов. Тем ее довели до штатного состава, пополнив людьми и самолетами. После получения новых самолетов и ознакомительных полетов начались тренировочные вылеты. II группа первый такой вылет совершила 24 мая. Через день пришел приказ генерала истребителей Галланда: каждая истребительная группа Восточного фронта должна выделить одну эскадрилью для защиты Рейха. II/JG-52 лишилась 4-й эскадрильи лейтенанта Ханса Вальдмана. Ее перебросили во Францию в начале июля. В результате в распоряжении майора Баркгорна временно остались две эскадрильи: 5-я обер-лейтенанта Фённенкольда и 6-я обер-лейтенанта Липферта. Намерение довести состав группы до четырех эскадрилий не был реализован, вместо этого позднее была сформирована новая 4-я эскадрилья.
Ситуация на фронте стремительно ухудшалась, немцы были вынуждены оставить Крым, и JG-52 перебазировалась в Румынию. В районе Ясс начались жестокие бои, прикрывать немецкие войска пришлось JG-52. Русская авиация имела многократный перевес, поэтому немецким летчикам приходилось работать на износ.
27 мая группа перебазировалась в Хуши и вернулась в бой. 29 мая унтер-офицер Хаас одержал первую победу. На следующий день группа сбила 19 самолетов в районе Ясс. Баркгорн записал на свой счет два Р-39. В этот же день только что произведенный в лейтенанты Эвальд одержал 22-ю победу. Вечером «Желтый-7» ефрейтора Флориана получил попадание в радиатор и сел на вынужденную недалеко от Ясс. Пилот пропал без вести.
31 мая Баркгорн и его летчики прикрывали вылеты короля пикировщиков Ханса-Ульриха Руделя из III/SG-2. Бои над рекой Прут начались рано утром 31 мая. Первую победу в этот день в 04.12 одержал обер-лейтенант Фённекольд. Следующим стал Баркгорн, который сбил Р-39 в районе Хуши в 05.38. Через 7 минут он сбил еще один Р-39, в 6.10 был сбит Ил-2, а потом Як-9. В этот день все шло гладко, даже слишком гладко. Одержав 273-ю победу, Баркгорн устал и расслабился, поэтому он не проявил обычной внимательности. Но для истребителя потеря концентрации даже на несколько секунд может стать роковой.