Корпус Б. С. Бахарова мог задержать смыкание кольца вокруг Харькова на сутки или двое, и эту задачу он в целом выполнил. Поняв, что избежать окружения города не удастся, командующий 3-й танковой армией 15 марта принял решение вывести окружаемые в городе и его пригородах соединения. Радиосвязь с некоторыми из соединений отсутствовала, поэтому в приказе П. С. Рыбалко содержалось предписание по его получении информировать своих соседей. 62-я гвардейская стрелковая дивизия получила приказ первой в 14.00 15 марта. 179-я танковая бригада и 17-я бригада войск НКВД получили приказ в 19.00 того же дня. 19, 303-я и 350-я стрелковые дивизии, 104-я стрелковая и 86-я танковая бригады приказа не получили вследствие выхода из строя раций. Благодаря приписке «информировать соседа» приказ в конце концов был получен всеми соединениями. Так, находившийся при штабе 19-й стрелковой дивизии генерал-майор Е. Е. Белов, руководивший обороной города, получил информацию об отходе из штаба 62-й гвардейской стрелковой дивизии. Е. Е. Белов принял решение пробиваться в направлении на юго-восток, между селами Змиевом и Чугуевом. Прорыв должен был осуществляться двумя группами.
В первую входили 303-я и 350-я стрелковые дивизии, 17-я бригада НКВД, во вторую — 19-я стрелковая дивизия, 253-я и 104-я стрелковые, 86-я и 195-я танковые бригады. Прикрывать отход должна была 62-я гвардейская стрелковая дивизия. 315-й гвардейский минометный полк «катюш» под командованием подполковника А. Ф. Ганюшкина огневым валом «расчистил проход» для прорыва. Оставшись без снарядов, полк был вынужден подорвать поврежденные пусковые установки и сражался, как стрелковая часть. Прорыв был осуществлен в целом успешно, и к 17 марта защитники Харькова сосредоточились на восточном берегу реки Северский Донец. В ходе прорыва погибли командир 17-й бригады войск НКВД полковник И. А. Танкопий и командир 62-й гвардейской стрелковой дивизии гвардии генерал-майор Г. М. Зайцев. В состав 3-й танковой армии поступил 1-й гвардейский кавалерийский корпус, и при его поддержке армия организовывала оборону восточнее Харькова. Судя по докладу командующего армией генерала П. С. Рыбалко в штаб фронта, «при выходе из окружения в районе Харькова в армии осталось 9 танков», а потери в людях составили около 6 тыс. человек.
Достаточно успешному прорыву соединений, оборонявших город, и стабилизации обстановки в районе Харькова способствовало изменение направления движения 2-го танкового корпуса СС. Это соединение спешно сдавало позиции в районе Харькова 48-му танковому корпусу вермахта и разворачивалось для наступления на север в направлении Белгорода.
Для того чтобы не допустить захвата противником Белгорода и обеспечить развертывание прибывавших в состав фронта армий, генерал Ф. И. Голиков решил нанести контрудар против танковой дивизии вермахта «Великая Германия». Он рассчитывал разгромить ее в районе населенного пункта Томаровка, что позволило бы также стабилизировать положение в полосе обороны 40-й армии. Руководство подготовкой и проведением контрудара возлагалось на командующего 40-й армией генерала К. С. Москаленко. Согласно его решению, в ударные группировки вошли 3-й и 5-й гвардейские танковые корпуса (47 и 18 танков соответственно), 96-я танковая бригада (2 танка), две стрелковые дивизии и одна истребительная бригада. Но запланированного контрудара не получилось, ибо противник, активно наступая в полосе 40-й армии, отбросил соединения ударных группировок и заставил их перейти к обороне. Свою роль в этом сыграла его авиация. Так, в результате только одного налета бомбардировщиков люфтваффе в 3-м гвардейском танковом корпусе было уничтожено 26 танков. Всего же с 13 по 21 марта корпус потерял 156 танков.
Неудачный исход контрудара был также обусловлен и активизацией действий танкового корпуса СС в полосе 69-й армии. Завершив перегруппировку из района Харькова, главные силы корпуса 18 марта нанесли мощный удар по соединениям армии, ведя наступление одновременно на трех направлениях. Всего противник ввел в бой до 125 танков. Прорвав оборону ослабленных стрелковых дивизий, соединения танкового корпуса СС к 14.00 ворвались в Белгород. Ситуация ухудшалась.