Надежду на изменение ситуации в лучшую сторону дали прибывшие с Украины 8-й и 16-й механизированные корпуса. Вместе с тремя стрелковыми и одной танковой дивизией группы Качалова они нанесли контрудар в районе Рославля. Двум мехкорпусам удалось глубоко вклиниться во фланг 2-й танковой группы. Немецкому командованию удалось разрешить эту кризисную ситуацию сосредоточением крупных сил авиации и контрударом XXIV и XXXXVIII танковых корпусов. Танковое сражение в районе Рославля закончилось окружением главных сил группы Качалова.
В то время как основная масса группы армий «Центр» ушла далеко на восток, в ее тылу продолжало греметь сражение за «крепость Минск». Здесь советским войскам удалось сковать значительные силы немецкой пехоты. Тем самым она была исключена из состава тех войск группы армий «Центр», которые торопливо продвигались вперед, стремясь нагнать вырвавшиеся вперед танковые соединения. Бои за Минск завершились только в середине июля. Группа Павлова исполнила свой долг до конца, надолго сковав два армейских корпуса немцев.
В середине июля 1941 г. произошли события, которые позднее вызвали ожесточенные споры среди историков. Начальник Генерального штаба Красной армии Г. К. Жуков на совещании в Кремле предложил отвести главные силы Юго-Западного фронта на Днепр и высвободить 6-ю и 12-ю армии1. Сталин поначалу встретил это предложение в штыки и раздраженно бросил Жукову: «Хватит нести чушь!» Однако Жукова поддержал Шапошников. На следующий день прилетевший из Киева начальник штаба ЮЗФ Пуркаев предложил детально разработанный план отхода за Днепр, позволяющий сохранить войска и высвободить резервы. Обстановка под Смоленском с каждым часом становилась все более угрожающей, и Сталин после долгих раздумий принял план отвода войск на Украине за Днепр.
Отход с линии Сталина был начат ночью и проходил как по часам. Главные силы немецкой авиации были задействованы под Смоленском, и 4-й воздушный флот не смог эффективно воздействовать на отходящие советские войска. Две танковые дивизии группы армий «Юг» к тому моменту уже были выведены в тыл. Почти без потерь Юго-Западный и Южный фронты отошли за Днепр. Были высвобождены 6, 12 и 18-я армии. Незамедлительно их начали грузить в эшелоны и через Москву выдвигать к Вязьме. Однако, ввиду разгрома группы Качалова, 18-ю армию пришлось перебросить в район Гомеля. Здесь немецкая 2-я армия начала наступление на Киев силами пехотных дивизий. Потрепанная 5-я армия и остатки переживших «войну на рельсах» соединений 21-й армии с трудом сдерживали натиск немецкой пехоты. Устойчивость ее положения сохранялась лишь за счет постоянного притока пополнений из выходящих из Припятской области голодных, но понюхавших пороху окруженцев.
Позднее историки спорили: положительную или отрицательную роль сыграл этот отвод. Одни утверждали, что, если бы Юго-Западный фронт не отошел за Днепр, немцы бы ни за что не решились наступать на Москву, имея на фланге гигантский «украинский балкон». Другие говорили о том, что, если бы не снятые с Юго-Западного фронта войска, Москва бы пала уже в первых числах августа. За этот эпизод также было подвергнуто жесткой критике немецкое командование. Командующий группой армий «Юг» был обвинен в преступном бездействии, позволившем советскому командованию вывести в резерв несколько армий. Считалось, что настойчивое преследование и немедленный ввод в бой танковых дивизий могли привести к окружению и разгрому отступающих армий Юго-Западного фронта. Вместо этого Рундштедт ждал санкции Верховного командования на передачу ему III танкового корпуса, формально перешедшего в подчинение ОКН. Из-за этого танковый корпус Маккензена вступил в бой с большим опозданием и сумел лишь пощипать советские арьергарды.
Тем временем немецкое командование готовилось к последнему броску на «шверпункт» Восточного похода — Москву. К началу августа немецкие пехотные дивизии были подтянуты на рубеж, достигнутый танковыми соединениями 1-й танковой армии. Одновременно был выведен с Украины и перевезен по железной дороге в район Смоленска III танковый корпус. 1-я танковая группа Гота, проложившая путь к Луге и Новгороду пехотным дивизиям группы армий «Север», также была выведена в резерв. На московском направлении сосредотачивалась мощная ударная группировка, включавшая почти все танковые дивизии, имевшиеся в тот момент в распоряжении германского командования на Восточном фронте. Из резерва ОКН были выведены 2-я и 5-я танковые дивизии. Была также сформирована 4-я танковая группа, которую возглавил Э. Гепнер. Все эти мероприятия позволили немцам сформировать 4-ю танковую армию, основой для которой стал штаб 4-й полевой армии Клюге.