С 10 июля 1941 года гитлеровцы начали систематически бомбить город и железнодорожный узел. Под руководством партийной организации трудящиеся Вязьмы в трудных прифронтовых условиях провели эвакуацию материальных ценностей, на подступах к городу построили оборонительные сооружения, выкопали противотанковые рвы.
После захвата гитлеровцами Смоленска в Вязьме обосновались обком партии, облисполком и другие областные организации. Город на время стал областным центром. Здесь продолжалась работа по созданию партизанских отрядов и организации подполья, отсюда обком партии руководил начавшимся па территории Смоленщины партизанским движением. В тот период здесь было сформировано 19 диверсионных отрядов и переправлено через линию фронта в тыл врага. В их числе был отряд К. С. Заслонова, ставшего впоследствии одним из организаторов партизанского движения в Белоруссии.
Гитлеровцы придавали огромное значение Вязьме как важному узлу железных и шоссейных дорог. Во время октябрьского наступления 1941 года они рассчитывали окружить под Вязьмой и уничтожить войска Западного и Резервного фронтов, а затем бросить основные силы на Москву. К 6 октября им удалось окружить части 19-й и 20-й армий Западного, а также 24-й и 32-й армий Резервного фронтов. В сражении участвовало около 30 дивизий группы армий «Центр». Но окруженные советские войска продолжали упорно сопротивляться.
На 242-м километре магистрали Москва - Минск, западнее Вязьмы, на пологих скатах по обе стороны шоссе и сейчас еще видны окопы. На этих позициях в начале октября 1941 года дралась 7-я Московская дивизия народного ополчения Бауманского района столицы, переименованная в 29-ю стрелковую дивизию 32-й армии. Попав в окружение и оказавшись на направлении главного удара противника, она вместе с другими частями более недели стремилась прорвать кольцо окружения и выйти к своим.
На 242-м километре сооружается мемориальный комплекс. Он будет памятником всем героям, которые, беззаветно сражаясь во вражеском окружении под Вязьмой, ценою своих жизней задержали наступление гитлеровцев на столицу.
17 месяцев в Вязьме хозяйничали фашистские оккупанты. Они установили в городе неслыханный террор - замучили и убили свыше 30 тысяч человек. После освобождения в городе и вблизи него было обнаружено несколько ям с трупами советских людей. Так, в огромной яме на Фроловском кладбище нашли более 3 тысяч трупов мужчин, женщин, детей. Лагерем смерти советских людей был лагерь для заключенных, открытый гитлеровцами осенью 1941 года на территории недостроенного завода по улице Кронштадтской.
Но вязьмичи не покорились врагу. В городе и его окрестностях с первых дней вражеской оккупации начали действовать подпольные антифашистские группы. Одной из них руководил Константин Курчавов, пробравшийся в город по заданию партизанского отряда «Народный мститель». Он вывел из лагеря военнопленных и переправил в отряд 29 бойцов и командиров. Другую группу возглавили лейтенант Федор Шолохов и коммунистка Е. И. Шпаковская. Эта группа имела связь с партизанами, занималась диверсиями, распространяла листовки.
В январе - апреле 1942 года Вязьма оказалась в центре Ржевско-Вяземской наступательной операции Советской Армии.
Западный и Калининский фронты развивали наступление с северо-востока и юго-востока. С северо-запада наступал прорвавшийся в тыл врага 11-й кавалерийский корпус полковника С. В. Соколова. К концу января он находился в 12 километрах западнее города, у автомагистрали Москва - Минск. 1 февраля к Вязьме подошли с юго-востока прорвавшиеся в тыл врага 113-я, 338-я и 160-я стрелковые дивизии 33-й армии генерал-лейтенанта М. Г. Ефремова. Они завязали бой в 6 - 7 километрах от города. 27 января через Варшавское шоссе в 35 километрах юго-западнее Юхнова прорвал гитлеровский фронт 1-й гвардейский кавалерийский корпус под командованием генерал-лейтенанта П. А. Белова. Он соединился с десантниками и партизанскими отрядами и 3 февраля подошел к Вязьме с юго-запада. Все они должны были соединиться с корпусом полковника С. В. Соколова, захватить город и перерезать противнику пути отхода.
Однако из-за несогласованности сроков наступления частей Советской Армии на Вязьму операция не удалась. Вся группа советских войск осталась в тылу врага в лесном районе к юго-западу от Вязьмы. Взаимодействуя с воздушно-десантными частями и партизанами, она в течение нескольких месяцев наносила врагу чувствительные удары. Командование Западного фронта приказало генералам Белову и Ефремову вывести свои войска из фашистского тыла и соединиться с главными силами. Группа П. А. Белова, проделав большой и тяжелый путь, вышла через прорыв, образованный 10-й армией, в расположение фронта в районе Кирова. А группа М. Г. Ефремова, пытавшаяся прорваться через реку Угру и соединиться с частями 43-й и 49-й армий, была окружена гитлеровцами.