Вторая 21-я дивизия была сформирована в Рене (Франция) в мае 1943 года на базе 931-й подвижной бригады (велосипедной). Сначала она называлась подвижной дивизией «Запад», но 15 июля была переименована в 21-ю танковую дивизию. Местом постоянной дислокации новой танковой дивизии стал Вупперталь (VI военный округ). В ее состав вошли: 100-й танковый полк, 125-й и 192-й моторизованные полки, 155-й танковый артиллерийский полк, 21-й танковый разведывательный батальон, 220-й танковый саперный батальон, 200-й дивизион истребителей танков, 200-й танковый батальон связи и 305-й армейский зенитно-артиллерийский дивизион. Его части и соединения были набраны из различных источников. Штаб дивизии и 125-й моторизованный полк поступили из состава подвижной бригады «Запад». 1-я и 2-я роты разведывательного батальона были из состава 931-й мотоциклетной роты, а большинство остальных частей поступили из состава танкового учебного разведывательного батальона. Личный состав и техника для танкового полка двухбатальонного состава были получены из 223-го танкового батальона, танковой роты «Париж» и танковой роты LXXXI корпуса (все они были оснащены устаревшими французскими танками). Большая часть артиллерийского полка пришла из 931-го артиллерийского полка, а 192-й моторизованный полк и 305-й зенитно-артиллерийский дивизион были из числа свежесформированных частей. Дивизия располагала опытными бойцами — ветеранами Африканского корпуса, но была оснащена ненадежными легкими танками в основном иностранного (чехословацкого и французского) производства. Это была единственная танковая дивизия во Франции, которая считалась непригодной для службы на Восточном фронте, и, несмотря на то что дивизия действовала достаточно хорошо, новая 21-я танковая дивизия так никогда и не достигла качественного уровня своей предшественницы и не могла сравниться с ней по заслугам.
В апреле 1944 года новая дивизия была направлена в Венгрию, на Восточный фронт, где создалась угроза краха обороны, но в мае ее спешно вернули во Францию и разместили в Нормандии, где фельдмаршал Роммель ожидал высадки Союзников. Она стала единственной танковой дивизией, контратаковавшей уже в день высадки, хотя ее удар запоздал на несколько часов и не принес больших результатов. Более 50 ее устаревших танков были уничтожены британскими машинами, не успев нанести им большого урона. Один батальон был практически уничтожен британскими танками еще до того, как сумел выйти на дистанцию выстрела. Хотя танковый полк был уничтожен, пехота упорно обороняла Кан несколько недель и сыграла важную роль в срыве операции «Гудвуд» — попытки Монтгомери разрешить в свою пользу тупиковую ситуацию под Каном (18–22 июля). Даже сократившись в размерах до боевой группы, 21-я танковая дивизия в конце июля сумела предотвратить разгром британскими войсками 326-й пехотной дивизии. Дивизия была окружена в Фалезском котле и вынуждена была прорываться, несмотря на тяжелые потери.
Когда 6 июня 1944 года Союзники высадились в Нормандии, 21-я танковая дивизия насчитывала 12 350 человек, 127 танков и 40 самоходных орудий. После отступления через Сену в августе того же года она потеряла всю бронетехнику и самоходные орудия, а в строю осталось всего 300 человек (некоторые отсутствовали из-за лечения в госпиталях или по другим причинам и позднее вернулись в дивизию). После отступления во Франции дивизия была отведена в тыл для спешного пополнения низкокачественными войсками из состава 16-й авиаполевой дивизии люфтваффе, которая уже к тому времени была отдана под оперативный контроль 21-й танковой дивизии. После отправки в Лотарингию дивизия получила 112-ю танковую бригаду (2112-й танковый батальон и 2112-й моторизованный полк), и ее танковый полк был переименован в 22-й танковый полк. С более качественными танками, но менее качественной пехотой дивизия была передана в распоряжение группы армий «Г», где она выполняла функции «пожарной команды» на южном участке Западного фронта. В конце 1944 года она воевала в Сааре, а в январе 1945 года 21-я танковая дивизия участвовала в наступлении на Страсбург и в боях в Северном Эльзасе, после чего в феврале была переброшена на Восточный фронт. К тому времени в дивизии остался всего один танковый батальон. 21-я танковая дивизия принимала участие в безуспешной обороне Лаубана, Герлица и Коттбуса, а в конце войны была окружена в Хальбском котле под Берлином, где были разгромлены основные силы 9-й армии. Практически все уцелевшие солдаты и офицеры дивизии попали в советский плен.
5-й легкой (21-й танковой) дивизией командовали: генерал-майор барон Ганс фон Функ (принял командование 1 января 1941 года), генерал-майор Карл Беттхер (1 февраля 1941 года), генерал-лейтенант Йоханнес Штрайх (7 февраля 1941 года), генерал-майор Генрих Кирххайм (16 мая 1941 года), генерал-майор барон Иоганн фон Равенштейн (20 мая 1941 года), полковник Густав-Георг Кнабе (29 ноября 1941 года), вновь Беттхер (1 декабря 1941 года), полковник Альфред Брюр (9 февраля 1942 года), полковник (генерал-майор) Георг фон Бисмарк (11 февраля 1942 года), полковник барон Курт фон Либенштейн (1 сентября 1942 года), генерал-майор Хайнц фон Рандов (18 сентября 1942 года), полковник (генерал-майор) Ганс-Георг Гильдебрандт (1 января 1943 года), полковник (генерал-майор) Генрих-Герман фон Хюльзен (15 марта 1943 года), генерал-майор (генерал-лейтенант) Эдгар Фойхтингер (15 июля 1943 года), генерал-майор Озвин Гролиг (15 января 1944 года), генерал-майор Франц Вестхофен (8 марта 1944 года), Фойхтингер (вернулся 8 мая 1944 года), полковник Гельмут Цолленкопф (25 декабря 1944 года) и генерал-майор (генерал-лейтенант) Вернер Маркс (10 января 1945 года).