Место постоянной дислокации: Берлин (III военный округ).
21-я танковая дивизия была сформирована 18 февраля 1941 года в качестве 5-й легкой дивизии и большинство своего личного состава получила из 3-й танковой дивизии, включая штаб дивизии (бывший штаб 3-й танковой бригады), 5-й танковый полк (два батальона) из 3-й танковой дивизии, 3-й танковый разведывательный батальон, 39-й дивизион истребителей танков и I дивизион 75-го танкового артиллерийского полка. Штаб 200-го пехотного полка особого назначения был сформирован из личного состава управления III военного округа, а штаб 155-го танкового артиллерийского полка был сформирован заново. I, II и III артиллерийские дивизионы ранее были, соответственно, 864-м артиллерийским дивизионом, I дивизионом 75-го артиллерийского полка и 911-м тяжелым артиллерийским дивизионом. Другие части — 2-й и 8-й пулеметные батальоны, 605-й дивизион истребителей танков и 606-й легкий зенитно-артиллерийский дивизион — были частями Верховного командования сухопутных войск, т. е. придавались дивизии командованием на постоянной основе. Вскоре после прибытия в пустыню 8-й пулеметный батальон был преобразован в 15-й мотоциклетный батальон.
После переброски в Северную Африку в апреле — мае 1941 года стала одной из двух дивизий (второй была 15-я танковая) знаменитого Африканского корпуса. Она принимала участие в захвате Киренаики, наступлении к египетской границе (расстояние более 550 км!) и первых неудачных попытках взять Тобрук (1941 год). Тем же летом дивизия получила 104-й моторизованный полк и несколько более мелких частей из состава 15-й танковой дивизии и была переименована в 21-ю танковую. Одновременно она передала той же 15-й танковой дивизии 2-й пулеметный батальон и штаб 200-го пехотного полка. 21-я танковая дивизия принимала участие в боях во время операций «Бэттлэкс» и «Крусейдер» (в результате которых потеряла большую часть танков) и в отступлении из Киренаики в конце 1941 года, а также в последующей контратаке, которая привела к взятию Бенгази. Затем дивизия проявила свой боевой дух при штурме «линии Газалы», штурме Тобрука и вторжении в Египет. Остановленная у Эль-Аламейна и хребта Алам-Хальфа, дивизия была практически разгромлена во втором сражении при Эль-Аламейне в октябре — ноябре 1942 года, и к моменту получения приказа об отступлении в дивизии осталось всего 12 танков. Отступление дивизии через Ливию не походило на беспорядочное бегство, и она остановилась, чтобы поучаствовать в ударе, нанесенном американской армии в Кассеринском проходе. Будучи одной из лучших дивизий немецкой армии, она была разгромлена только тогда, когда окончательно развалилась система снабжения и кончились боеприпасы. Более того, в последний бой дивизия двинулась, залив в баки тунисское вино вместо топлива! 21-я танковая дивизия капитулировала только с падением Туниса в мае 1943 года.
Первоначальная 21-я танковая дивизия за время своего существования прошла несколько реорганизаций. I батальон 104-го моторизованного полка был разгромлен у прохода Халфайя в январе 1942 года, поэтому 15-й мотоциклетный батальон был преобразован в моторизованный и стал III батальоном 104-го моторизованного полка. В 1943 году 609-й легкий зенитно-артиллерийский дивизион вошел в состав 155-го артиллерийского полка в качестве IV дивизиона, а из Рейха в распоряжение дивизии прибыл 305-й армейский зенитно-артиллерийский дивизион.
Последняя реорганизация дивизии произошла 26 февраля 1943 года, когда она передала 3-й танковый разведывательный батальон в распоряжение 90-й легкой дивизии и получила взамен 580-й танковый разведывательный батальон. Кроме того, она получила 220-й танковый саперный батальон из 164-й легкой африканской дивизии, который был переименован в 200-й батальон. 190-й танковый батальон 90-й легкой дивизии также вошел в состав 21-й танковой дивизии и стал II батальоном 5-го танкового полка. В апреле 1943 года 580-й разведывательный батальон стал 21-м танковым разведывательным. На 26 февраля 1943 года в состав дивизии входили: 5-й танковый полк (два батальона), 104-й и 47-й моторизованные полки (по два батальона в каждом), 155-й танковый артиллерийский полк (три дивизиона), 580-й танковый разведывательный батальон, 39-й дивизион истребителей танков, 220-й (ранее — 200-й) танковый саперный батальон и 200-й танковый батальон связи.
Вторая 21-я дивизия была сформирована в Рене (Франция) в мае 1943 года на базе 931-й подвижной бригады (велосипедной). Сначала она называлась подвижной дивизией «Запад», но 15 июля была переименована в 21-ю танковую дивизию. Местом постоянной дислокации новой танковой дивизии стал Вупперталь (VI военный округ). В ее состав вошли: 100-й танковый полк, 125-й и 192-й моторизованные полки, 155-й танковый артиллерийский полк, 21-й танковый разведывательный батальон, 220-й танковый саперный батальон, 200-й дивизион истребителей танков, 200-й танковый батальон связи и 305-й армейский зенитно-артиллерийский дивизион. Его части и соединения были набраны из различных источников. Штаб дивизии и 125-й моторизованный полк поступили из состава подвижной бригады «Запад». 1-я и 2-я роты разведывательного батальона были из состава 931-й мотоциклетной роты, а большинство остальных частей поступили из состава танкового учебного разведывательного батальона. Личный состав и техника для танкового полка двухбатальонного состава были получены из 223-го танкового батальона, танковой роты «Париж» и танковой роты LXXXI корпуса (все они были оснащены устаревшими французскими танками). Большая часть артиллерийского полка пришла из 931-го артиллерийского полка, а 192-й моторизованный полк и 305-й зенитно-артиллерийский дивизион были из числа свежесформированных частей. Дивизия располагала опытными бойцами — ветеранами Африканского корпуса, но была оснащена ненадежными легкими танками в основном иностранного (чехословацкого и французского) производства. Это была единственная танковая дивизия во Франции, которая считалась непригодной для службы на Восточном фронте, и, несмотря на то что дивизия действовала достаточно хорошо, новая 21-я танковая дивизия так никогда и не достигла качественного уровня своей предшественницы и не могла сравниться с ней по заслугам.
В апреле 1944 года новая дивизия была направлена в Венгрию, на Восточный фронт, где создалась угроза краха обороны, но в мае ее спешно вернули во Францию и разместили в Нормандии, где фельдмаршал Роммель ожидал высадки Союзников. Она стала единственной танковой дивизией, контратаковавшей уже в день высадки, хотя ее удар запоздал на несколько часов и не принес больших результатов. Более 50 ее устаревших танков были уничтожены британскими машинами, не успев нанести им большого урона. Один батальон был практически уничтожен британскими танками еще до того, как сумел выйти на дистанцию выстрела. Хотя танковый полк был уничтожен, пехота упорно обороняла Кан несколько недель и сыграла важную роль в срыве операции «Гудвуд» — попытки Монтгомери разрешить в свою пользу тупиковую ситуацию под Каном (18–22 июля). Даже сократившись в размерах до боевой группы, 21-я танковая дивизия в конце июля сумела предотвратить разгром британскими войсками 326-й пехотной дивизии. Дивизия была окружена в Фалезском котле и вынуждена была прорываться, несмотря на тяжелые потери.
Когда 6 июня 1944 года Союзники высадились в Нормандии, 21-я танковая дивизия насчитывала 12 350 человек, 127 танков и 40 самоходных орудий. После отступления через Сену в августе того же года она потеряла всю бронетехнику и самоходные орудия, а в строю осталось всего 300 человек (некоторые отсутствовали из-за лечения в госпиталях или по другим причинам и позднее вернулись в дивизию). После отступления во Франции дивизия была отведена в тыл для спешного пополнения низкокачественными войсками из состава 16-й авиаполевой дивизии люфтваффе, которая уже к тому времени была отдана под оперативный контроль 21-й танковой дивизии. После отправки в Лотарингию дивизия получила 112-ю танковую бригаду (2112-й танковый батальон и 2112-й моторизованный полк), и ее танковый полк был переименован в 22-й танковый полк. С более качественными танками, но менее качественной пехотой дивизия была передана в распоряжение группы армий «Г», где она выполняла функции «пожарной команды» на южном участке Западного фронта. В конце 1944 года она воевала в Сааре, а в январе 1945 года 21-я танковая дивизия участвовала в наступлении на Страсбург и в боях в Северном Эльзасе, после чего в феврале была переброшена на Восточный фронт. К тому времени в дивизии остался всего один танковый батальон. 21-я танковая дивизия принимала участие в безуспешной обороне Лаубана, Герлица и Коттбуса, а в конце войны была окружена в Хальбском котле под Берлином, где были разгромлены основные силы 9-й армии. Практически все уцелевшие солдаты и офицеры дивизии попали в советский плен.