После переброски в район нижнего течения Рейна в конце 1939 года в мае 1940 года 4-я танковая дивизия в первом эшелоне наступающих войск участвовала во вторжении на юге Голландии и заняла стратегически важный город Маастрихт. Затем вместе с 3-й танковой дивизией она продвинулась, ведя бои с маневренными частями французской армии, на восток к реке Диле, фактически отрезав Нидерланды, завоевание которых через несколько дней завершила 18-я армия. Далее 4-я танковая дивизия участвовала в боях за Дюнкерк, в сражении на «линии Вейгана» и помогла добить Францию в июне 1940 года. Потери дивизии были незначительными. Вернувшись в Германию в ноябре, дивизия зимой лишилась 36-го танкового полка и части личного состава других подразделений, передав их в 14-ю танковую (бывшую 4-ю пехотную) дивизию. В это же время ее артиллерийский полк получил третий дивизион. В январе 1941 года дивизия получила 20 новых танков Pz-IVE. Спустя четыре месяца дивизия была направлена в Восточную Пруссию и в составе группы армий «Центр» вторглась в Советский Союз в июне 1941 года. По пути к Москве дивизия участвовала в сражениях под Минском, Гомелем, Брянском, Вязьмой и во множестве других отчаянных схваток. К середине ноября в строю оставалось всего 50 танков. В декабре 1941 года дивизия предприняла попытку окружить стратегически важный город Тулу (юго-восточнее Москвы), но потерпела неудачу и понесла при этом тяжелые потери. Оставаясь на центральном участке Восточного фронта до 1944 года, дивизия вела оборону под Кировом (1942 год) и на Орловском направлении (1942 г. — начало 1943 г.), участвовала в боях под Курском и на Днепре (1943 г. — начало 1944 г.), в сражениях за Бобруйск и Ковель (1944 год) и в неудачной попытке остановить летнее наступление советских войск 1944 года. После переформирований в 1941, 1942 и 1943 гг. дивизия к 1944 году имела в своем составе 12-й и 33-й моторизованные полки (по два батальона в каждом), 4-й разведывательный батальон, 35-й танковый полк (два батальона), 103-й танковый артиллерийский полк, 290-й армейский зенитно-артиллерийский дивизион (получен в 1942 году) и другие войска дивизионного подчинения, включая 103-й полевой резервный батальон и 84-ю роту снабжения. Дивизия лишилась штабов бригад в 1942 году.
В ноябре 1944 года 4-я танковая дивизия была блокирована в Курляндии, однако в начале 1945 года ее удалось эвакуировать морем на север Германии. Остатки 4-й танковой были частично пополнены в Данциге, но полностью восстановить дивизию не удалось. В таком виде дивизия участвовала в боях в Западной Пруссии и на Висле — последних сражениях войны. Конец войны застал дивизию в окружении во Фришен-Нерунге вместе с остатками 2-й армии, и в мае 1945 года уцелевшая часть дивизии сдалась в плен советским войскам.
4-я танковая дивизия была выдающимся соединением даже по меркам немецкой армии и стала наиболее отличившейся среди всех танковых дивизий вермахта.
4-й танковой дивизией командовали: генерал-майор (генерал-лейтенант) Георг-Ганс Рейнгардт (принял командование 10 ноября 1938 года), генерал-майор риттер Людвиг фон Радльмайер (5 февраля 1940 года), генерал-майор Иоахим Штевер (6 апреля 1940 года), полковник барон Ганс фон Бойнебург-Ленгсфельд (15 мая 1940 года), Штевер (вновь принял командование 19 мая 1940 года), вновь Бойнебург-Ленгсфельд (24 июля 1940 года), генерал-майор (генерал-лейтенант) барон Вилибальд фон Лангерман-Эрленкамп (7 сентября 1940 года), генерал-майор Дитрих фон Заукен (24 декабря 1941 года), генерал-майор Генрих Эбербах (2 марта 1942 года), подполковник Отто Хайдкемпер (исполняющий обязанности, 2 марта 1942 года), Эбербах (4 апреля 1942 года), полковник Эдгар Хильшер (23 июня 1942 года), Эбербах (вновь принял командование 3 июля 1942 года), полковник (генерал-майор) доктор Эрих Шнайдер (24 ноября 1942 года), генерал-лейтенант фон Заукен (31 мая 1943 года), генерал-майор Ганс Юнк (исполняющий обязанности, 21 января 1944 года), вновь Заукен (февраль 1944 года), генерал-майор (генерал-лейтенант) Клеменс Бетцель (1 мая 1944 года), снова Заукен (июнь 1944 года), Бетцель (июнь 1944 года), полковник Ганс Христерн (21 декабря 1944 года), Бетцель (28 декабря 1944 года), полковник Эрнст Вильгельм Хофман (исполняющий обязанности, 27 марта 1945 года) и генерал-майор Ганс Хекер (1 апреля 1945 года).