В связи со стремительным продвижением немцев вглубь страны, что привело к потере вначале передовых (Либава, Одесса), а затем и основных (Таллин, Севастополь) баз ВМФ, флоту на время пришлось отказаться от активных самостоятельных действий. Действующие флоты в оперативном отношении в начале войны были подчинены фронтам. Руководящая роль наркома ВМФ флотами оказалась сложной, т. к. задачи перед ними ставило фронтовое командование и реже Ставка. Корабли, авиация, береговая оборона и части морской пехоты, тесно взаимодействуя с сухопутными войсками, оказывали фронтам посильную помощь на приморских направлениях. Морскую авиацию перенацелили против танковых группировок противника и вражеских самолетов, надводные корабли были привлечены огнем поддерживать приморские фланги группировок Красной Армии. Корабли флотов перевозили сотни тысяч людей, миллионы тонн различных грузов. В октябре 1941 г. на флотах и флотилиях было сформировано 25 морских стрелковых бригад, участвовавших в битве за Москву и затем во всех боях и наступлениях наших войск до самого Берлина.
Всю войну Кузнецов был бессменным главкомом советского Военно-морского флота и членом Ставки ВГК. Около 20 раз он выезжал на флоты и в штабы фронтов, руководя операциями ВМФ и координируя их с действиями сухопутных войск.
Н. Г. Кузнецов вспоминал: «У меня, молодого тогда наркома ВМФ, были такие же молодые командующие, как и я сам, не имеющие боевого опыта, но все с полным напряжением сил готовили подчиненные им флоты к войне. «Борьба за первый залп» — так можно охарактеризовать предвоенные два года — 1939-й и 1940-й. В чем суть этого лозунга? Опасность внезапного нападения — к чему было достаточно оснований — на флоте сознавали все и поэтому проводили сотни учений по быстрому повышению готовности на случай неожиданной войны. Оглядываясь назад, вижу немало ошибок и недоделок со своей стороны, но задним числом всегда видится больше и лучше…».
Наиболее напряженно ему приходилось работать при подготовке и проведении ряда десантных операций: Керченско-Феодосийской, Новороссийской, Керченско-Эльтингенской, Петсамо-Киркинесской и др. Постоянно изучал опыт боевого применения кораблей и оперативно доводил его до флотских командиров. Много сделал для взаимодействия сил флота и армии в осуществлении как оборонительных, так и наступательных операций.
В феврале 1944 г. Н. Г. Кузнецову первому в СССР было присвоено высшее воинское звание на флоте — адмирал флота, и он единственный носил погоны с четырьмя звездами, а 31 мая 1944 г. — звание Адмирал флота с маршальскими звездами на погонах, приравненное к званию маршала Советского Союза.
В ходе войны с Японией в 1945 г. Н. Г. Кузнецов руководил действиями Тихоокеанского флота и Амурской военной флотилии, находясь непосредственно в ставке Вооруженных сил Дальнего Востока, координировал действия флота с сухопутными войсками при проведении десантирования на Сахалин, Курильские острова и порты Северной Кореи. После разгрома Японии Кузнецов был удостоен звания Героя Советского Союза.
Кузнецов был одним из инициаторов создания нахимовских училищ и школ.
В 1945 г. участвовал в Крымской и Берлинской конференциях лидеров «большой тройки» — СССР, США и Великобритании. В Крыму ему пришлось решать вопросы, связанные с совместными действиями союзников в Европе, на Дальнем Востоке, военно-морскими поставками по ленд-лизу, выполнять ответственные поручения Ставки по организации и обеспечению приема и безопасности кораблей и самолетов союзных делегаций. Во время Потсдамской конференции Кузнецов участвовал в решении вопроса о разделе между союзниками германского флота. В итоге Советский Союз получил 150 боевых и более 420 вспомогательных кораблей.
После окончания войны Н. Г. Кузнецов на основе анализа и обобщения боевого опыта выдвинул план кораблестроения на 1946–1955 гг., в соответствии с которым основными классами боевых кораблей советского флота должны были стать авианосцы (большие и малые), крейсера с 9-дюймовой артиллерией, подводные лодки, эсминцы и т. д. Кроме того, в советском ВМФ в рамках подготовки новой программы судостроения началась большая научная работа по разработке методов защиты от ядерного оружия и исследованию возможностей применения ядерной энергии. Николай Герасимович считал первостепенной задачей создание сбалансированных по родам сил и классам кораблей флота. Однако руководство Наркомата судостроения решительно возражало против строительства авианосцев, поэтому проект плана неоднократно подвергался корректировке. Разногласия касались также продолжения строительства тяжелых крейсеров, против чего категорически возражал Н. Г. Кузнецов. Его мнение, однако, было проигнорировано на самом высоком уровне.