1 апреля 1910 года, в свои неполные 19 лет, он вступил в знаменитый кайзеровский военно-морской флот, который в то время стремительно развивался. 207 его товарищей по экипажу были распределены по четырем учебным суднам. Карл Девиц попал на корабль «Герта». Позднее, оглядываясь на прожитые годы, он сам себе задавал вопрос, почему его поколение не прельстилось снобизмом? Что повлияло на это — то ли воспитание, полученное им в родительском доме, то ли тот отпечаток духовности, который оставила школа? Несмотря на весьма скромный достаток в высокообразованных семьях буржуазии, представители этого класса воспитывали из своих сыновей «молодых господ», соблюдавших совершенно четкую дистанцию по отношению к мелкой буржуазии и тем более к рабочему классу. Но способствовало ли такое воспитание гардемаринов очень суровой службе? Серьезные размышления в офицерском корпусе республиканского морского флота о причинах мятежа кайзеровского океанского флота в 1917–1918 годах подтвердили сомнения на этот счет. В национал-социализме привлекательным могло быть то обстоятельство, что здесь социальные различия любого рода настойчиво отвергались.
Обучение гардемаринов было строгим, но справедливым. Сюда входило прежде всего шесть недель строевой подготовки во втором батальоне морской пехоты в городе Киле, где, в отличие от сухопутных войск, имелось очень много военнослужащих с боевым опытом, принимавших участие в подавлении Боксерского восстания в Китае в 1900 году (Ихэтуаньское восстание — народное антиимпериалистическое восстание в Северном Китае в 1899–1901 годах. — Прим. пер.) и высадке морского десанта во время восстания гереро в Юго-Западной Африке (гереро — народ в Намибии и Анголе. Восстание гереро и готтентотов в 1904–1907 годах в Юго-Западной Африке против германских колонизаторов. Жестоко подавлено. — Прим. пер.). Кроме того, четыре недели гардемарины обязаны были проходить службу у котлов и топки. Военные суда в то время топились углем, и прием угля на борт, а также служба в котельной являлись самыми тяжелыми и неприятными обязанностями для команды. Но в системе подготовки будущих морских офицеров существовал железный принцип, согласно которому они должны были знать все виды службы как на суше, так и на борту корабля. Дёниц в одинаковой степени хорошо изучил и полюбил все, что касалось его будущей сферы деятельности, будь то кораблевождение, связь, артиллерия или минно-торпедное дело. Он был слаб только в знании уставов, считавшихся как раз одной из самых важных служебных дисциплин, которые он потом, будучи референтом в министерстве вооруженных сил, обязан был дорабатывать.
Следствием этой «нелюбви» к уставам явилось то, что в списке на повышение в должности он значился под номером 39. Только в 1913 году он продвинулся в этом списке до номера 20. Но молодой-гардемарин; имевший разнообразные интересы и хорошие природные задатки, успешно закончил Военно-морскую школу в Фленсбурге-Мюрвике и 1 октября 1912 года прибыл для дальнейшего прохождения службы в качестве фенриха на малый крейсер «Бреслау». Командиром корабля был капитан второго ранга фон Клидинг, старшим помощником — капитан-лейтенант фон Левенфельд, который обратил внимание на нового фенриха еще на «Герте», где Левенфельд был штурманом. Левенфельд заметил те большие дарования, которыми природа наделила этого молодого начинающего офицера.
Дёницу были присущи общительность и отзывчивость, когда, дело касалось службы, в личной же жизни он был очень сдержан и молчалив, трудно находил товарищей. Личная дружба еще с кадетских времен связывала его лишь с бароном Гуго фон Ламецаном, баварским аристократом, выходцем из семьи, имевшей французские корни, да с будущим вице-адмиралом Эрихом Фрике, с которым он познакомился позднее.