Обрушив на стол кулак, он заявил Гитлеру, что группа Дитля должна сражаться там, где она находится, до победного конца. Свои доводы Йодль подкреплял тем, что пока оборона не прорвана, отступать без боя не стоило. В конце концов упрямство Йодля возымело действие, и Гитлер разрешил Дитлю остаться в Нарвике. К концу месяца выяснилось, что Йодль не ошибся и что Норвежская кампания немцами выиграна. Гитлер остался очень доволен и пригласил Йодля отобедать с ним. В течение последующих двух лет за обеденным столом фюрера одно место было отведено лично для генерала. Таким образом, Альфред Йодль стал вхож в так называемый ближний круг Адольфа Гитлера. Непосредственное окружение фюрера состояло в основном из гражданских лиц, как рассказывал доктору Мюллеру Альберт Шпеер, все они были молчаливыми, преданными обожателями, которые часами могли выслушивать бесконечные монологи бывшего ефрейтора. Участие Йодля в обедах ставило его в затруднительное положение, поскольку отвлекало от штабной работы. Но, считая себя солдатом, Йодль решил появляться там только в качестве «гостя».[16]
План «Барбаросса», предусматривавший вторжение в СССР, открыл для рейха еще один фронт. На успех этой операции Йодль особенно не рассчитывал (Кейтель даже открыто возражал против нападения), но верил в то, что гений фюрера способен разгромить ненавистную большевистскую империю. Операция «Барбаросса» находилась в ведении ОКХ, а задачей ОКВ было следить за строгим выполнением директив Гитлера. На совещаниях Гитлер все чаще и чаще обращался к Йодлю за советом, предпочитая консультироваться у него, а не у начальника штаба ОКХ генерала Франца Гальдера. В результате Йодль «даже умудрился, минуя Кейтеля, установить с Гитлером прямую связь».[17] Йодля привлекали в фюрере его неординарное мышление и сила воли. Йодль считал, что тот обладал шестым чувством» и, следовательно, добьется великих побед.[18]
Первый кризис между Йодлем и Гитлером разразился в результате разногласий по поводу действий на Восточном фронте. В августе 1942 года, когда Йодль попытался защитить Гальдера от критики со стороны Гитлера, фюрер пришел в неописуемую ярость и совершенно потерял над собой контроль, С тех пор он не только никогда не садился с Йодлем за обеденный стол, но даже, не подавал ему руки. Второй, более серьезный кризис возник, когда Гитлер потерял терпение из-за того, что группа армий «А» фельдмаршала Зигмунда Вильгельма Листа застряла на Кавказе. Фюрер, чтобы разведать обстановку и заставить фельдмаршала наступать, отправил в его штаб Йодля, который по возвращении выступил в защиту действий Листа. После длительного спора Гитлер решил заменить Йодля на генерала Фридриха Паулюса, после того как тот победит под Сталинградом. Но этой победы фюрер так и не дождался. Паулюс сдался русским, а Йодль остался в ОКВ.
Хотя Гитлер по-прежнему продолжал относиться к Йодлю с прохладцей, он, наконец, понял, что тот незаменим. Со своей стороны Йодль оставался предан фюреру и продолжал выполнять все его приказы. В дальнейшем их отношения немного потеплели. Надо сказать, что Йодль отверг приказ Гитлера, согласно которому все взятые в плен вражеские парашютисты подлежали истреблению. После поражения под Сталинградом Йодль понял, что война уже никогда не будет выиграна, но он продолжал подчиняться и во всем поддерживать Верховного главнокомандующего.
Весной, что последовала за сталинградской катастрофой, Йодля постигла личная трагедия. Его любимая жена уехала в Кенигсберг, чтобы подвергнуться серьезной операции на позвоночнике. Во время массированных налетов бомбардировщиков союзников на город она пряталась в холодном и сыром бомбоубежище. В результате у нее развилась двусторонняя пневмония, которая вскоре свела ее в могилу.[19] Позже, в том же году, Йодль женился на Луизе фон Бенда, которая уже давно благоволила ему. Она была рядом с ним на протяжении всего Нюрнбергского процесса, а впоследствии добилась его оправдания во время судебного разбирательства в Мюнхене в 1953 году.[20]
В течение последних 18 месяцев войны Йодль продолжал трудиться в ставке Гитлера. 20 июля 1944 года, в Растенбурге, когда покушение графа фон Штауффенберга на жизнь диктатора едва не увенчалось успехом, генерал отделался легкими ранениями. Взрыв сблизил Гитлера с Кейтелем и Йодлем. Йодль оставался в Берлине, около фюрера, почти до конца апреля 1945 года, пока не перебрался на командный пункт гросс-адмирала Деница. По иронии судьбы один из последних приказов Гитлера, отданный 25 апреля, возлагал верховное командование на ОКВ. К этому времени поражение уже было предопределено, и Гитлер признал, что его лучшие командиры, как сказал Геббельс, были измотаны.[21]